Experto en IA sobre cómo ha cambiado la tecnología para facilitar las falsificaciones profundas de IA
La experta en IA Marva Bailer habló con Fox News sobre cómo las herramientas de IA están facilitando cada vez más la creación de deepfakes de famosos.
A pesar de la legislación firmada recientemente en California, las falsificaciones de famosos mediante inteligencia artificial son más frecuentes que nunca.
Uno de los más recientes ha sido un clip de Jennifer Aniston que apareció en Facebook, en el que aparecía hablando de estar en "forma en bikini incluso a mis 50 años" y promocionando suplementos de colágeno que son la razón "por la que mi cuerpo no retiene la grasa", según US Weekly.
El vídeo fue retirado, pero los fans lo cuestionaron y lo enviaron al influencer de fitness Ben Carpenter, que examinó el vídeo.
Determinó que el clip visto inicialmente en el falso ad procedía en realidad de una entrevista de mesa redonda de Hollywood Reporter con otras estrellas, entre ellas Nicole Kidman y Naomi Watts.
Los fans cuestionaron un vídeo de Jennifer Aniston vendiendo un suplemento para la salud, y varias personas lo tacharon de falso profundo. (Gilbert Flores/Variety vía Getty Images)
¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (AI)?
"Puedes ver que el lenguaje corporal coincide. Durante este fragmento del vídeo ella estaba hablando realmente de su actuación, nada que ver con su 'cuerpo en bikini' en absoluto", señala Carpenter en el pie de foto de su post en Instagram al respecto.
Y continuó: "Una vez más, se trata de otro disparo de advertencia que nos muestra de lo que es capaz la IA. Cada vez va a ser más difícil averiguar qué vídeos son auténticos y cuáles no".
Los representantes de Aniston no respondieron inmediatamente a la solicitud de comentarios de Fox News Digital.
Rob Rosenberg, fundador y director de Telluride Legal Strategies, estuvo de acuerdo en que "claramente el vídeo era falso".
Rob Rosenberg, fundador y director de Telluride Legal Strategies, estuvo de acuerdo en que "claramente el vídeo era falso". (James Devaney/GC Images)
"Creo que los fans de Jennifer Aniston probablemente, si escudriñaran el vídeo, creo que probablemente se darían cuenta de que no es auténtico. Hay momentos en los que los labios no se sincronizan con el audio, además, supongo que si fueran fans, también estarían familiarizados con la mesa redonda en la que ella participó anteriormente", dijo.
MIRA: Un experto en IA explica cómo ha cambiado la tecnología para facilitar la falsificación de IA
La experta en IA Marva Bailer coincidió en que es probable que los fans cuestionen un vídeo como el compartido, sobre todo porque Aniston no se prodiga mucho en las redes sociales.
"Jennifer se unió a Instagram 2019, y de hecho batió un récord mundial porque tenía un millón de seguidores en cinco horas. Pero si miras su Instagram, incluso con su gente de relaciones públicas, tiene menos de 200 publicaciones. Así que Instagram no es realmente la forma en que se comunica con su público", dijo. "Así que aunque veamos un ad con ella promocionando un producto en Instagram inmediatamente, nuestro sentido arácnido aparece porque no es así como se comunica con su público".
Aniston no es ni mucho menos la primera famosa cuya imagen se utiliza en un anuncio creado por la IA. Estrellas como Tom Hanks, Taylor Swift, Scarlett Johansson y otras más se han enfrentado a la tecnología.
Tom Hanks es uno de los muchos famosos a los que se ha utilizado su imagen sin permiso en ad utilizando IA. (ANGELA WEISS/AFP vía Getty Images)
"Lo he visto descrito como un gran juego de golpear a un topo", dijo Rosenberg.
"Ciertamente, quieres mantenerte alerta y retirar estas cosas allí donde las detectes. Todas las plataformas, una vez que se les notifica que no es auténtico, que no está autorizado, están obligadas a retirar el vídeo. Pero, obviamente, os corresponde a ti y a tu representación estar atentos a este tipo de cosas y detenerlas lo antes posible. En este caso, me sorprende que se necesitara un millón de visitas o algo así antes de que alguien lo señalara como no auténtico", continuó.
Según el post de Carpenter, el clip de Aniston tenía más de 700.000 visitas cuando lo denunció.
"Lo que ha cambiado en la era de la IA es que estas herramientas digitales se han vuelto mucho más accesibles para la gente, con un coste de entrada realmente bajo o nulo. Mientras que antes se trataba de complicados diseños asistidos por ordenador o de agencias o programas informáticos muy caros y complicados", explicó Bailer. "Así que la gente piensa: 'Oye, puedo hacer un ad', y no está bien, y ahora las estrellas buscan encontrarlos".
"Lo he visto descrito como un gran juego de golpear a un topo".
HAZ CLIC AQUÍ PARA SUSCRIBIRTE AL BOLETÍN DE ENTRETENIMIENTO
Y continuó: "Otra área que es muy interesante de observar es la legislación. Ahora la legislación no se limita al creador o al empleado, sino que se fija en todo el ecosistema. Y lo que eso significa es mirar a la empresa potencial que lo pone o al proveedor que tiene la aplicación o incluso los medios para llegar a ti. Y eso va a ser muy, muy difícil de litigar y rastrear. Pero es mucho dinero si los encuentran".
Existe legislación en Tennessee y ahora en California, con dos proyectos de ley firmados recientemente en septiembre.
El 17 de septiembre, el gobernador de California , Gavin Newsom, estampó su firma en dos proyectos de ley apoyados por el sindicato de actores SAG-AFTRA, que ofrecían protección a la imagen de los actores, vivos y muertos: el AB 1836, que restringe el uso de IA para crear réplicas digitales de artistas muertos sin el consentimiento de sus herederos, y el AB 2602, que aumenta los requisitos de consentimiento de los artistas vivos para las réplicas de IA.
"Seguimos avanzando por un territorio desconocido en lo que se refiere a cómo la IA y los medios digitales están transformando la industria del entretenimiento, pero nuestra estrella polar siempre ha sido proteger a los trabajadores. Esta legislación garantiza que la industria pueda seguir prosperando, al tiempo que refuerza la protección de los trabajadores y la forma en que puede o no utilizarse su imagen", declaró Newsom en un comunicado.
California El gobernador Gavin Newsom firmó dos proyectos de ley de apoyo a la protección de los artistas en relación con la IA, pero vetó un tercero más amplio bill el mes pasado. (AP Photo/John Bazemore)
EL CREADOR DE 'FARGO' ADVIERTE QUE LA AI ES UNA AMENAZA: 'TENEMOS UNA LUCHA ENTRE MANOS'
"Es un día trascendental para los miembros de SAG-AFTRA y para todos los demás, porque las protecciones de la IA por las que tanto luchamos el año pasado se amplían ahora mediante la ley California gracias a la legislatura y al gobernador Gavin Newsom", dijo Fran Drescher, presidenta de SAG-AFTRA. "Dicen que como va California , así va la nación".
MIRA: Un experto jurídico explica por qué los famosos deben estar atentos a los deepfakes de IA
Más tarde, en septiembre, Newsom vetó otra bill, la SB 1047, que también contaba con el respaldo de SAG-AFTRA.
Según The Associated Press, el veto del gobernador supone un importante revés para los intentos de crear barreras de protección en torno a la IA y su rápida evolución con escasa supervisión.
"Aunque bienintencionado, el SB 1047 no tiene en cuenta si un sistema de IA se despliega en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos sensibles", dijo Newsom en un comunicado. "En su lugar, la bill aplica normas estrictas incluso a las funciones más básicas, siempre que un gran sistema las despliegue. No creo que éste sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología."
Fran Drescher se convirtió en la presidenta de la SAG-AFTRA en 2021 y estuvo presente en la firma de dos proyectos de ley sobre AI con el gobernador Gavin Newsom. (Rodin Eckenroth/Getty Images)
¿TE GUSTA LO QUE ESTÁS LEYENDO? HAZ CLIC AQUÍ PARA VER MÁS NOTICIAS DE ENTRETENIMIENTO
"Voy a dar mucho crédito a California porque creo que han sido bastante agresivos a la hora de aprobar legislación en torno a la IA y la información engañosa que se entrega a los consumidores", dijo Rosenberg. "Creo que realmente están a la cabeza en lo que se refiere a intentar entender cómo protegemos a los consumidores de los malentendidos que podrían surgir del uso de esta tecnología".
Respecto al veto de bill, añadió: "El gobernador Newsom es el gobernador de un estado en el que, por un lado, tienes el centro de la industria del entretenimiento y con Hollywood. Y por otro lado, creo que, ya sabes, algo así como 32 de los 50 principales desarrolladores de I.A. del mundo están también en su estado. Así que, ya sabes, está intentando equilibrar intereses contrapuestos dentro de su estado. Obviamente, quiere que la gente, esas empresas, se queden allí. Quiere que sigan desarrollándose, que traigan inversiones, todo ese tipo de cosas. Y creo que eso es lo que hemos visto con este bill en particular, que está intentando marcar el camino en muchos de estos proyectos de ley que se han convertido en ley. Pero al mismo tiempo, no quiere ahogar la innovación, por lo que está buscando la manera de dar a la gente la oportunidad de descubrir todos los buenos usos de esta tecnología, sin perder de vista y vigilando los malos usos".
La clave para hacer frente a esto, tanto para los famosos como para el ciudadano de a pie, va a ser la vigilancia.
Estrellas como Jennifer Aniston, así como el ciudadano de a pie, tendrán que estar atentos a los vídeos falsificados por IA que circulan por Internet, dicen los expertos. (Michael Buckner/Variety vía Getty Images)
"La legislación no detendrá los anuncios no autorizados desde la era digital", dijo Bailer. "Habrá creadores que pondrán lo que quieran, ya sea por diversión, por lucro o para hacer daño. Y eso depende de las autoridades. Depende de los fans, y depende de las relaciones públicas intentar realmente encontrar a esas personas y detenerlas de nuevo, cuando tenga sentido. Y eso es lo que tenemos que analizar. ¿Dónde están nuestras prioridades y dónde ponemos nuestra atención? Porque a veces, cuando ponemos nuestra atención en los malos buenos, nos estamos perdiendo a los buenos. Pero la gente va a hacer lo que quiera porque eso es lo que nos hace humanos".
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
"Con toda ley, sólo es tan eficaz como la aplicación de la ley. Y creo que eso depende de lo vigilantes que sean los legisladores y las fuerzas del orden a la hora de perseguir a la gente, porque ciertamente si yo fuera Jennifer Aniston en este caso, podría entablar una acción privada contra las personas si pudiera averiguar quiénes son", dijo Rosenberg. "Pero incluso una vez promulgada la ley, la cuestión es si los gobiernos y las fuerzas del orden la aplicarán y en qué medida.
Y añadió: "No es una moda pasajera. No es una exageración. Está llegando. Y, ya sabes, va a ser cada vez más frecuente en los negocios y en la vida. Va a afectar a todo lo que hacemos. Creo que estamos aprendiendo sobre la marcha".
Tendencias
