Las empresas de IA y el Congreso tienen la responsabilidad de hacer más estrictas las normas sobre deepfake: Kara Frederick
La directora de política tecnológica de la Fundación Heritage, Kara Frederick, se une a "America's Newsroom" para hablar de las fotos pornográficas de Taylor Swift tomadas por la IA, que están provocando conversaciones sobre la regulación de las falsificaciones.
Etsy, el minorista en línea conocido por ofrecer una plataforma para vender productos hechos a mano y vintage, sigue albergando a vendedores de imágenes pornográficas "deepfake" de famosas y mujeres al azar, a pesar de los esfuerzos de la empresa por limpiar el sitio.
La proliferación de imágenes sexualmente explícitas generadas por inteligencia artificial (IA) -incluidas representaciones de famosas- en un mercado por lo demás inocuo resulta chocante para muchos expertos. El problema persiste en la plataforma desde hace meses.
"Parece una plataforma totalmente inocua para que la gente haga esto. Normalmente encontramos mucho contenido explícito en Twitter, o en otros portales particulares para ese tipo de materiales", dijo a Fox News Digital Siwei Lyu, informático y experto en aprendizaje automático y detección de deepfakes. "Pero contaminar el espacio en una plataforma así [como Etsy] es bastante difícil de creer".
En esta ilustración fotográfica, el logotipo de Etsy aparece en un smartphone. (Ilustración fotográfica de Rafael Henrique/SOPA Images/LightRocket vía Getty Images)
El contenido explícito tampoco está oculto. Fox News Digital descubrió que una simple búsqueda de "desnudo ai" o"porno deepfake" en Etsy arrojaba más de 1.000 resultados cada una, mientras que una búsqueda de "porno" arrojaba cero resultados. Incluso sin una búsqueda restringida, algunos artículos generados por IA explícita aparecían en el algoritmo "También te puede gustar" mientras se buscaban otros artículos no relacionados.
Aunque no todos los resultados mostraban contenido pornográfico, muchas de las imágenes de desnudos son de mujeres totalmente inventadas creadas por la IA. Una tienda vende incluso una guía en formato de libro electrónico sobre cómo crear contenido X de IA.
Noventa y cinco fotos de Margot Rob bie también se vendían por 10,95 dólares en una tienda con la descripción "Margot Robbie Desnuda Fotorealista AI Celebrity Nude Art - | NSFW Ai Girl | AI Girl | Celebrity Nude" desde el jueves.
Varias de las fotos mostradas eran imágenes reales de la actriz de "El lobo de Wall Street", mientras que otras eran fotos de ella totalmente desnuda generadas por la IA. Una de las fotos de Margot Robbie generadas por la IA mostraba a la actriz en un acto sexual. El equipo de Robbie no respondió inmediatamente a las peticiones de comentarios de Fox News Digital.
Grande (Foto de David Crotty/Patrick McMullan vía Getty Images)
Otro bloque de fotos de AI a la venta llevaba la etiqueta "Ariana Grande Photorealistic AI Nude Art - Seductive and Sensual Digital Artwork | NSFW Ai Girl | AI Girl | Cosplay". En la pila de fotos preliminares aparecían fotos sugerentes de la cantante, pero en ninguna aparecía desnuda. Fox News Digital también se puso en contacto con el equipo de Grande.
Después de que Fox News Digital solicitara comentarios a Etsy, los listados fueron retirados por infringir las políticas. Pero algunas de las fotos ya se habían comprado y descargado.
"La IA, especialmente las tecnologías de IA generativa, hoy en día son lo bastante potentes como para crear imágenes muy realistas, y mucha gente cae en la trampa, porque no lo entiende", dijo Lyu.
Lyu explicó que la IA generativa, un concepto de aprendizaje profundo en el software de IA que permite al sistema aprender y desarrollarse con el tiempo para mejorar sus resultados, hace que sea "técnicamente difícil" identificar imágenes falsas.
Y ahora que este software se ha generalizado para uso personal, hace más difícil que las leyes se pongan al día ante actividades potencialmente nefastas, como la creación de deepfakes de famosos o la pornografía ilustrada con IA. Lyu afirmó que las leyes actuales "van por detrás" del rápido desarrollo de la IA.
Blake Klinkner, profesor adjunto de Derecho en la Universidad de Dakota del Norte que enseña Derecho de la Ciberseguridad, ha estado estudiando la intersección emergente del Derecho y la IA. Afirma que la Primera Enmienda cubre una serie de libertades creativas, y que las leyes federales aún no han eliminado las imágenes generadas por IA potencialmente delictivas.
Taylor Swift asiste a la 66ª edición de los Premios GRAMMY en el Crypto.com Arena el 4 de febrero de 2024, en Los Ángeles, California. (Matt Winkelmeyer/Getty Images para la Academia de la Grabación)
"Es muy fácil tomar cualquier imagen, vídeo o audio y pasarlo por un programa informático para crear un deepfake", dijo Klinkner a Fox News Digital.
Añadió que las fotos de famosos se pasan por un software de IA "que aprende a mapear la cara de la persona, o incluso vídeos, y luego crea estas imágenes obscenas y pornográficas".
"Así que estás viendo estas imágenes vendidas en Etsy online, y una búsqueda relativamente sencilla puede, por desgracia, llevar a un montón de resultados de individuos que venden estas imágenes", dijo Klinkner. "Y de nuevo, como la IA es relativamente asequible hoy en día, no hay mucho que impida a los individuos hacer estas imágenes e incluso intentar venderlas".
Klinkner añadió que, cuando se plantean estos casos, los jueces no suelen estar familiarizados con los deepfakes y dudan en aplicar leyes antiguas a un problema bastante moderno.
"Realmente no pueden entender que un ordenador tome una imagen y cree imágenes que se parecen a ti y que en realidad no eres tú", dijo.
Los usuarios que crean estas imágenes también son difíciles de localizar, ya que muchos utilizan alias y fotos falsas en sus perfiles. Klinkner dijo que se crea "una situación de Whack-A-Mole" en la que si una cuenta es eliminada, se puede crear una nueva.
¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (AI)?
Miles de resultados en Etsy muestran porno ilustrado con IA. (Bloomberg / Colaborador)
En diciembre, Etsy barrió parte de su mercado después de que un informe de Forbes sacara a la luz 16 cuentas que vendíandeepfakes explícitos de famosas. Dos de las víctimas eran las actrices Olivia Munn y Jenna Ortega. Etsy eliminó las cuentas.
"Estamos profundamente comprometidos con la seguridad de nuestro mercado y nuestra comunidad. Aunque en Etsy se permite cierto contenido para adultos, hace tiempo que prohibimos la pornografía y controlamos de cerca nuestro mercado para identificar y eliminar el contenido que infringe nuestras políticas", dijo Alice Wu, responsable de confianza y seguridad de Etsy a Fox News Digital en un comunicado."Evolucionar nuestras políticas y ampliar nuestros esfuerzos de cumplimiento relacionados con el contenido maduro -incluso en áreas emergentes como los deepfakes de IA- es una prioridad clave para Etsy este año."
Pero miles de imágenes pornográficas -accesibles en el sitio web por cualquier persona independientemente de su edad- siguen estando fácilmente disponibles en la plataforma.
Según las normas de Etsy, la pornografía "de cualquier tipo" está prohibida, mientras que "el contenido para adultos está restringido". La empresa afirma que adopta un "enfoque liberal" de lo que constituye pornografía. Etsy permite algunas imágenes de desnudos con fines artísticos.
"Aunque la pornografía puede ser difícil de definir, por lo general un artículo se considera pornografía cuando contiene material impreso o visual que describe o muestra explícitamente actos sexuales, órganos sexuales u otros comportamientos eróticos con fines de excitación o estimulación sexual", dicen las normas.
La estrella de "Barbie" Margot Robbie llega al almuerzo de los nominados a la 96ª edición de los Premios Oscar de la Academia el 12 de febrero de 2024, en el Hotel Beverly Hilton de Beverly Hills, California. (Jordan Strauss/Invision/AP)
El mes pasado, la cantante Taylor Swift saltó a los titulares cuando unas imágenes suyas falsas circularon por las redes sociales. Pocos días después, el Congreso presentó una ley para reprimir la creación de este tipo de imágenes que parecen idénticas a las de celebridades reales.
La Ley contra el FRAUDE de IA, presentada el mes pasado por la congresista republicana de Florida María Salazar, impondría sanciones a los usuarios que crearan imágenes generativas de IA para perjudicar a personas, sean o no personajes públicos.
Sólo unos pocos estados tienen leyes que penalizan la pornografía deepfake no consentida: Georgia, Hawai, Texas y Virginia. En California e Illinois, las víctimas pueden demandar a los autores que crean imágenes explícitas a su semejanza.
Andrew W. Torrance, distinguido profesor de la Facultad de Derecho de la Universidad de Kansas, dijo en una entrevista a Fox News Digital que, aunque existe protección en virtud de la Primera Enmienda para crear imágenes o vídeos de otros, especialmente de personajes públicos, hay limitaciones. La parodia está protegida, pero si la representación es demasiado realista, puede vulnerar derechos como la intimidad o el derecho a la publicidad, especialmente en el caso de los famosos, o constituir difamación o fraude.
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
"Una celebridad como Margot Robbie, en California... y en algunos otros estados, tiene derechos especiales sobre su imagen pública, porque es una celebridad", dijo Torrance a Fox News Digital. "Y cuando te entrometes en esa imagen pública, cuando empiezas a hacerla parecer como ella no quiere parecer o sonar, o defiendes opiniones que en realidad no tiene, puedes empezar a infringir este derecho de publicidad, y ella podría tener derecho a demandarte para impedir que lo hagas y que lo retires".
"Creo que por eso las cosas están llegando a un punto crítico, porque hemos llegado a un punto en el que realmente es difícil distinguir entre lo generado y lo real, y la cantidad de daño que es posible causar engañando a un gran número de personas es tremenda", dijo.
Más de Política
