Alumnos de secundaria y padres advertidos sobre la amenaza de las fotos de desnudos deepfake

Varios distritos escolares del área de Los Ángeles han investigado casos de imágenes "inapropiadas" de alumnos, generadas por inteligencia artificial, que han circulado por Internet y en mensajes de texto en los últimos meses.

Recientemente, el Distrito Escolar Unificado de Los Ángeles (LAUSD) anunció que está investigando "acusaciones de fotos inapropiadas creadas y difundidas en la comunidad del Instituto Fairfax", según informó el distrito escolar a Fox News Digital en un comunicado. "Estas acusaciones se toman en serio, no reflejan los valores de la comunidad del Distrito Escolar Unificado de Los Ángeles y darán lugar a las medidas disciplinarias oportunas si se justifican".

Una investigación preliminar reveló que las imágenes fueron supuestamente "creadas y compartidas en una aplicación de mensajería de terceros no afiliada" al LAUSD. El distrito escolar declaró que "sigue impartiendo formación sobre el uso ético de la tecnología -incluida la Inteligencia Artificial- y se compromete a mejorar la educación en materia de ciudadanía digital, privacidad y seguridad para todos en nuestras comunidades escolares."

Las aplicaciones y sitios web de IA tienen la capacidad de superponer fotos de rostros de personas en fotos de desnudos generadas por la IA o, en algunos casos, en vídeos.

EL CONGRESO DEBE DETENER UNA NUEVA HERRAMIENTA DE AI UTILIZADA PARA EXPLOTAR A MENORES

Titania Jordan, directora general de la empresa de seguridad en redes sociales Bark Technologies, dijo a Fox News Digital en una declaración que el reciente incidente en el LAUSD "es indicativo de un problema mayor que afecta a la sociedad: el uso de la IA con fines malintencionados".

"Los deepfakes -y específicamente las imágenes y vídeos íntimos no consentidos compartidos y fabricados- no son como los divertidos filtros de TikTok o Snapchat. Estos medios engañosamente realistas pueden tener consecuencias devastadoras en la vida real para las víctimas que no consintieron que se utilizara su imagen", afirmó. "Para complicar las cosas está el hecho de que la tecnología que hay detrás de ellos es cada día mejor. Ya ha llegado un punto en que puede ser difícil distinguir entre un vídeo auténtico y un deepfake".

El anuncio se produce tras casos similares en el Distrito Escolar Unificado de Beverly Hills (BHUSD) y en el Distrito Escolar Unificado de Laguna Beach (LBUSD).

LA PORNOGRAFÍA GENERADA POR LA AI, INCLUIDOS LOS DESNUDOS FALSOS DE FAMOSAS, PERSISTE EN ETSY MIENTRAS LAS LEYES SOBRE DEEPFAKE "SE QUEDAN ATRÁS

A principios de este mes, el director del instituto Dana Hills, Jason Allemann, envió una carta a los padres notificándoles que circulaban por Internet imágenes de estudiantes desnudos generadas por IA, informó FOX 11 Los Angeles. Las imágenes circulaban por Internet y en mensajes de texto, según el medio.

"Estas acciones no sólo comprometen la dignidad individual, sino que también socavan el entorno positivo y de apoyo que pretendemos fomentar en LBHS", dijo Allemann en la carta, según FOX 11.

Ariana Coulolias, estudiante de último curso en Dana Hills, dijo a FOX 11 que las imágenes parecían "realmente reales".

UNA ESCUELA SECUNDARIA DE CALIFORNIA SACUDIDA POR LA DIFUSION DE FOTOS DE ALUMNOS DESNUDOS GENERADAS POR A

"Da un poco de miedo ver que ocurren cosas así", dijo Coulolias al medio de comunicación.

En febrero, unos alumnos de secundaria informaron a los administradores de la escuela de Beverly Hills de que circulaban imágenes inapropiadas de AI por la escuela secundaria de Beverly Vista. 

"Queremos dejar inequívocamente claro que este comportamiento es inaceptable y no refleja los valores de nuestra comunidad escolar", dijo el distrito en una declaración facilitada a Fox News Digital en su momento. "Aunque somos conscientes de que se están produciendo situaciones similares en todo el país, debemos actuar ahora. Este comportamiento se eleva a un nivel que requiere que toda la comunidad trabaje en colaboración para garantizar que cesa inmediatamente." 

El distrito señaló que el uso indebido de la IA en tales actos puede no ser técnicamente un delito, ya que las leyes aún se están poniendo al día con la tecnología.

X BLOQUEA LAS BÚSQUEDAS DE TAYLOR SWIFT EN MEDIO DE LA OLEADA DE IMÁGENES GRÁFICAS FALSAS DE AI

"Estamos colaborando estrechamente con el Departamento de Policía de Beverly Hills a lo largo de esta investigación", declaró el distrito. "Os aseguramos que, si se descubre algún delito, se tratará con todo el rigor posible".

Titania Jordan, de Bark Technologies, señaló que incluso Taylor Swift se convirtió recientemente en víctima de "esta violación de la privacidad" derivada de un "desafío viral de 4chan" que utilizaba tecnología de IA deepfake. "Puede que la Sra. Swift haya llamado mucho la atención sobre este asunto, pero existe desde hace tiempo, y ocurre más a menudo de lo que la mayoría de la gente cree. Por desgracia, las fuerzas del orden y la acción judicial han tardado en ponerse al día con esta tecnología debido a lo nueva que es", afirmó Jordan.

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

Añadió que "[l]os estudiantes, las familias y las escuelas deben trabajar juntos para educar a su comunidad sobre lo peligroso e inaceptable que es crear deepfakes sin permiso."

"No se trata sólo del daño potencial de los desnudos falsos: la tecnología deepfake también puede utilizarse en estafas, atracos e incluso para influir en el comportamiento político", explicó Jordan.

Fox NewsBradford Betz ha contribuido a este informe.