Niñas de un instituto de Nueva Jersey "humilladas" después de que sus compañeras utilizaran IA para generar imágenes falsas de desnudos: informe

Los padres de las alumnas de un instituto de Nueva Jersey declararon que sus hijas se sintieron humilladas tras enterarse de que circulaban entre sus compañeras imágenes pornográficas falsas de ellas mismas, generadas mediante el uso de Inteligencia Artificial (IA).

Las alumnas del instituto Westfield, en Nueva Jersey, se enteraron de las imágenes tras observar a los chicos de segundo curso susurrando y actuando de forma "extraña" el 16 de octubre, según informó el Wall Street Journal. 

Unos días después, un chico confesó a algunas de las chicas que al menos un alumno había utilizado fotos reales, encontradas en las redes sociales, para generar imágenes falsas de desnudos de las compañeras a través de un sitio web de IA. Al parecer, el estudiante compartió luego estas imágenes con otros estudiantes varones en un mensaje de grupo. Las chicas denunciaron el incidente a la administración del instituto de Westfield y éste investigó el asunto, según el WSJ.

Las Escuelas de Westfield dijeron a Fox News Digital que no podían proporcionar detalles concretos sobre el número de alumnos implicados o las medidas disciplinarias adoptadas debido a la confidencialidad. El distrito dijo que el incidente ocurrió durante el verano, pero la administración fue informada el 20 de octubre. Se notificó y consultó al Departamento de Policía de Westfield y al Agente de Recursos Escolares, y se proporcionó asesoramiento a los alumnos, añadieron.

EL AI SE UTILIZA AHORA PARA GENERAR PORNOGRAFÍA INFANTIL Y CHANTAJEAR A ADOLESCENTES: EXPERTO EN SEGURIDAD DIGITAL

La directora del Westfield High School, Mary Asfendis, también envió un correo electrónico a los padres el 20 de octubre, calificando el incidente de "muy grave". La directora dijo que creía que las imágenes se habían borrado y no estaban circulando. Instó a los padres a colaborar con la escuela para enseñar a los alumnos a utilizar la tecnología de forma responsable y a debatir sobre su impacto en los demás.

Algunos padres se mostraron molestos por la forma en que el colegio está gestionando la situación. Una madre dijo a Tap Into Westfield, un medio de comunicación local, que el centro no había hecho lo suficiente para proteger a las alumnas porque el chico que creó las imágenes seguía teniendo permiso para ir al centro. También exigió que el centro aplicara una nueva política de AI para proteger a futuras alumnas de este tipo de explotación.

Cuatro padres también presentaron informes policiales, y dijeron al WSJ que no habían visto las imágenes. 

La situación ha hecho que algunas chicas se sientan "humilladas e impotentes", informó el medio. 

Dorota Mani, madre de Westfield High, dijo que temía el impacto que la imagen falsa pudiera tener en el futuro de su hija.

"Estoy am aterrorizada por cómo y cuándo va a salir esto a la luz. Mi hija tiene un futuro brillante y nadie puede garantizar que esto no le afecte profesional, académica o socialmente", dijo Mani al medio.

UN EXPERTO ADVIERTE DE QUE LA ORDEN AI DE BIDEN TIENE "PRIORIDADES EQUIVOCADAS" A PESAR DE ALGUNAS CRÍTICAS POSITIVAS

Su hija dijo que algunas de sus compañeras de clase decidieron eliminar sus cuentas en las redes sociales o adoptar un enfoque más prudente con respecto a lo que publican, debido al incidente. 

El Superintendente de las Escuelas Públicas de Westfield, Dr. Raymond González, hizo la siguiente declaración a Fox News Digital:

"Todos los distritos escolares están lidiando con los retos y el impacto de la Inteligencia Artificial y otras tecnologías a disposición de los alumnos en cualquier momento y lugar. El Distrito de Escuelas Públicas de Westfield cuenta con salvaguardias para evitar que esto ocurra en nuestra red y en los dispositivos proporcionados por la escuela. Seguimos redoblando nuestros esfuerzos educando a nuestros alumnos y estableciendo directrices claras para garantizar que estas nuevas tecnologías se utilicen de forma responsable en nuestras escuelas y fuera de ellas."  

A medida que la IA sigue evolucionando rápidamente, los fiscales generales de los 50 estados enviaron una carta al Congreso en septiembre, instando a los legisladores a "establecer una comisión de expertos para estudiar los medios y métodos de la IA que pueden utilizarse para explotar específicamente a los niños", y ampliar las restricciones existentes sobre materiales de abuso sexual infantil específicamente para cubrir las imágenes generadas por IA, informó Associated Press.

El presidente Biden también firmó esta semana una orden ejecutiva "histórica" sobre IA , que exige a las empresas que realicen pruebas de seguridad y compartan los problemas de seguridad nacional con el gobierno federal.

El experto en seguridad digital Yaron Litwin declaró anteriormente a Fox News Digital que el avance de la IA ha permitido un aumento de la pornografía infantil y de los intentos de chantaje por parte de delincuentes decididos a explotar a niños y adolescentes. Sus técnicas pueden consistir en editar una fotografía auténtica de un adolescente completamente vestido y convertirla en una imagen desnuda, dijo.

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

Litwin dijo que el proceso de edición de imágenes existentes con IA se ha vuelto increíblemente fácil y rápido, lo que a menudo conduce a experiencias horribles para las familias. 

"No son niños reales", dijo Litwin. "Son niños generados por la IA y, a medida que ésta, a medida que el algoritmo recibe más imágenes de este tipo, puede, básicamente, mejorarse a sí mismo, de forma negativa".

Para más cobertura de Cultura, Medios de Comunicación, Educación, Opinión y canales, visita foxnews.com/media.

Fox NewsNikolas Lanum ha contribuido a este informe.