Profesor de Stanford acusado de utilizar IA para falsificar testimonios en el caso Minnesota contra YouTuber conservador

cierra

Vídeo

Fox News Flash de los principales titulares de noviembre 24

Fox News Los principales titulares en Flash están aquí. Echa un vistazo a lo que está haciendo clic en Foxnews.com.

Un "experto en desinformación" de la Universidad de Stanford ha sido acusado de utilizar inteligencia artificial (IA) para elaborar un testimonio utilizado posteriormente por Minnesota El fiscal general Keith Ellison en un caso políticamente cargado.

Jeff Hancock, profesor de Comunicación y fundador del cacareado Laboratorio de Medios Sociales de la escuela, prestó declaración como experto en un caso relacionado con un YouTuber satírico conservador llamado Christopher Kohls. El caso judicial versa sobre la reciente prohibición de Minnesota de los deepfakes políticos, que los demandantes argumentan que es un ataque a la libertad de expresión.

El testimonio de Hancock fue presentado al tribunal por Ellison, que aboga a favor de la ley. Hancock es "conocido por sus investigaciones sobre cómo la gente utiliza el engaño con la tecnología, desde el envío de mensajes de texto y correos electrónicos hasta la detección de reseñas falsas en Internet", según el sitio web de Stanford.

Pero los abogados del demandante han pedido al juez federal de Minnesota que lleva el caso que desestime el testimonio, alegando que Hancock citó un estudio falso.

¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (AI)?

Se acusa a un profesor de Stanford de utilizar un modelo lingüístico de IA para redactar una declaración pericial. (Getty Images)

"[La] Declaración del profesor Jeff Hancock cita un estudio que no existe", argumentaron los abogados en un reciente memorándum de 36 páginas. "No existe ningún artículo con ese título".

El "estudio" se titulaba "La influencia de los vídeos deepfake en las actitudes y el comportamiento políticos" y se publicó supuestamente en el Journal of Information Technology & Politics. La presentación del 16 de noviembre señala que la revista es auténtica, pero que nunca había publicado un estudio con ese nombre.

"La publicación existe, pero las páginas citadas pertenecen a artículos no relacionados", argumentaron los abogados. "Probablemente, el estudio fue una 'alucinación' generada por un modelo de lenguaje de gran IA como ChatGPT."

"Los demandantes no saben cómo esta alucinación acabó en la declaración de Hancock, pero pone en entredicho todo el documento, sobre todo cuando gran parte del comentario no contiene metodología ni lógica analítica alguna".

El documento también llama la atención sobre Ellison, argumentando que "las conclusiones en las que más se apoya Ellison no tienen ninguna metodología detrás y consisten enteramente en palabras de expertos".

"Hancock podría haber citado un estudio real similar a la proposición del párrafo 21", afirma el memorándum. "Pero la existencia de una cita ficticia que Hancock (o sus ayudantes) ni siquiera se molestaron en pinchar pone en duda la calidad y veracidad de toda la declaración".

BIDEN ORDEN EJECUTIVA PARA LA INTELIGENCIA ARTIFICIAL "WOKE" LLAMADA "CÁNCER SOCIAL

Las aplicaciones de chat Microsoft Bing Chat y ChatGPT AI se ven en un dispositivo móvil en esta ilustración fotográfica en Varsovia, Polonia, el 21 de julio de 2023. (Jaap Arriens/NurPhoto vía Getty Images)

El memorándum también se reafirma en la afirmación de que la cita es falsa, señalando las múltiples búsquedas que realizaron los abogados para intentar localizar el estudio.

"El título del supuesto artículo, e incluso un fragmento del mismo, no aparece en ningún lugar de Internet indexado por Google y Bing, los motores de búsqueda más utilizados", afirma el documento. "La búsqueda en Google Scholar, un motor de búsqueda especializado en artículos académicos y publicaciones de patentes, no revela ningún artículo que coincida con la descripción de la cita cuyo autor sea 'Hwang' [el supuesto autor] y que incluya el término 'deepfake'".

"¿Quizás se trató simplemente de un error de copia-pega? No lo es", afirma rotundamente el archivo. "El artículo no existe".

Los abogados llegaron a la conclusión de que, si la declaración era parcialmente inventada, carece por completo de fiabilidad y debe ser descartada de la consideración del tribunal.

"La declaración del profesor Hancock debe excluirse en su totalidad porque al menos parte de ella se basa en material fabricado, probablemente generado por un modelo de IA, lo que pone en duda sus afirmaciones concluyentes", concluye el documento. "El tribunal puede investigar el origen de la fabricación y puede que se justifiquen medidas adicionales".

Minnesota El Fiscal General Keith Ellison llega para hablar en el escenario durante el tercer día de la Convención Nacional Demócrata en el United Center el 21 de agosto de 2024, en Chicago, Illinois. (Getty Images)

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

Fox News Digital se puso en contacto con Ellison, Hancock y la Universidad de Stanford para obtener sus comentarios.