¿Son los vídeos falsos generados por IA una amenaza potencial para la seguridad nacional de EEUU?

Un grupo de legisladores estadounidenses así lo cree. El jueves, pidieron a las agencias de inteligencia estadounidenses que elaboraran un informe en el que se evaluara cómo el país podría detener " deepfake "que difunden desinformación en Internet.

"Nos preocupa profundamente que la tecnología de falsificación profunda pueda ser desplegada pronto por actores extranjeros malintencionados", reza una carta de los representantes estadounidenses Adam Schiff (D-Calif.), Stephanie Murphy (D-Fla.) y Carlos Curbelo (R-Fla.).

La gran preocupación es que gobiernos extranjeros engañen algún día a millones de estadounidenses con vídeos o audios falsos generados por IA. Imagina que se representa a un político estadounidense haciendo un comentario racista y que el clip se hace viral justo antes de unas elecciones. Gracias a los algoritmos actuales de aprendizaje automático, un mal actor podría conseguirlo. La tecnología ya puede clonar tu voz, cambiar la cara de alguien por otra, y tomar grabaciones existentes y manipular los labios del sujeto para que diga otra cosa.

Más de PCmag

Afortunadamente, el deepfake no puede fabricar todas las imágenes de forma convincente. No obstante, a los legisladores les preocupa que la tecnología madure y acabe cayendo en las manos equivocadas con efectos devastadores.

"Difuminando la línea entre realidad y ficción, deepfake podría socavar la confianza del público en las imágenes y vídeos grabados como representaciones objetivas de la realidad", dice la carta.

Los legisladores enviaron su carta al Director de Inteligencia Nacional, Dan Coats, que ha advertido al Congreso sobre los intentos rusos de utilizar las redes sociales estadounidenses para difundir desinformación antes de las elecciones de mitad de mandato. Hasta ahora, los esfuerzos de desinformación se han limitado generalmente a memes incendiarios de Internet y opiniones de cuentas falsas. Pero los legisladores piden a los servicios de inteligencia estadounidenses que examinen si algún gobierno extranjero ha intentado ya utilizar deepfake para difundir desinformación en Estados Unidos.

También están pidiendo a los servicios de inteligencia de EE.UU. que presenten recomendaciones sobre cómo contrarrestar deepfake -y si el Congreso debe actuar de alguna manera. Los legisladores han pedido a la Oficina del Director de Inteligencia Nacional que presente el informe antes del 14 de diciembre.

Este artículo apareció originalmente en PCMag.com.