El presidente del grupo de trabajo sobre inteligencia artificial de la Cámara de Representantes habla de los objetivos y riesgos de la IA
El diputado Jay Obernolte fue elegido para dirigir el grupo de trabajo de la Cámara sobre IA. Fox News Digital habla con el republicano de California sobre sus objetivos para el grupo y sus propias ideas sobre esta tecnología en rápido avance.
La falsificación de la IA se está convirtiendo rápidamente en uno de los mayores problemas a los que nos enfrentamos en Internet. Las imágenes, los vídeos y el audio engañosos proliferan como consecuencia del auge y el mal uso de las herramientas de inteligencia artificial generativa.
Con los deepfakes de IA que aparecen casi a diario, representando a todo el mundo, desde Taylor Swift a Donald Trump, cada vez es más difícil distinguir lo que es real de lo que no lo es. Los generadores de vídeo e imágenes como DALL-E, Midjourney y Sora de OpenAI facilitan la creación de deepfakes a personas sin conocimientos técnicos: basta con escribir una solicitud y el sistema la escupe.
Estas imágenes falsas pueden parecer inofensivas. Pero pueden utilizarse para llevar a cabo estafas y robos de identidad o propaganda y manipulación electoral.
LOS DEEPFAKES AI ESTÁN PONIENDO EN PELIGRO LA DEMOCRACIA. AQUÍ TIENES 4 FORMAS DE CONTRAATACAR
He aquí cómo evitar ser engañado por deepfakes:
CÓMO DETECTAR UN DEEPFAKE
En los primeros días de los deepfakes, la tecnología distaba mucho de ser perfecta y a menudo dejaba señales reveladoras de manipulación. Los verificadores de hechos han señalado imágenes con errores evidentes, como manos con seis dedos o gafas con cristales de forma diferente.
Pero a medida que la IA ha mejorado, se ha vuelto mucho más difícil. Algunos consejos ampliamente compartidos -como buscar patrones de parpadeo no naturales entre las personas en los vídeos de deepfake- ya no son válidos, dijo Henry Ajder, fundador de la empresa de consultoría Latent Space Advisory y destacado experto en IA generativa.
Un vídeo falso del presidente ucraniano Volodymyr Zelensky pidiendo a sus soldados que depongan las armas, a la derecha, comparado con imágenes reales suyas, a la izquierda, se muestran detrás de una declaración del jefe de política de seguridad de META, en Washington, D.C. A medida que avanza la tecnología, cada vez es más difícil distinguir los deepfakes impulsados por IA de las imágenes reales. (Olivier Douliery/AFP vía Getty Images)
Aun así, hay algunas cosas en las que fijarse, dijo.
Muchas de las fotos deepfake de IA, especialmente las de personas, tienen un brillo electrónico, "una especie de efecto estético de suavizado" que deja la piel "con un aspecto increíblemente pulido", dijo Ajder.
Advirtió, sin embargo, que la incitación creativa a veces puede eliminar éste y muchos otros signos de manipulación de la IA.
Comprueba la coherencia de las sombras y la iluminación. A menudo, el sujeto está bien enfocado y parece convincente, pero los elementos del fondo pueden no ser tan realistas o pulidos.
MIRA LAS CARAS
El face-swapping es uno de los métodos de deepfake más comunes. Los expertos aconsejan fijarse bien en los bordes de la cara. ¿El tono de la piel de la cara coincide con el del resto de la cabeza o del cuerpo? ¿Los bordes de la cara son nítidos o borrosos?
Si sospechas que un vídeo de una persona hablando ha sido manipulado, mira su boca. ¿Sus movimientos labiales coinciden perfectamente con el audio?
Ajder sugiere mirar los dientes. ¿Son claros, o están borrosos y de algún modo no coinciden con su aspecto en la vida real?
La empresa de ciberseguridad Norton afirma que es posible que los algoritmos aún no sean lo bastante sofisticados para generar dientes individuales, por lo que la falta de contornos de dientes individuales podría ser una pista.
PIENSA EN EL PANORAMA GENERAL
A veces el contexto importa. Tómate un tiempo para considerar si lo que ves es plausible.
El sitio web de periodismo Poynter aconseja que si ves a un personaje público haciendo algo que parece "exagerado, poco realista o que no se ajusta a su personaje", podría tratarse de un deepfake.
Por ejemplo, ¿llevaría realmente el Papa una lujosa chaqueta hinchable, como se muestra en una famosa foto falsa? Si así fuera, ¿no habría más fotos o vídeos publicados por fuentes legítimas?
UTILIZAR LA AI PARA ENCONTRAR LAS FALSIFICACIONES
Otro enfoque es utilizar la IA para luchar contra la IA.
Microsoft ha desarrollado una herramienta de autenticación que puede analizar fotos o vídeos para dar una puntuación de confianza sobre si ha sido manipulada. El FakeCatcher del fabricante de chips Intel utiliza algoritmos para analizar los píxeles de una imagen y determinar si es real o falsa.
Hay herramientas en Internet que prometen detectar las falsificaciones si subes un archivo o pegas un enlace al material sospechoso. Pero algunas, como el autenticador de Microsoft, sólo están disponibles para socios seleccionados y no para el público en general. Esto se debe a que los investigadores no quieren alertar a los malos actores y darles una mayor ventaja en la carrera armamentística de los deepfakes.
El acceso abierto a las herramientas de detección también podría dar a la gente la impresión de que son "tecnologías divinas que pueden externalizar el pensamiento crítico por nosotros", cuando, en cambio, debemos ser conscientes de sus limitaciones, dijo Ajder.
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
LOS OBSTÁCULOS PARA ENCONTRAR FALSIFICACIONES
Dicho esto, la inteligencia artificial avanza a una velocidad vertiginosa y los modelos de IA se entrenan con datos de Internet para producir contenidos de calidad cada vez mayor y con menos fallos.
Eso significa que no hay garantía de que este consejo siga siendo válido incluso dentro de un año.
Los expertos afirman que podría ser incluso peligroso imponer a la gente corriente la carga de convertirse en Sherlocks digitales, porque podría darles una falsa sensación de confianza, ya que cada vez es más difícil, incluso para los ojos entrenados, detectar los deepfakes.
Get a daily look at what’s developing in science and technology throughout the world.