Los agentes de inteligencia artificial podrían rebelarse y piratear empresas, advierte un exfuncionario del Pentágono
Mark Beall, exdirector de políticas de inteligencia artificial del Pentágono, advierte sobre la amenaza de que agentes de inteligencia artificial rebeldes se escapen de su confinamiento y pirateen los sistemas de las empresas. Comenta lo que ha dicho Sam Altman, de OpenAI CEO , sobre la singularidad tecnológica.
La inteligencia artificial está en el centro de casi todos los debates importantes, desde el empleo y los centros de datos hasta la sanidad, la seguridad nacional y la protección del consumidor. Sin embargo, hay una cuestión más fundamental que no está en el punto de mira a nivel nacional: ¿ Will s modelos de IA buscan la verdad, o se les permitirá ocultar sesgos no revelados en sus respuestas?
A primera vista, las herramientas de IA de uso general se presentan como fuentes neutrales de información y análisis, capaces de responder a la mayoría de las preguntas con referencias, explicaciones bien fundamentadas y comentarios imparciales.
Pero la realidad es otra. Aunque es fácil detectar y descartar las violaciones más flagrantes de la neutralidad y la precisión (por ejemplo, representar a los Padres Fundadores como afroamericanos o a los reyes medievales británicos como de diversas razas), los sesgos subyacentes no son tan evidentes. Es mucho menos probable que el usuario medio se dé cuenta de cuándo un modelo te está llevando hacia un resultado predeterminado o está planteando una respuesta desde una perspectiva políticamente sesgada, ya que los datos muestran que la mayoría de los usuarios no comprueban la veracidad de las respuestas de los modelos de IA.
Los informes y las investigaciones están empezando a sacar a la luz la existencia de estos sesgos ocultos. The Washington Post, por ejemplo, puso a prueba los principales modelos con temas políticos candentes y descubrió que siempre se decantaban por los argumentos de izquierdas, aunque presentaran esas posturas como neutrales.
El presidente « Donald » Trump llega para dar un discurso en la cumbre sobre IA «Winning the AI Race», celebrada en el Auditorio W. Mellon del Instituto de Tecnología de Washington ( Andrew ), en Washington, D.C., el 23 de julio de 2025. (Foto de ANDREW CABALLERO-REYNOLDS/AFP vía Getty Images)
El Centro para la Comunicación Constructiva del MIT llegó a conclusiones similares, al demostrar que los modelos de recompensa muestran sesgos de izquierdas incluso cuando se entrenan con afirmaciones veraces, con un marcado sesgo en temas como el clima, la energía y los sindicatos.
A nivel estatal, algunos legisladores ambiciosos están aprovechando que no hay una ley federal que se anteponga para intentar codificar estos sesgos ocultos. En Nueva York y California, los legisladores quieren sacar adelante proyectos de ley parecidos a la Ley de Inteligencia Artificial original de Colorado, que impondrían evaluaciones de impacto y obligaciones contra la discriminación.
Tal y como se propone, estos marcos crearían incentivos estructurales para que las empresas modificaran u omitieran información en sus respuestas con el fin de evitar responsabilidades legales. La propia interpretación de la FTC de la ley sobre IA deColorado es que «parece obligar a las empresas a modificar los resultados de sus modelos de IA» para promover los objetivos ideológicos del estado. En otras palabras, los políticos están intentando promulgar leyes que, en la práctica, penalizan las respuestas precisas de los modelos.
Estos sesgos no son ni triviales ni insignificantes. La IA se está implantando a un ritmo más rápido que cualquier otra tecnología de la historia. Millones de estadounidenses la utilizan para buscar información, hacer su trabajo y pedir consejo. Muchos incluso la usan para entender mejor el panorama político actual.
Un informe reciente de « New York Times » ha destacado cómo los votantes usan cada vez más los chatbots con IA para decidir a qué candidato apoyar. El Times señalaba: «Los votantes están recurriendo a nuevas herramientas de IA que actúan como investigadores imparciales, y las ven como una alternativa viable a la cobertura informativa tradicional, las guías electorales o las redes sociales».
Aunque estos sistemas pueden facilitar la participación política, las inclinaciones ideológicas ocultas de un modelo pueden filtrar la información a través de un prisma sesgado y generar una respuesta aparentemente neutral que es capaz de influir en la opinión de los votantes sobre un candidato o un tema político.
A gran escala, estos sesgos ocultos dejan de ser una peculiaridad inofensiva o un resultado involuntario. Por el contrario, pueden llegar a influir de manera significativa en aspectos fundamentales de la vida personal, profesional y cívica de los estadounidenses.
Y ahí entra en escena el presidente Donald Trump. Bajo su liderazgo, la administración Trump está abordando activamente estas preocupaciones. El histórico Plan de Acción sobre IA dejó claro que la IA estadounidense debe ser fiable y «estar diseñada para buscar la verdad objetiva, en lugar de agendas de ingeniería social, cuando los usuarios busquen información o análisis basados en hechos». Las órdenes ejecutivas posteriores también prohibieron la adquisición federal de modelos de IA sesgados y garantizaron que la precisión de los modelos se rija por un marco federal.
Estos sesgos no son ni triviales ni insignificantes. La IA se está implantando a un ritmo más rápido que cualquier otra tecnología de la historia. Millones de estadounidenses la utilizan para buscar información, hacer su trabajo y pedir consejo. Muchos incluso la usan para entender mejor el panorama político actual.
En cumplimiento de la orden por la que se creó un marco nacional sobre IA, el presidente de la FTC, Andrew Ferguson, publicó una propuesta de declaración de política en la que se aplica la legislación vigente en materia de protección del consumidor a los sesgos ocultos en los modelos.
Tal y como señala la FTC, según el artículo 5 de la Ley de la FTC, una afirmación u omisión se considera engañosa si puede inducir a error a un consumidor razonable y es relevante para las decisiones de ese consumidor. Un sistema de IA que se presente como una fuente neutral de información, pero que, bajo el pretexto de la objetividad, esté filtrando sistemáticamente las narrativas que le convienen, cumpliría ese criterio.
HAGA CLIC AQUÍ PARA MÁS OPINIONES DE FOX NEWS
La propuesta política de Ferguson también reafirma la jurisdicción federal. Los modelos de IA son productos estandarizados diseñados para su venta a nivel nacional, no adaptaciones locales. Sin embargo, el actual mosaico normativo de los 50 estados permite que las legislaturas estatales más agresivas establezcan, en la práctica, la norma nacional, ya que cumplir con el régimen más exigente acaba siendo lo más rentable. La solución de la FTC aplica una norma federal única para los modelos de IA, igual que ya regulamos los productos que se venden a nivel nacional, como los coches y los medicamentos.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Es una propuesta de sentido común: si un modelo tiene un sesgo oculto o lleva al usuario por un camino contrario a sus expectativas razonables, entonces esas alteraciones deben comunicárselas claramente al usuario; de lo contrario, los modelos corren el riesgo de infringir la ley federal de protección al consumidor.
La gente de Estados Unidos tiene derecho a saber si la están engañando. La declaración de principios propuesta por la FTC es un paso necesario para cumplir la misión establecida en el Plan de Acción sobre IA y para impulsar el liderazgo estadounidense en la era de la IA.
