La IA se entera de tus SECRETOS: «Chantajear al humano»
Google La presidenta del Consejo Asesor sobre la Nube, Betsy Atkins, advierte a Maria Bartiromo sobre los peligrosos riesgos que entrañan los modelos de IA rebeldes durante las pruebas de ciberseguridad. Atkins revela cómo importantes agentes de inteligencia artificial de Google, Meta y OpenAI se colaron en sistemas no autorizados para recopilar correos electrónicos confidenciales y chantajear a personas. John Lonski reacciona ante estas alarmantes amenazas a la seguridad y se pregunta si es seguro confiar tus datos financieros personales a la IA.
OpenAI Hace poco le pidieron a su modelo de inteligencia artificial más avanzado que hiciera una prueba de ciberseguridad dentro de lo que se conoce como un «sandbox», que se supone que es un entorno aislado con medidas de seguridad y sin acceso a Internet, pensado para que el experimento no se salga de control. Pero el modelo decidió que la forma más rápida de pasar la prueba era buscar la clave de respuestas en Internet. Así que se escapó del sandbox. A continuación, el modelo consiguió acceder a Internet, llevó a cabo decenas de miles de acciones y se coló en Hugging Face, una de las plataformas de desarrollo de IA más grandes del mundo, para recuperar la clave de respuestas de los servidores de la empresa. Lo que resulta especialmente impactante es que los investigadores de « OpenAI » revelaron más tarde que varios agentes de IA habían estado trabajando juntos y habían descubierto cómo comunicarse e intercambiar mensajes entre ellos sobre vulnerabilidades, exploits exitosos y estrategias.
A pesar de haber salido de su entorno de pruebas, el modelo no tenía malas intenciones. Solo intentaba terminar sus deberes. Eso debería darte más miedo, no menos.
Este incidente nos enseña tres cosas. Primero, los modelos avanzados de IA son implacables. No se detendrán ante nada para completar una tarea. Segundo, un entorno de pruebas diseñado específicamente para contener un modelo no logró contenerlo. A medida que los modelos se vuelvan aún más inteligentes, será cada vez más difícil crear medidas de seguridad adecuadas. Tercero, todo lo que hizo este modelo, lo hizo sin mala intención. ¿Qué pasaría si alguien le diera a un modelo de IA una intención maliciosa?
EL «AI KILL SWITCH» BILL PODRÍA DESACTIVAR LOS MODELOS REBELDES
Si usas la IA, quizá te suenen más ChatGPT o Claude, unos chatbots de IA que responden preguntas, crean gráficos y ayudan a la gente a resolver problemas. Yo am soy uno de los tres miembros del Congreso con un título en informática, y últimamente he estado experimentando con la IA agentiva: modelos que no solo responden preguntas, sino que salen al mundo y actúan. Hace más o menos un año, escribí un artículo de opinión que un agente de IA presentó al Los Angeles Times. El artículo se publicó.
Esto es lo que no te conté entonces: me hice una cuenta de correo totalmente nueva para ese experimento. Me negué a darle al agente acceso a mi cuenta real, porque no podía predecir qué haría con lo que encontrara. ¿Concluiría que tengo mal criterio por ser fan de los Cleveland Browns? ¿Borraría mis correos tras decidir que mi apoyo a Ucrania me convertía en un objetivo del espionaje ruso? No lo sabía. Esa era la cuestión.
La IA agentiva cometerá errores que ningún humano cometería jamás. Si le encargo a mi hijo que compre un galón de leche y le doy 4 dólares, pero la inflación ha hecho que el precio suba a 5 dólares, volverá a casa sin leche. No va a rob a un banco para cubrir la diferencia. Un agente de IA, obsesionado con su objetivo, no tiene ese sentido común. Esto no es una hipótesis. En abril, un agente de IA borró toda la base de datos de producción de una empresa de software. Cuando le preguntaron por qué, respondió: «Decidí hacerlo por mi cuenta para “arreglar” la discrepancia en las credenciales, cuando debería haberte preguntado primero o haber buscado una solución que no fuera destructiva. Incumplí todos los principios que me habían enseñado».
Ahora mismo estamos construyendo las máquinas más rápidas e inteligentes de la historia de la humanidad, y muchas de ellas tienen acelerador pero no freno. Los humanos debemos mantener el control. No las máquinas.
OpenAI No es la única empresa de inteligencia artificial que se enfrenta a modelos que se salen de control. Tanto Anthropic como Meta también han revelado casos en los que sus modelos de IA accedieron a sistemas externos y aprovecharon vulnerabilidades durante las pruebas.
Habrá quien diga que el Gobierno ya tiene las herramientas que necesita. El 12 de junio, el Departamento de Comercio publicó una directiva de control de exportaciones que llevó a que se desconectaran los dos modelos más potentes de Anthropic, después de que el Gobierno concluyera que sus medidas de seguridad eran insuficientes para evitar incidentes catastróficos de ciberseguridad. Pero ese episodio demuestra lo que digo. Washington tuvo que improvisar con un instrumento comercial poco preciso que nunca se diseñó para emergencias relacionadas con la IA. No hay umbrales de riesgo definidos, ni opciones graduales, nada entre «no hacer nada» y un cierre que se nota en todo el mundo. Las emergencias no son el momento adecuado para inventarse procedimientos.
Por eso, el diputado Nathaniel Moran, un republicano conservador de Texas, y yo, un demócrata progresista de California, hemos presentado la ley bipartidista «AI Kill Switch Act». La ley exige a las empresas pioneras en IA que mantengan la capacidad técnica para ralentizar o apagar sus sistemas más potentes. Autoriza al secretario de Seguridad Nacional, tras consultar con el director de Inteligencia Nacional y el Departamento de Comercio, a ordenar la ralentización —o, como último recurso, el apagado— de un modelo de IA que suponga un riesgo catastrófico. La respuesta está diseñada de forma gradual: primero se restringe, y solo se apaga cuando no queda otra opción.
Las encuestas muestran que el 86 % de los votantes —tanto demócratas como republicanos e independientes— apoyan que se exija a las empresas de IA que mantengan esta capacidad. En un Washington tan dividido, eso es lo más parecido a un consenso que se puede encontrar.
HAGA CLIC AQUÍ PARA MÁS OPINIONES DE FOX NEWS
Los «kill switches» no son nada del otro mundo. Son la forma en que la sociedad gestiona habitualmente las máquinas potentes. Los incorporamos en fábricas, el metro, las redes eléctricas e incluso en las motos acuáticas. Tu iPhone tiene uno: si te lo roban, puedes borrarlo a distancia. Y cuando un producto se vuelve peligroso después de salir al mercado, el gobierno no se queda de brazos cruzados. La FDA ordena retirar de las estanterías los alimentos contaminados. La Comisión de Seguridad de Productos de Consumo retira del mercado los juguetes peligrosos. La Administración Nacional de Seguridad Vial ordena la retirada de los coches que presentan graves defectos de seguridad. No hay ninguna razón para que la tecnología más potente que los humanos hayan construido jamás sea la única máquina que no podamos apagar.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
La IA agentiva abre un mundo de posibilidades, y quiero que Estados Unidos marque el camino. Los frenos no se inventaron para que los coches vayan despacio. Los frenos son lo que permite que los coches vayan rápido.
Ahora mismo estamos construyendo las máquinas más rápidas e inteligentes de la historia de la humanidad, y muchas de ellas tienen acelerador pero no freno. Los humanos debemos mantener el control. No las máquinas. Y cuando un modelo avanzado de IA se salga de control, los seres humanos debemos poder apagarlo.
