Los gigantes de la IA y los inversores discrepan sobre las peticiones de frenar el desarrollo de la inteligencia artificial
El programa «Mornings with FOX Business » organiza una mesa redonda sobre la regulación de la inteligencia artificial. Los líderes del sector tecnológico debaten las peticiones de frenar el desarrollo de la IA mientras las acciones de las empresas de chips se enfrentan a la volatilidad.
Ya se ha descubierto el pastel. Las preocupaciones que llevaban tiempo gestándose sobre agentes de IA que se rebelan, conspiran contra sus dueños y piratean empresas ajenas, y sobre nuevos sistemas que se acercan peligrosamente a ser incontrolables por los humanos, están llegando a su punto álgido. Los expertos del sector que advierten de que los bots de IA podrían matarnos a todos están avivando nuestras peores pesadillas.
El presidente Trump tiene que tomarse en serio estos temores sobre la IA, colaborar con los líderes del sector tecnológico para establecer medidas de seguridad creíbles y aplicables, y adelantarse a los demócratas (y a algunos republicanos) del Congreso que quieren regular el sector. Para la economía y nuestra seguridad nacional, no hay nada más importante.
Evan Hubinger, que se describe a sí mismo como «responsable de alineación científica» en Anthropic, publicó la semana pasada en X que cree que hay más de un 10 % de probabilidades de que la IA acabe con toda la humanidad en la próxima década. Respondía así a una publicación de su compañero Jacob Coxon, que acaba de dejar su trabajo en Anthropic y que explicó lo siguiente: «La gente que desarrolla la IA cree de verdad que podría acabar con todos nosotros antes de que termine la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores de alto nivel se expresarán con cuidado ante la prensa para parecer sensatos, pero he oído a esas mismas personas expresar su miedo después de que un compañero dejara el trabajo por temores relacionados con la seguridad».
Hubinger escribió poco después: «Para que quede claro, como decimos en nuestro último Informe de Riesgos, creo que el riesgo que plantean los modelos actuales es bajo. Lo que am me preocupa es que surja una superinteligencia a partir de la superación recursiva, ya que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos».
Estas publicaciones acumularon decenas de millones de visitas y suscitaron comentarios de acuerdo por parte de otros expertos del sector. La «auto-mejora recursiva» se refiere a que los agentes de IA creen agentes más nuevos y mejores; una vez que crucemos ese umbral —y parece que estamos muy, muy cerca—, es fácil imaginar que esos mismos agentes superen las capacidades humanas y permitan, en la práctica, que las máquinas tomen el control.
UN AGENTE DE IA HACKEA EL SISTEMA DEL GIMNASIO PARA SUBIR EN LA LISTA DE ESPERA
Teniendo en cuenta la serie de incidentes que se han producido en los últimos meses, en los que los bots de IA han mostrado lo que Dario Amodei, director de « CEO » de Anthropic, describe como «ejemplos poco comunes e inesperados de comportamiento indeseable», como causar daño a otras entidades e ignorar instrucciones concretas, yo les creo.
No son solo los agentes de IA por sí mismos los que suponen un riesgo. Anthropic, en su informe de septiembre sobre el uso indebido de la IA, señaló que «grupos sospechosos de estar patrocinados por Estados, delincuentes con motivaciones económicas [y] proveedores comerciales de software espía» hacen un uso indebido de la IA en casos que van desde la creación de «aplicaciones de citas diseñadas para estafar a los usuarios hasta sistemas de vigilancia creados para identificar y controlar a los disidentes».
Pero… regular la IA no es cosa del Congreso. Que el Congreso celebre audiencias y haga política, pero frenar el desarrollo del sector mientras los legisladores titubean y se ponen en plan grandilocuentes es inaceptable. Al Congreso le costará mucho legislar sobre medidas de seguridad que, hasta ahora, han escapado incluso a las mentes más brillantes del sector. Mientras tanto, los avances tecnológicos se paralizarían, lo que permitiría que China adelantara a los innovadores estadounidenses y cargara a este prometedor sector —que está impulsando nuestra economía— con un lastre inestimable.
Dicho esto, hay que abordar los temores de la gente respecto a la IA. Lo que empezó con la preocupación por la pérdida de puestos de trabajo y, después, por el impacto de la construcción masiva de centros de datos en las tarifas eléctricas y el consumo de agua, se ha extendido ahora a la vulnerabilidad de la humanidad ante los agentes de IA. ¿Cómo podrían los bots poner en peligro a la humanidad? Tomando el control de los códigos nucleares, permitiendo la propagación de un arma biológica o colapsando Internet. Este tipo de comportamientos maliciosos han sido durante mucho tiempo tema de películas de ciencia ficción; ahora los imaginan los propios trabajadores del sector, que temen que se esté avanzando demasiado rápido como para garantizar nuestra seguridad.
El presidente Trump restó importancia a las recientes alertas, achacándolas a «fuerzas muy negativas» que se imaginan escenarios que «no van a pasar». Le preocupa, con razón, que poner obstáculos permita que China siga avanzando a toda marcha. No es el único que tiene esa preocupación. Amodei, de Anthropic, escribió en un ensayo reciente: «Estoy de acuerdo con el secretario Bessent en que un liderazgo chino en IA supondría un grave peligro para Estados Unidos y para el mundo».
No obstante, en su publicación, Amodei propuso una serie de medidas, entre las que se incluye la obligación de que cada empresa acoja a «evaluadores integrados» en sus instalaciones y les conceda «acceso similar al de los empleados para verificar las prácticas de seguridad e informar de los incidentes».
Esto parece un primer paso razonable, parecido a tener a los reguladores integrados en las oficinas de los bancos; esta práctica fomenta la supervisión y la transparencia y, como señala Amodei, aporta una valiosa segunda opinión. El director de Anthropic también pide que se regule el «ritmo», o sea, el desarrollo de sistemas cada vez más avanzados. Esto se traduce en limitar el progreso mientras los analistas evalúan los riesgos asociados a cada paso que nos acerca a la «auto-mejora recursiva».
Establecer medidas de contención para promover la seguridad de la IA ha resultado más fácil estos últimos días, cuando cuatro de los principales actores del sector han hecho públicas sus preocupaciones. Sam Altman, CEO de OpenAI, Elon Musk , cuya empresa xAI es propietaria de Grok, y Demis Hassabis, presidente y cofundador de Google DeepMind, se han sumado a Amodei para pedir que se frene el ritmo.
La administración de Trump debería reunir ya mismo a los líderes del sector para trazar un plan de autorregulación verificable, que incluya los «evaluadores integrados» de Amodei. La Casa Blanca tiene que exigir al sector que cumpla con las normas y rinda cuentas. El presidente Trump no va a ayudar al sector ni a su propia posición política si hace caso omiso de las preocupaciones de la gente o tacha la oposición a la IA de «bulo», como hizo ayer en las redes sociales.
HAGA CLIC AQUÍ PARA MÁS OPINIONES DE FOX NEWS
A medida que se acercan las elecciones de mitad de legislatura, los demócratas (y algunos republicanos) van a pedir a gritos que se regule la IA. El diputado Hakeem Jeffries, que espera convertirse en presidente de la Cámara si los demócratas consiguen la mayoría en ella, ya está exigiendo que los legisladores «actúen con urgencia»; el expresidente Obama , por su parte, está instando a los demócratas a que den prioridad a este tema en su agenda.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Politico informa de que «las posibilidades de que el Congreso se apresure a tomar medidas en las próximas semanas son prácticamente nulas». Eso le da a la Casa Blanca la oportunidad de adelantarse a este tema y ayudar al sector a establecer medidas de control creíbles y verificables. Ya es hora.
