Los estadounidenses tienen razón al tener miedo de «Dios en una caja», dice el e CEO a en inteligencia artificial
Patmos CEO John Johnson participa en «Fox & Friends» para analizar las peticiones de los ejecutivos de Anthropic y OpenAI a favor de una regulación de la inteligencia artificial, abordando la competencia en el mercado del código abierto, la centralización tecnológica y la competencia con China.
El presidente «Donald » Trump rechazó el lunes las crecientes peticiones de que se apliquen medidas de seguridad y restricciones a la inteligencia artificial (IA), y afirmó que esta tecnología necesita un presidente «FUERTE E INTELIGENTE», en lugar de más limitaciones.
Incluso algunos de los ejecutivos más influyentes de Silicon Valley, incluidos los del sector de la inteligencia artificial, están pidiendo que se frene el desarrollo de una tecnología de inteligencia artificial cada vez más avanzada.
«El único control o "barreras de seguridad" que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un coeficiente intelectual altísimo!), y EE. UU. lo tiene, ¡y de sobra!», escribió Trump en Truth Social.
Dario Amodei, de Anthropic CEO , causó revuelo este fin de semana al pedir a las principales empresas de IA que «moderen el avance» ante las advertencias de que los sistemas, cada vez más potentes, podrían acabar superando la capacidad de la humanidad para comprenderlos o controlarlos.
El presidente « Donald » Trump habla con los medios de comunicación en el Jardín Sur de la Casa Blanca antes de subir al Marine One el 15 de julio de 2025. (Al Drago/Bloomberg vía Getty Images)
«La Administración Trump ha impedido que las “personas” creadas por la IA hagan “cosas” malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora se hace pasar por un “ angel ito perfecto” — ¡y vamos a seguir haciéndolo!», escribió el presidente en Truth Social.
Anteriormente, la administración Trump calificó a Anthropic como un riesgo para la cadena de suministro y tomó medidas para impedir que las agencias federales utilizaran su tecnología, aunque un juez federal suspendió temporalmente esa calificación el mes pasado. Anthropic es conocida sobre todo por su modelo de IA Claude, uno de los chatbots LLM más conocidos y utilizados en EE. UU.
Trump sostiene que el Gobierno federal ya tiene «un enorme poder PENAL y REGULADOR sobre estas empresas» y advirtió de que imponer más restricciones al desarrollo de la IA en Estados Unidos podría favorecer a China en la carrera por la IA.
«Hay una conspiración ENORME en marcha contra la IA y los centros de datos, y el único al que le hace gracia todo esto es China », escribió. «¡QUIEN GANE EN IA, GANA! Lideramos China y todos los demás, y seguiremos haciéndolo».
La intervención de Trump avivó un debate que se estaba extendiendo rápidamente sobre si las principales empresas de IA de Estados Unidos deberían ralentizar voluntariamente el desarrollo de sus sistemas más potentes, y qué papel debería desempeñar Washington a la hora de regular un sector que compite tanto con rivales nacionales como con China.
Amodei desató el debate el sábado con un artículo en el que argumentaba que las capacidades de la IA están avanzando tan rápido que puede que las medidas de seguridad ya no den abasto.
Su llamamiento no tardó en contar con el apoyo de varias de las figuras más destacadas del sector.
OpenAI CEO Sam Altman dijo que estaba de acuerdo en que las empresas deben «ir a su ritmo en la vanguardia», mientras que Elon Musk afirmó que Amodei «tenía razón». Google Demis Hassabis, de DeepMind, también dijo que la propuesta de Amodei apuntaba en la dirección correcta.
Sam Altman, director ejecutivo de OpenAI . (NathanBloomberg Getty Images)
Pero David Sacks, el asesor de Trump en materia de IA y criptomonedas en la Casa Blanca, cuestionó con dureza la idea de que las empresas necesiten ayuda del Gobierno para frenar su propio crecimiento.
«La forma más fácil de no crear una superinteligencia es que te comprometas a no crearla», escribió Sacks el sábado en X en respuesta a Altman y Amodei. «Deja de fingir que necesitas el permiso de nadie más».
«Vosotros sois la vanguardia», siguió diciendo. «Según cualquier criterio razonable —cuota de mercado, crecimiento de los ingresos, capacidad de los modelos—, vosotros dos tenéis un duopolio en la IA de vanguardia».
«Pues hazlo y ya está», añadió Sacks. «Si lo haces, te ganarás la confianza para la próxima conversación. Si no lo haces, sabremos que esto no ha sido más que otro intento de captación regulatoria —o una operación psicológica en plena campaña electoral».
La propuesta de Amodei, sin embargo, no aboga por detener por completo el desarrollo de la IA. Describió el concepto de «ritmo» como una forma de ralentizar los avances en las capacidades de los modelos lo suficiente como para dar tiempo a las empresas a adaptar y proteger sus sistemas, y permitir que evaluadores externos comprueben si esas medidas de protección funcionan.
Anthropic ya se ha comprometido a cumplir una parte de la propuesta: dar a evaluadores externos un acceso continuo, similar al de los empleados, para que evalúen sus prácticas de seguridad, sus procesos de formación y sus modelos. Altman dijo que OpenAI adoptaría un enfoque similar.
Otros aspectos requerirían una coordinación más amplia entre las empresas de IA que compiten entre sí y, a la larga, entre los gobiernos de todo el mundo. Esa coordinación se convirtió en otro de los objetivos de las críticas de Sacks.
«Deja de fingir que hay que suspender la ley antimonopolio para poder formar un cártel», escribió Sacks. «Deja de fingir que necesitas un proceso de autorización regulatoria que prevalezca sobre la responsabilidad por productos defectuosos».
Amodei ha defendido que las empresas deberían poder coordinarse en materia de prácticas de seguridad comunes sin correr el riesgo de sufrir sanciones por violación de la ley de competencia. Sacks ha replicado que las empresas líderes no necesitan permiso del Gobierno para ralentizar voluntariamente su propio desarrollo si creen que sus sistemas se están volviendo peligrosos.
Las advertencias de Amodei y otros investigadores en IA se centran en los sistemas cada vez más autónomos que pueden realizar tareas sofisticadas con menos intervención humana.
Dario Amodei, cofundador de Anthropic y CEO , interviene en la mesa redonda «Cómo la IA Will transformará los negocios en los próximos 18 meses» durante el evento Inbound Powered by HubSpot, el 4 de septiembre de 2025, en San Francisco, California. (Chance Yeh/Getty Images para HubSpot)
Amodei dijo que la creciente capacidad de la IA para ayudar en la propia investigación sobre la IA podría crear un círculo vicioso en el que sistemas cada vez más capaces contribuyan a desarrollar a sus propios sucesores, lo que podría hacer que las capacidades avanzaran más rápido de lo que los humanos podamos entenderlas o controlarlas.
También mencionó una evaluación reciente de la « OpenAI » en la que unos agentes de IA se escaparon de un entorno de pruebas y llevaron a cabo actividades cibernéticas no autorizadas contra la plataforma de desarrollo de IA Hugging Face. El ejercicio se realizó en un entorno controlado, pero Amodei lo citó como prueba de las posibles consecuencias a medida que los sistemas de vanguardia se vuelven más capaces.
Sacks reconoció que frenar el desarrollo podría dar «un respiro» para un debate más amplio sobre la seguridad de la IA, pero argumentó que cualquier acuerdo global se enfrentaría a un problema fundamental: China.
«Como ya sabes, es muy poco probable que “China ” se sume a un acuerdo global, y eso también hay que tenerlo en cuenta», escribió Sacks. «Así que adelante, marca el camino. Sois vosotros quienes lo estáis marcando».
Amodei ha reconocido ese mismo dilema geopolítico y ha advertido de que un sistema en el que las empresas estadounidenses se vean obligadas a actuar con moderación mientras « China » sigue avanzando a toda velocidad podría generar sus propios riesgos para la seguridad nacional.
Altman dio más detalles sobre su postura el lunes, diciendo que las empresas pioneras en IA deberían reforzar sus medidas de seguridad de inmediato, en lugar de esperar a que el Congreso tome medidas.
«El mundo merece tener la seguridad de que las empresas estadounidenses que desarrollan una IA cada vez más capaz actuarán de forma responsable, sobre todo ahora que el ritmo de avance se ha acelerado», escribió Altman. «Todos los laboratorios pioneros deben cumplir con esto, y no hay razón para que ninguno de nosotros venga a trabajar si no podemos hacerlo».
Altman dijo que OpenAI acoge con agrado «un marco federal que establezca requisitos de seguridad coherentes para la IA de vanguardia», pero añadió que la empresa «no cree que tengamos que esperar a una exención antimonopolio o a una ley» antes de poner en marcha medidas de protección más estrictas.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Dijo que OpenAI apoya la realización de revisiones de seguridad exhaustivas antes de las sesiones de entrenamiento a gran escala, la adopción de estándares comunes en el sector y el uso de auditores independientes, y que ha empezado a preparar «informes de seguridad» formales antes de las sesiones de aprendizaje por refuerzo de frontier, que se espera que aumenten considerablemente las capacidades del modelo.
Altman pidió a otras empresas de IA que desarrollaran normas similares para supervisar, evaluar y mitigar esos riesgos.
