Will Cain: El miedo a la IA es tan grande que está uniendo a « Sanders » y a Bannon
Fox News El presentador Will Cain habla sobre Anthropic CEO , Dario Amodei y OpenAI CEO , y Sam Altman, que pide que el gobierno supervise la inteligencia artificial en «The Will Cain Show».
Dario Amodei, de Anthropic CEO , cree que las empresas de inteligencia artificial (IA) necesitan la ayuda de organismos de control externos e independientes para proteger las tecnologías que están desarrollando. Pero una de las organizaciones que, según él, podría encargarse de ello, METR, está estrechamente vinculada a la misma comunidad dedicada a la seguridad de la IA que tiene vínculos con los inicios de Anthropic.
Muchas de sus figuras más destacadas tienen vínculos con un movimiento llamado «altruismo eficaz (EA)», que se basa en la idea de que los datos y un razonamiento riguroso pueden ayudar a maximizar el bien que las empresas y las personas pueden hacer con su tiempo y sus recursos.
METR se define a sí mismo como un laboratorio de pruebas de seguridad de la IA. se describe a sí mismo como un laboratorio de pruebas de seguridad de la IA.
Dario Amodei, cofundador y director ejecutivo de Anthropic, durante la Builder Summit de la empresa en Bangalore, India, el lunes 16 de febrero de 2026. (Samyukta Lakshmi/Bloomberg vía Getty Images)
«METR evalúa modelos de IA de vanguardia para ayudar a las empresas y a la sociedad en general a entender las capacidades de la IA y los riesgos que entrañan», se lee en su página web.
Aunque en su página web y en sus materiales públicos no se menciona el altruismo eficaz, sus fundadores lo han utilizado como marco de referencia para su trabajo.
Beth Barnes, fundadora de METR y CEO, trabajó en OpenAI junto a Amodei mientras la empresa desarrollaba las primeras versiones de ChatGPT.
En un evento de Effective Altruism Global, expuso su visión sobre cómo garantizar la seguridad de la IA.
«Nuestro plan general es... bueno, parece que estaría bien que alguien se encargara de analizar los modelos y decidir si nos van a matar, pensar en las formas en que eso podría pasar, anticiparlas, averiguar cuáles serían las señales de alerta tempranas, ese tipo de cosas», dijo Barnes.
Del mismo modo, Paul Christiano, que dirigió la investigación sobre los esfuerzos de OpenAIpara garantizar que sus modelos siguieran estrategias aceptables a la hora de ofrecer los resultados solicitados, fundó más tarde la primera versión de METR. Él también ha definido parte de su enfoque sobre la seguridad de la IA como una forma de altruismo eficaz.
«Creo que para el movimiento del “altruismo eficaz” es más importante tener un producto que sea bueno en esencia y, en general, tener las cosas bien organizadas, que crecer más rápido», dijo Christiano en un artículo de 2014.
Personas como Barnes y Christiano tienen vínculos informales con Anthropic, una empresa que recibió financiación de los principales patrocinadores del altruismo eficaz cuando este surgió como una corriente de pensamiento entre los magnates de la tecnología. Además, tanto Barnes como Christiano trabajaron en evaluaciones relacionadas con los modelos de Anthropic, realizando controles de seguridad para Claude, la IA insignia de Anthropic.
Lo más destacado es que Sam Bankman-Fried, el fundador de la plataforma de intercambio de criptomonedas FTX, lideró la ronda de financiación de la Serie B de Anthropic en 2022 antes de que su empresa se hundiera y él fuera condenado por un caso de fraude de varios miles de millones de dólares. Antes de la caída de FTX, Bankman-Fried era uno de los defensores más destacados del movimiento del altruismo eficaz, y afirmaba públicamente que este había moldeado su forma de ganar y donar dinero.
El « CEO » de Anthropic, Dario Amodei, asiste a un almuerzo de trabajo con los líderes del G7, países socios y directivos del sector tecnológico mundial, centrado en la innovación y la inteligencia artificial, durante la Cumbre del G7 celebrada el 17 de junio de 2026 en Évian-les-Bains, Francia. (Anna Moneymaker/Getty Images)
Del mismo modo, el cofundador de Skype, Jaan Tallinn, lideró la ronda de financiación de la Serie A de Anthropic en 2021. Tallinn ha sido uno de los defensores más destacados del movimiento del altruismo eficaz: ha participado como ponente en las conferencias de Effective Altruism Global, ha ayudado a fundar el Centro para el Estudio del Riesgo Existencial y el Instituto para el Futuro de la Vida, y ha donado más de un millón de dólares al Instituto de Investigación en Inteligencia Artificial, una organización dedicada a la investigación sobre la seguridad y la alineación de la IA.
Amodei no está pidiendo, concretamente, que el resto de líderes del sector se sometan a la forma de pensar de METR. Pero en una carta reciente, los puso como ejemplo de la orientación que, en su opinión, necesita el sector.
Amodei propuso un plan: la rendición de cuentas podría lograrse mediante «evaluadores integrados» que supervisarían a las empresas dedicadas al desarrollo de la IA.
«Cada empresa pionera en IA se compromete a dar acceso permanente, como si fueran empleados, a un equipo de evaluadores externos integrados (como METR), cuya función es verificar que se cumplan las prácticas y compromisos de seguridad, informar de incidentes y ayudar a evaluar la alineación no solo de los modelos de IA ya terminados, sino también de los procesos y flujos de entrenamiento.
«Independientemente de los compromisos que asumamos, la ciudadanía tiene derecho a saber qué está pasando. Seguimos siendo nosotros quienes decidimos qué incluir y qué omitir. Los evaluadores integrados cambiarán esta dinámica», escribió Amodei.
Pocas figuras del mundo de la IA son tan conocidas por su labor en materia de seguridad de la IA como Amodei.
Amodei estudió biofísica y se doctoró en Princeton en 2011. Después, se convirtió en investigador posdoctoral en la Facultad de Medicina de la Universidad de Stanford.
Tras terminar sus estudios, Amodei trabajó para varias empresas tecnológicas como Baidu, Google Brain y, en 2016, OpenAI —la empresa que desarrolló ChatGPT . Durante su etapa en Baidu, Amodei trabajó en el desarrollo del reconocimiento de voz mediante el aprendizaje automático, un tipo de identificación de patrones. Y en Google, empezó a dedicarse a la seguridad al tiempo que colaboraba en la investigación sobre redes neuronales de la empresa, unos modelos informáticos que imitan de forma aproximada el funcionamiento del cerebro.
En OpenAI, Amodei siguió trabajando en esos temas y acabó convirtiéndose en vicepresidente de investigación mientras la empresa desarrollaba sus modelos « ChatGPT 2» y « ChatGPT 3».
En las primeras fases, se pidió a los participantes del GPT que completaran los espacios en blanco de frases como: «Hoy he ido al ______ y he comprado leche y huevos», y «Sabía que iba a llover, pero se me olvidó llevar mi ______».
Pero justo cuando la empresa empezaba a darse cuenta de que podía potenciar sus modelos gracias a modelos de lenguaje cada vez más grandes, Amodei dejó OpenAI en 2020. Creía que la empresa no estaba haciendo lo suficiente para establecer medidas de seguridad ante lo que él veía como una realidad incipiente de la tecnología sobre la que llevaba tanto tiempo teorizando.
Tampoco sabía si podía confiar en que la empresa dejara de lado sus intereses económicos.
«Cuando sientes que no puedes confiar en alguien, cuando sientes que sus valores no son los que dicen tener, cuando sientes que no son sinceros, cuando sientes que no están ahí por las razones que alegan, cuando ves patrones de comportamiento preocupantes y falta de sinceridad, eso hace que sea muy difícil seguir trabajando con una empresa, seguir confiando en ella», dijo Amodei en una entrevista con Bloomberg a principios de este año.
Desde que dejó « OpenAI », Amodei ayudó a fundar Anthropic, una empresa que ha convertido la seguridad de la IA en una parte fundamental de su esencia. Anthropic incluso tiene una especie de constitución para su IA insignia: un documento orientativo que establece los límites de su investigación. «Anthropic quiere que Claude sea realmente útil para las personas con las que trabaja o en nombre de las cuales lo hace, así como para la sociedad, evitando al mismo tiempo acciones que sean inseguras, poco éticas o engañosas», escribió la empresa.
Dario Amodei, cofundador y director ejecutivo de Anthropic, durante la Builder Summit de la empresa en Bangalore, India, el lunes 16 de febrero de 2026. Anthropic PBC va a donar 20 millones de dólares a un grupo de presión política llamado Public First, que apoya a candidatos al Congreso que están a favor de normas de seguridad para la inteligencia artificial, lo que refuerza la lucha de la empresa por una «IA responsable» mientras el dinero de Silicon Valley inunda las campañas electorales al Congreso por todo EE. UU. (Samyukta Lakshmi/Bloomberg vía Getty Images)
Esa directiva ha provocado un enfrentamiento entre la empresa y el Departamento de Defensa de EE. UU. por el desarrollo de herramientas que podrían utilizarse para atacar de forma autónoma a personas en el campo de batalla. Además, se negó a realizar trabajos que, en su opinión, equivalían a una vigilancia masiva.
Aunque esa tensión le costó a Anthropic un contrato de 200 millones de dólares, Amodei cree que es hora de que el sector adopte posturas similares, sobre todo ahora que algunas empresas han empezado a informar de problemas a la hora de controlar a sus propios agentes.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Amodei sigue creyendo que las capacidades de la IA pueden desarrollarse de forma segura, pero solo si el sector establece normas sobre cómo se consigue esa «seguridad».
«Sigo creyendo que la IA puede mejorar enormemente la calidad de vida de las personas. Mi deseo de conseguir esos beneficios no ha disminuido en absoluto. Pero solo los conseguiremos si desarrollamos la tecnología de la forma correcta y —siempre y cuando aprovechemos bien el tiempo que ganemos— merece la pena poner un cuidado especial en hacerlo bien», escribió Amodei en su carta.
