Lo bueno, lo malo y lo impensable de la inteligencia artificial
Fox News , Bret , analiza enSpecial Report cómo la tecnología está cambiando el funcionamiento del mundo.
FIRST ON FOX: Mientras Washington endurece los controles a la exportación para mantener la ventaja de Estados Unidos en inteligencia artificial, la importante empresa de IA Anthropic afirma que tres laboratorios de IA China han encontrado otra forma de acceder a tecnologías avanzadas estadounidenses.
La empresa estadounidense alega que DeepSeek, Moonshot AI y MiniMax utilizaron unas 24 000 cuentas fraudulentas para generar más de 16 millones de interacciones con el chatbot Claude de Anthropic en una campaña coordinada de «destilación» diseñada para extraer resultados de gran valor del modelo, según un informe al que Fox News tuvo acceso en primicia.
Según el informe, la amenaza va más allá de estafar a las empresas estadounidenses. Anthropic sostiene que es poco probable que los modelos creados mediante destilación a gran escala mantengan las medidas de seguridad integradas en los sistemas de vanguardia estadounidenses.
«Los laboratorios extranjeros que copian los modelos estadounidenses pueden luego integrar estas capacidades sin protección en sistemas militares, de inteligencia y de vigilancia, lo que permite a los gobiernos autoritarios utilizar IA de vanguardia para operaciones cibernéticas ofensivas, campañas de desinformación y vigilancia masiva», afirmó Anthropic.
Según se informa, el ejército estadounidense utilizó la herramienta de IA «Claude», de Anthropic, durante la operación en la que capturaron al líder venezolano Nicolás Maduro. (Kurt «CyberGuy» Knutsson)
Anthropic afirma que identificó las campañas mediante correlaciones de direcciones IP, metadatos de las solicitudes e indicadores de infraestructura que diferían notablemente del tráfico habitual de los clientes. Según la empresa, la actividad se centró en las funciones más avanzadas de Claude —como el razonamiento complejo, la programación y el uso de herramientas— en lugar de en las consultas habituales de los usuarios.
«Estamos convencidos de que estos laboratorios estaban llevando a cabo ataques de destilación a gran escala», declaró Jacob Klein, jefe de inteligencia sobre amenazas de Anthropic, a Fox News .
La destilación es una técnica habitual de entrenamiento de IA en la que se entrena un modelo más pequeño o menos potente a partir de los resultados de uno más potente. Los laboratorios de vanguardia suelen usarla internamente para crear versiones más económicas de sus propios sistemas.
Pero Anthropic afirma que las campañas que descubrió no estaban autorizadas y que estaban diseñadas para saltarse años de investigación y trabajo en aprendizaje por refuerzo.
Según Klein, en las tres operaciones se habrían generado más de 16 millones de interacciones en un periodo que osciló entre semanas y meses. Anthropic intervino tras detectar la actividad, aunque reconoció que el problema general sigue sin resolverse.
«No hay una solución milagrosa inmediata para acabar con todo esto», dijo Klein. «Creemos que esto va más allá de Anthropic».
Aunque la empresa no puede cuantificar con exactitud en qué medida los laboratorios chinos habrían mejorado sus sistemas, Klein afirmó que las mejoras en las capacidades eran «significativas» y «sustanciales».
«Lo que podemos decir con seguridad es que nos han reducido a la mínima expresión», dijo.
Fox News se ha puesto en contacto con DeepSeek, Moonshot AI y MiniMax para recabar sus comentarios, pero aún no ha recibido respuesta.
El informe plantea nuevas dudas sobre la eficacia de los actuales controles de exportación de EE. UU., que se han centrado principalmente en limitar el acceso Chinaa chips avanzados de IA y a las transferencias directas de los pesos de los modelos.
Klein argumentó que la destilación se centra en un aspecto diferente de la ventaja competitiva: el proceso de aprendizaje por refuerzo que perfecciona y afina los modelos de vanguardia una vez que han sido entrenados.
«Si piensas en cómo mantenerte a la vanguardia en la carrera de la IA, la potencia de cálculo es solo una parte», dijo Klein. «Pero el aprendizaje por refuerzo es cada vez más fundamental. La destilación te permite extraer esas capacidades».
China de robar tecnología de IA estadounidense. (Kritsapong Jieantaratip vía Getty Images)
Destacó que los chips avanzados siguen siendo «muy importantes», pero dijo que los responsables políticos deben abordar la cuestión «de forma integral».
Anthropic ha dicho que ha compartido sus conclusiones con las entidades gubernamentales estadounidenses pertinentes y con socios del sector. Klein sugirió que dar a conocer públicamente los nombres de los laboratorios podría dar lugar a «una actuación gubernamental reflexiva» o, al menos, a un diálogo con las empresas implicadas.
Al mismo tiempo, la empresa ha dicho que no tiene pruebas de que el Gobierno chino coordinara directamente las campañas. Sin embargo, los servicios de proxy que se usan para revender el acceso a los modelos de IA de vanguardia de EE. UU. operan abiertamente en China.
Washington ha intentado frenar el avance Chinaen materia de IA limitando el acceso a los chips informáticos más avanzados que se usan para entrenar sistemas potentes. Pero Anthropic sostiene que, incluso sin acceso directo a esos chips, los laboratorios extranjeros pueden copiar partes de la inteligencia de un modelo consultándolo repetidamente y entrenando sus propios sistemas con las respuestas.
Anthropic ha estado en el punto de mira estas últimas semanas debido a las tensiones que, según se informa, existen con el Pentágono sobre cómo se pueden utilizar sus modelos de IA en operaciones militares. (iStock)
El 12 de febrero, OpenAI un memorándum a la Comisión Especial de la Cámara de Representantes sobre el Partido Comunista Chino en el que alegaba que la startup china de IA DeepSeek había «robado» sistemáticamente su propiedad intelectual mediante la destilación a gran escala. Según OpenAI, los empleados de DeepSeek habrían utilizado routers de terceros y técnicas de enmascaramiento para eludir las restricciones geográficas de acceso y recopilar los resultados de ChatGPT.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Ese mismo día, el Grupo de Inteligencia sobre AmenazasGoogle alertó sobre lo que describió como «ataques de destilación» dirigidos a sus modelos Gemini. Google haber detectado campañas que utilizaban más de 100 000 indicaciones destinadas a imitar las capacidades de razonamiento de Gemini.
La empresa atribuyó esa actividad tanto a «empresas del sector privado» como a actores vinculados al Estado.
En conjunto, los informes sugieren que la destilación se ha convertido en un punto cada vez más conflictivo en la carreraChina EE. UUChina , lo que plantea dudas sobre cómo se pueden proteger los sistemas estadounidenses de vanguardia incluso cuando se restringen las transferencias directas de pesos de modelos y chips de última generación.
Anthropic ha estado en el punto de mira estas últimas semanas debido a las tensiones que, según se ha informado, existen con el Pentágono sobre cómo se pueden utilizar sus modelos de IA en operaciones militares.
El secretario de Defensa, Pete Hegseth, se reunirá con CEO Amodei, para hablar de las condiciones que regirán el uso militar de Claude, según informóAxios y confirmaron a Fox News fuentes conocedoras del asunto.
Funcionarios del Gobierno afirmaron que Anthropic había planteado preguntas sobre el supuesto papel del modelo en una operación estadounidense dirigida contra el líder venezolano Nicolás Maduro, lo que sugería que la empresa no estaría de acuerdo con el uso de su producto, mientras que Anthropic insistió en que las discrepancias se referían a la vigilancia masiva y a las armas totalmente autónomas.
