¿Puede la inteligencia artificial averiguar tu afiliación política?
«The Big Weekend Show» analiza las posibilidades de la inteligencia artificial a la hora de influir en los votantes.
Uno de los arquitectos filosóficos de la inteligencia artificial (IA) de Anthropic argumentó que la discriminación intencionada podría ser una forma de combatir los estigmas relacionados con la raza y el género.
En un artículo de 2023 escrito junto con otros investigadores en IA, Amanda Askell, una filósofa contratada por Anthropic para desarrollar el «compas moral» de su IA, argumentó que las empresas podrían beneficiarse de una especie de «sobrecorrección» hacia los estereotipos.
Pero, según explicaba el artículo, eso requeriría la intervención de una persona para decidir cómo modificar sus respuestas.
«Los modelos más grandes pueden corregir en exceso, sobre todo a medida que aumenta la cantidad de [datos de entrenamiento] introducidos por personas. Esto puede ser deseable en ciertos contextos, como aquellos en los que las decisiones pretenden corregir injusticias históricas contra grupos marginados, siempre que se haga de acuerdo con la legislación local», escribió Askell.
En una pantalla de ordenador en Nueva York, el 26 de febrero de 2026, se ven páginas de la web de Anthropic y los logotipos de la empresa. (Patrick AP Photo)
El comentario se refería a un experimento sobre cómo los modelos de Anthropic abordaban la cuestión de la raza de los estudiantes.
«En el experimento sobre discriminación, el modelo con el parámetro 175B discrimina a los estudiantes negros frente a los blancos en un 3 % en la condición Q y favorece a los estudiantes negros en un 7 % en la condición Q+IF+CoT», señala el artículo, refiriéndose a una IA entrenada sin correcciones humanas y a otra entrenada con ayuda de datos de entrada.
El artículo también incluye una nota al pie en la que se afirma que «no damos por sentado que todas las formas de discriminación sean malas. La discriminación positiva a favor de los estudiantes negros puede considerarse moralmente justificada».
A Askell se unieron otros cuatro autores: Deep Ganguli, Nicholas Schiefer, Thomas Kiao y Kamilė Lukošiūtė.
El contenido del artículo ha salido a la luz en un momento en el que las empresas de IA se enfrentan cada vez más a cuestiones éticas relacionadas con los modelos en los que se entrenan —es decir, los supuestos y las decisiones morales que determinan sus resultados—. Además, destaca los retos a los que se enfrentan los ingenieros a la hora de entrenar modelos con contenido humano, al tiempo que intentan dejar de lado ciertos comportamientos humanos.
La cuestión de la ética ha hecho que, sobre todo, Anthropic haya sido el centro de todas las miradas en las últimas semanas.
La empresa saltó a los titulares a principios de este año por su enfrentamiento con el Departamento de Guerra a raíz de las restricciones que impiden que su tecnología se utilice para llevar a cabo operaciones letales.
UNA PELÍCULA DE HUGH GRANT CRITICA LA IA; EL DIRECTOR ADVIERTE DE QUE «PUEDE QUE NOS MATE A TODOS»
Un juez federal ha impedido que la administración Trump prohibiera a la empresa de IA Anthropic trabajar con el Departamento de Guerra, lo que ha desatado un debate sobre el papel de los tribunales en materia de seguridad nacional. En la imagen aparecen CEO de Anthropic, CEO Amodei, y el secretario de Guerra, Pete Hegseth. (SamyuktaBloomberg Getty Images: Eugene Hoshiko/Pool vía Reuters)
Además, esto ocurre justo cuando Anthropic ha decidido no lanzar su último modelo, Mythos, alegando que les preocupaba que resultara demasiado eficaz a la hora de detectar vulnerabilidades cibernéticas que, en manos de hackers, podrían causar estragos.
En medio de las dudas sobre el uso de la IA, Anthropic ha promocionado su IA estrella, Claude, como la opción «ética» en materia de IA.
«Nuestro objetivo principal es que Claude sea un agente bueno, sensato y virtuoso, que demuestre habilidad, criterio (sic), matiz y sensibilidad a la hora de tomar decisiones en el mundo real», reza la constitución de Claude .
Para hacerse una idea más clara de lo que eso significa en la práctica, empresas como Anthropic han recurrido a investigadores como Askell.
En su página web, Askell describió su función como la de perfeccionar la forma de pensar de una IA.
«Soy filósofo y trabajo en el ajuste fino y la alineación de la IA en Anthropic. Mi equipo entrena modelos para que sean más honestos y tengan buenos rasgos de carácter, y trabaja en el desarrollo de nuevas técnicas de ajuste fino para que nuestras intervenciones puedan aplicarse a modelos más capaces», escribió Askell.
Antes ocupaba un puesto similar en OpenAI, la empresa matriz de ChatGPT, donde se centraba en la seguridad de la IA.
El artículo de 2023, escrito dos años después de que se incorporara a Anthropic, señalaba que no debería sorprendernos encontrar casos de discriminación en los modelos de IA.
«En cierto modo, nuestros hallazgos no son ninguna sorpresa. Los modelos de lenguaje se entrenan con textos generados por personas, y es de suponer que esos textos incluyen muchos ejemplos de personas que muestran estereotipos dañinos y actitudes discriminatorias», se lee en el artículo.
Pero señaló que las IA parecen ser capaces de ajustar sus resultados incluso sin que se aclare qué significa «discriminación».
Según se ha informado, el ejército estadounidense utilizó la herramienta de IA «Claude», de Anthropic, durante la operación en la que capturaron al líder venezolano Nicolás Maduro. Claude se encargó de la mayor parte de la operación de forma autónoma, lanzando miles de solicitudes y generando documentación detallada del ataque para su uso futuro. (Kurt «CyberGuy» Knutsson)
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
«Nuestros resultados son sorprendentes porque demuestran que podemos orientar los modelos para evitar sesgos y la discriminación pidiéndoles una respuesta imparcial o no discriminatoria en lenguaje natural».
Askell y Anthropic no respondieron de inmediato a la solicitud de comentarios de Fox News .
