Uso indebido "alarmante" de la IA para espiar a activistas y periodistas "bajo el pretexto de prevenir el terrorismo": experto de la ONU
La experta de la ONU Fionnuala Ní Aoláin afirma: "Debe ponerse fin a la transferencia no regulada de tecnologías de alto riesgo a Estados que cometen violaciones sistemáticas de los derechos humanos".
{{#rendered}} {{/rendered}}Un experto de las Naciones Unidas advirtió de la "alarmante" tendencia a "utilizar la retórica de la seguridad" para justificar "tecnologías intrusivas y de alto riesgo", incluida la inteligencia artificial, para espiar a activistas de derechos sociales y periodistas.
La experta de la ONU Fionnuala Ní Aoláin pidió una moratoria en el desarrollo de la IA, entre otras tecnologías avanzadas como los drones, hasta que "existan salvaguardias adecuadas", según un informe de marzo de 2023 que se presentó al Consejo de Derechos Humanos.
"Las justificaciones excepcionales para el uso de tecnologías de vigilancia en la lucha antiterrorista 'lite' contra los derechos humanos a menudo se convierten en un uso habitual mundano", afirmó Ní Aoláin en una declaración tras la publicación del informe.
{{#rendered}} {{/rendered}}Sin una supervisión significativa, argumentó, los países y los agentes privados pueden utilizar impunemente la tecnología del poder de la IA "con el pretexto de prevenir el terrorismo".
Fionnuala Ní Aoláin pidió una moratoria sobre el desarrollo de la IA, entre otras tecnologías avanzadas, hasta que "existan salvaguardias adecuadas". (Consejo de Derechos Humanos de las Naciones Unidas/Twitter)
"Las prácticas abusivas están muy arraigadas en la lucha antiterrorista y contra el extremismo violento", afirmó Ní Aoláin, profesor de la Universidad de Minnesota y relator especial designado por el Consejo de Derechos Humanos de la ONU.
{{#rendered}} {{/rendered}}Crear guardarraíles y salvaguardias para la IA es una tarea de enormes proporciones que EE.UU., como muchos otros gobiernos de todo el mundo, está intentando abordar, pero es una cuestión que, según muchos expertos, no tiene precedentes.
¿QUIÉN TE VIGILA? AI PUEDE ACECHAR A VÍCTIMAS DESPREVENIDAS CON "FACILIDAD Y PRECISIÓN": EXPERTOS
La IA generativa tiene el potencial de crear una utopía, o el poder de sumir a un país en una distopía, según afirman los expertos.
{{#rendered}} {{/rendered}}"La IA es una de las cuestiones más complejas que se han intentado regular", dijo Kevin Baragona, fundador de DeepAI.org, a Fox News Digital en una entrevista anterior. "Basándonos en la lucha de los gobiernos actuales por regular cuestiones más sencillas, parece difícil ser optimista respecto a que conseguiremos una regulación sensata".
Mira a Fionnuala Ní Aoláin dirigiéndose al Consejo de Derechos Humanos de la ONU
Sin embargo, prohibirla por completo, como intentó hacer Italia en un principio, supondría un retroceso para la nación durante el próximo siglo, afirmó Baragona.
{{#rendered}} {{/rendered}}"En ausencia de regulación, el coste para los derechos humanos sólo puede aumentar sin que haya un final a la vista", afirmó Ní Aoláin.
La IA se encontraba entre un puñado de "tecnologías de alto riesgo" de las que habló. El tema se desglosó como una subsección propia en el informe de 139 páginas.
{{#rendered}} {{/rendered}}"La IA tiene las propiedades de una tecnología de uso general, lo que significa que abrirá amplias posibilidades de aplicación", escribió en su informe.
MIRA EJEMPLOS DE CÓMO PUEDEN FUNCIONAR LAS ESTAFAS ASISTIDAS POR AI
{{#rendered}} {{/rendered}}La tecnología ya se está aplicando en acciones sociales, económicas, políticas y militares, y está integrada en los sistemas de aplicación de la ley, seguridad nacional, justicia penal y gestión de fronteras.
Varias ciudades de todo el país probaron diversas aplicaciones de la IA en programas piloto.
En el corazón de la IA están los algoritmos que pueden crear perfiles de personas y predecir probables movimientos futuros utilizando grandes cantidades de datos, incluidos los históricos, de justicia penal, viajes y comunicaciones, medios sociales e información sanitaria.
{{#rendered}} {{/rendered}}También puede identificar lugares como "probables lugares de mayor actividad delictiva o terrorista" y señalar a personas como presuntos sospechosos y futuros reincidentes, según el informe de Ní Aoláin.
Gráfico 3D en movimiento del concepto de tecnología de innovación de IA o inteligencia artificial, chatbot de IA y tecnología de IA generativa. (Getty Images)
"Las implicaciones para la privacidad y los derechos humanos de este tipo de recopilación de datos y actividad predictiva son profundas, tanto para los derechos derogables como para los no derogables", afirmó.
{{#rendered}} {{/rendered}}"La Relatora Especial subraya su profunda inquietud por el hecho de que las evaluaciones de la IA se utilicen para desencadenar la acción del Estado en contextos antiterroristas, desde registros, interrogatorios, detenciones, procesamientos y medidas administrativas hasta una vigilancia más profunda e intrusiva.
"Las evaluaciones de IA por sí solas no deben ser la base de una sospecha razonable, dada su naturaleza inherentemente probabilística".