Dominando "el arte del lavado de cerebro", China intensifica la censura de la IA
China ve la IA como un medio para cambiar la mentalidad de la gente", afirma un destacado experto
{{#rendered}} {{/rendered}}China ha ampliado una vez más su política de censura y vigilancia en su intento de mantener bajo control los modelos de inteligencia artificial (IA), incluso en su carrera por hacer avanzar una tecnología en constante expansión.
El Partido Comunista Chino (PCCh) ha introducido más medidas reguladoras para asegurarse de que las empresas tecnológicas de su país se adhieren a las normas ideológicas del partido.
Todas las empresas de IA están obligadas a participar en una revisión gubernamental que analiza los grandes modelos lingüísticos (LLM) de las empresas para garantizar que "encarnan los valores socialistas fundamentales", como informó por primera vez el Financial Times la semana pasada.
{{#rendered}} {{/rendered}}Un hombre pasa junto a una foto del presidente chino Xi Jinping en el Museo del Partido Comunista de China en Pekín el 3 de marzo de 2023. (Greg Baker/AFP vía Getty Images)
China lleva mucho tiempo trabajando para suprimir la información accesible a través de Internet mediante el uso de su "Gran Cortafuegos", que se ha utilizado para bloquear una letanía de elementos percibidos como malos para el PCCh, como la información relativa a la matanza de la plaza de Tiananmen de 1989 o los memes que comparan al presidente chino Xi Jinping con Winnie the Pooh.
Este cortafuegos se está extendiendo al ámbito de la IA, ya que China se apresura a hacer avanzar sus tecnologías sin dejar de gobernar el contenido que crea.
{{#rendered}} {{/rendered}}La Administración del Ciberespacio de China (CAC) está exigiendo ahora a empresas de IA como ByteDance, Moonshot y 01.AI que participen en un proceso de revisión que analiza la eficacia con que sus programas censuran los LLM que están construyendo.
Se están desarrollando sistemas de chatbot que no sólo recogen palabras clave sensibles, sino que también bloquean la información sobre preguntas relacionadas con temas prohibidos, que a menudo implican consultas relacionadas con los derechos humanos.
A su vez, los sistemas de IA escupen respuestas como "prueba con otra pregunta" o "todavía no he aprendido a responder a esta pregunta. Seguiré estudiando para servirte mejor".
{{#rendered}} {{/rendered}}Pero en un movimiento para evitar que los chatbots bloqueen demasiadas preguntas, las políticas del CAC dictan que los LLM no deben rechazar más del 5% de todas las preguntas, según el informe del Financial Times.
Se están desarrollando sistemas de chatbot que no sólo recogen palabras clave sensibles, sino que también bloquean la información sobre preguntas relacionadas con temas prohibidos. (Getty Images)
¿QUÉ ES LA INTELIGENCIA ARTIFICIAL?
En su lugar, se han creado respuestas generales consideradas políticamente correctas para responder a tipos concretos de preguntas, aunque controlar las respuestas de los LLM es una ardua batalla para los desarrolladores.
{{#rendered}} {{/rendered}}La continua búsqueda por parte de China de controlar la narrativa entre su propia población habla de una amenaza mayor, según declaró a Fox News Digital el experto en IA Arthur Herman, investigador principal y director de la Iniciativa Alianza Cuántica del Instituto Hudson.
"Ése es el futuro que China ha trazado para sus propios ciudadanos", dijo Herman. "Así es también como ven... poder controlar el mundo de los demás".
Herman señaló la floreciente relación de China con el Sur global, donde plataformas de medios sociales como WeChat han despegado.
{{#rendered}} {{/rendered}}"Inevitablemente, habrá un elemento de control social, de control mental, en esos programas... y para dar forma a un mundo que se parezca cada vez más al aspecto que China quiere que tenga", afirmó.
Herman también advirtió de que estas estrategias no sólo se desarrollan en las plataformas de Internet de los países autoritarios, sino en cualquier lugar al que las plataformas sean accesibles, incluido Estados Unidos.
"Han dominado el arte del lavado de cerebro a través de TikTok", afirma Herman. "Los ingenieros chinos han encontrado la manera de crear una plataforma de medios sociales que es altamente adictiva, y que también está muy orientada a lavar el cerebro a sus usuarios para que vean el mundo de una determinada manera y respondan a las señales visuales y auditivas de una determinada manera."
{{#rendered}} {{/rendered}}El presidente chino, Xi Jinping, aparece encabezando a otros altos cargos que prometen sus votos al partido durante una gala previa al centenario de la fundación del Partido Comunista Chino, en Pekín, el 28 de junio de 2021. (AP Photo/Ng Han Guan)
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
Herman afirmó que el uso por parte de China de las tecnologías de TikTok es sólo un "anticipo" de cómo Pekín puede utilizar las aplicaciones de IA para manipular a las poblaciones más allá de sus fronteras.
"China ve la IA como un medio para cambiar la mente de la gente", afirmó. "La capacidad de la IA para potenciar ese tipo de aplicaciones de lavado de cerebro y control mental es tan poderosa... que incluso cuando no estás realmente bajo una cámara de vigilancia, incluso cuando no estás realmente escuchando o viendo propaganda inspirada por el gobierno... hay otras formas más sutiles en las que tu mente está siendo cambiada y ajustada simplemente por tu interacción con las cosas que tienen lugar en la vida cotidiana -que están cada vez más dirigidas por cómo el Partido Comunista quiere que veas el mundo."