Prepárate para el RightWingGPT y el LeftWingGPT
Los investigadores colaboran en un proyecto de IA para luchar contra la polarización política
{{#rendered}} {{/rendered}}Mientras Elon Musk y otros siguen haciendo sonar la alarma sobre los peligros potenciales de la inteligencia artificial, un dúo improbable formado por un científico de datos y un filósofo político se está asociando para utilizar la IA con un propósito diferente en mente: salvar las divisiones políticas cada vez más marcadas de la sociedad.
El proyecto surgió de la investigación de David Rozado, profesor de Te Pūkenga, el Instituto de Habilidades y Tecnología de Nueva Zelanda, cuyo trabajo reciente ha llamado la atención sobre el sesgo político en ChatGPT y el potencial de dicho sesgo en otros sistemas de IA.
Rozado descubrió que en 14 de 15 pruebas de orientación política se consideraba que las respuestas de ChatGPT, un producto de la empresa OpenAI , ofrecían puntos de vista de tendencia izquierdista. Al mismo tiempo, sin embargo, la herramienta de procesamiento del lenguaje de IA negó tener ningún sesgo u orientación política, sosteniendo que se limitaba a proporcionar información objetiva y precisa a los usuarios.
{{#rendered}} {{/rendered}}"El sistema marcaría como odiosos los comentarios sobre determinados grupos, pero no sobre otros", dijo Rozado a Fox News Digital, señalando, por ejemplo, que el sistema diría que es odioso llamar deshonestas a las mujeres, pero no a los hombres. Del mismo modo, ha descrito cómo ChatGPT es más permisivo con los comentarios negativos sobre conservadores y republicanos que con los mismos comentarios sobre liberales y demócratas.
Primer plano del icono del logotipo de la aplicación chatbot de inteligencia artificial ChatGPT en la pantalla de un móvil. Rodeado de los iconos de las aplicaciones Twitter, Chrome, Zoom, Telegram, Teams, Edge y Meet. (iStock)
En respuesta a esta aparente parcialidad, Rozado descubrió que podía "afinar" un modelo lingüístico de IA similar al ChatGPT por sólo 300 $ gastados en computación en la nube, de modo que diera sistemáticamente respuestas de tendencia derechista a preguntas con connotaciones políticas. Bautizó el sistema como RightWingGPT, señalando los peligros de las "IA alineadas políticamente", dado su potencial para polarizar aún más a la sociedad.
{{#rendered}} {{/rendered}}La investigación de Rozado llamó la atención de Steve McIntosh, filósofo político y autor que dirige un grupo de reflexión llamado Instituto para la Evolución Cultural. Ahora los dos se han unido para, como dijo McIntosh a Fox News Digital, impedir que los chatbots de IA "polaricen aún más a Estados Unidos como han hecho las redes sociales".
McIntosh dijo que la IA entraña peligros importantes, reconociendo que existe una amenaza real, pero añadió que también hay oportunidades que no deben desaprovecharse.
Para ello, él y Rozado están colaborando en un nuevo proyecto para construir otro modelo lingüístico llamado LeftWingGPT que dé sistemáticamente respuestas de tendencia izquierdista a preguntas con connotaciones políticas, y un tercer modelo llamado DepolarizingGPT que dé lo que ambos describieron como respuestas "despolarizadoras" e "integradoras".
{{#rendered}} {{/rendered}}Las estatuas del burro demócrata y el elefante republicano simbolizan el sistema político bipartidista de Estados Unidos frente al Hotel Willard en Washington, D.C. (Visions of America/Universal Images Group vía Getty Images)
La idea es combinar los tres modelos (RightWingGPT, LeftWingGPT y DepolarizingGPT) en un solo sistema, de modo que cuando los usuarios hagan una pregunta, obtengan respuestas de los tres para ofrecer a la gente más perspectivas que la suya propia.
"Si alguien ve las tres respuestas, puede ver tres puntos de vista diferentes y quedar más expuesto", dijo Rozado. "La gente puede ir más allá de sus propios puntos de vista y formarse su propia opinión".
{{#rendered}} {{/rendered}}Tanto Rozado como McIntosh explicaron que introdujeron obras de intelectuales destacados -por ejemplo, de conservadores como Thomas Sowell, Milton Friedman, William F. Buckley y Roger Scruton para construir RightWingGPT- para que los modelos estuvieran expuestos a ideas "sanas" y "responsables" , pero no extremas.
"Evitamos las fuentes con puntos de vista trastornados", dijo Rozado, que señaló que el proceso estaba automatizado, por lo que no se limitaban a elegir lo que aprendían los modelos de IA.
Según McIntosh, el plan es que el proyecto entre en funcionamiento en julio, y ambos esperan que marque la diferencia.
{{#rendered}} {{/rendered}}El logotipo de OpenAI dispuesto sobre un ordenador portátil en Pekín, China, el viernes 24 de febrero de 2023. (Bloomberg vía Getty Images)
El esperado lanzamiento llegaría en un momento fortuito. OpenAI advirtió recientemente que los modelos de IA más capaces pueden tener "un mayor potencial para reforzar ideologías, visiones del mundo, verdades y falsedades enteras". En febrero, la empresa dijo que exploraría el desarrollo de modelos que permitieran a los usuarios definir sus valores.
Un reto potencial es que los modelos lingüísticos de IA pueden captar sesgos sutiles del material de entrenamiento que consumen, o de los humanos que los crean.
{{#rendered}} {{/rendered}}"En lugar de fingir que no hay prejuicios, que siempre los hay, mostremos a la gente una derecha responsable, una izquierda responsable y una posición integrada", dijo McIntosh. "En el fondo, la mayoría de la gente quiere arreglar lo que está mal y preservar lo que está bien. Pero no queremos la Revolución Francesa por un lado ni un apego irracional al estricto statu quo por otro. La verdad es que la izquierda y la derecha son interdependientes y se necesitan mutuamente".
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
McIntosh señaló que la IA podría convertirse en un arma para manipular la información y hacer avanzar una ideología concreta, pero quiere ofrecer una vía diferente.
{{#rendered}} {{/rendered}}"Queremos mostrar a la gente algo en el espacio político más allá de odiar al otro bando", dijo.