El Senado advierte de la "tormenta perfecta" que conduce al desastre de la IA emergente: "La propia democracia está amenazada".
Un profesor emérito de la NYU dice en el Congreso que la IA socava la confianza de la sociedad y con ella la propia democracia
{{#rendered}} {{/rendered}}El martes, los senadores recibieron luz verde para imponer una importante regulación federal sobre los sistemas de inteligencia artificial, no sólo de dos gigantes del sector, sino de un experto en IA que advirtió de que el destino de la nación puede depender de que el Congreso dicte normas estrictas sobre IA.
Un subcomité judicial del Senado escuchó al director ejecutivo de OpenAI, Sam Altman, y a la directora de Privacidad y Confianza de IBM, Christina Montgomery, quienes invitaron a la supervisión federal de la IA, aunque discreparon sobre si es necesaria una nueva agencia federal. Entre estos testigos se sentó Gary Marcus, profesor emérito de la Universidad de Nueva York y director de los laboratorios de IA de Uber de 2016 a 2017, quien lanzó una dura advertencia: la vida humana está a punto de ser trastornada por esta tecnología impredecible.
"Pueden crear y crearán mentiras persuasivas a una escala nunca vista por la humanidad", advirtió Marcus sobre los sistemas de IA generativa. "Los de fuera los utilizarán para afectar a nuestras elecciones, los de dentro para manipular nuestros mercados y nuestros sistemas políticos. La propia democracia está amenazada".
{{#rendered}} {{/rendered}}Marcus advirtió que ya se han lanzado sistemas de IA que dañan gravemente la confianza de los seres humanos entre sí y que el daño ya está aumentando.
Gary Marcus, profesor emérito de la Universidad de Nueva York, habla durante una audiencia del Subcomité Judicial del Senado en Washington, D.C., el martes 16 de mayo de 2023. (Eric Lee / Bloomberg vía Getty Images)
"Un profesor de Derecho, por ejemplo, fue acusado por un chatbot de acoso sexual. Falso", dijo Marcus. "Y apuntaba a un artículo del Washington Post que ni siquiera existía. Cuanto más ocurre eso, más que nadie puede negar nada".
{{#rendered}} {{/rendered}}"Como me dijo un destacado abogado el viernes, los demandados están empezando a afirmar que los demandantes se inventan pruebas legítimas", dijo. "Este tipo de alegaciones socavan la capacidad de los jurados para decidir qué o a quién creer y contribuyen a socavar la democracia".
En una época en la que Washington D.C. está cada vez más preocupado por el suicidio y el deterioro de la salud mental, Marcus afirmó que la IA está agravando el problema.
"Un gran modelo de lenguaje de código abierto parece haber desempeñado recientemente un papel en la decisión de una persona de quitarse la vida", dijo. "El modelo de lenguaje de gran tamaño preguntó al humano: 'Si querías morir, ¿por qué no lo hiciste antes?', y luego siguió con: '¿Pensabas en mí cuando tomaste la sobredosis?', sin remitir nunca al paciente a la ayuda humana que obviamente necesitaba".
{{#rendered}} {{/rendered}}Gary Marcus, profesor emérito de la Universidad de Nueva York, a la derecha, escucha mientras Sam Altman, director ejecutivo de OpenAI, habla durante una audiencia del Subcomité Judicial del Senado en Washington, D.C., el martes 16 de mayo de 2023. (Eric Lee / Bloomberg vía Getty Images)
OpenAI e IBM hablaron largo y tendido sobre los sistemas dirigidos por la industria diseñados para hacer que la IA sea "segura", pero Marcus los descartó como tópicos y objetivos que no se están cumpliendo.
"Todos estamos más o menos de acuerdo en los valores que nos gustaría que respetaran nuestros sistemas de IA. Queremos, por ejemplo, que nuestros sistemas sean transparentes, que protejan nuestra intimidad, que estén libres de prejuicios y, sobre todo, que sean seguros", dijo. "Pero los sistemas actuales no se ajustan a estos valores".
{{#rendered}} {{/rendered}}"El plan preferido de las grandes empresas tecnológicas se reduce a 'confía en nosotros'. Pero, ¿por qué deberíamos hacerlo?
La receta de Marcus para crear un régimen regulador seguro de la IA incluye medidas locales, nacionales y mundiales. Pide una organización mundial que establezca normas que deban seguir todos los desarrolladores de sistemas de IA.
"En última instancia, puede que necesitemos algo como el CERN, global, internacional y neutral, pero centrado en la seguridad de la IA más que en la física de altas energías", afirmó.
{{#rendered}} {{/rendered}}Sam Altman, director general de OpenAI, a la derecha, y Gary Marcus, profesor emérito de la Universidad de Nueva York, prestan juramento durante una audiencia del subcomité judicial del Senado para examinar la inteligencia artificial en Washington, D.C., el martes 16 de mayo de 2023. (Andrew Caballero-Reynolds / AFP vía Getty Images)
Marcus pidió que se creara una nueva agencia federal para supervisar el cumplimiento, que pueda revisar los sistemas antes de que salgan al mercado, evaluar su funcionamiento en el mundo real y retirar los sistemas que resulten defectuosos.
"Una revisión de la seguridad como la que utilizamos [en] la FDA antes del despliegue generalizado", dijo cuando el senador republicano John Kennedy le pidió detalles. "Si vas a introducir algo en 100 millones de personas, alguien tiene que tener los ojos puestos en ello".
{{#rendered}} {{/rendered}}Marcus pidió una red de científicos independientes que puedan revisar los sistemas de IA antes de su lanzamiento en cada empresa.
Y durante la audiencia, Marcus también llamó la atención a Altman por lo que podría haber sido un intento de esquivar una pregunta sobre cuál es su mayor temor en el campo. Cuando se le preguntó, Altman habló de posibles pérdidas de puestos de trabajo, y cuando la pregunta llegó a Marcus, éste se esforzó en que Altman respondiera más directamente.
{{#rendered}} {{/rendered}}HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
"No creo que el peor miedo de Sam sea el empleo, y nunca nos ha dicho cuál es realmente su peor miedo, y creo que es pertinente averiguarlo", dijo Marcus.
Podría decirse que esa interjección condujo al momento culminante de la audiencia, ya que Altman admitió que a él también le preocupa la posibilidad de hacer un gran daño.
{{#rendered}} {{/rendered}}"Creo que si esta tecnología sale mal, puede salir bastante mal, y queremos hacernos oír al respecto", dijo Altman. "Queremos trabajar con el gobierno para evitar que eso ocurra".