Las advertencias de Elon Musk sobre la investigación en IA siguieron a una batalla de meses contra la IA "despierta".

Elon Musk, consejero delegado de Tesla y SpaceX, ha estado librando una batalla durante los últimos meses sobre lo que denominó inteligencia artificial "despierta", una lucha que parece haber influido en su petición de una pausa de seis meses en el desarrollo de sistemas de IA de próxima generación.

Musk fue uno de los varios firmantes de una carta de esta semana en la que se advertía de que la tecnología avanzada de IA podría plantear "profundos riesgos para la sociedad y la humanidad". La carta decía que uno de esos riesgos es que la IA podría utilizarse para "inundar nuestros canales de información con propaganda y falsedades".

La carta estaba firmada por varios notables expertos en tecnología, y no está claro quién podría haber presionado para que se incluyera esa frase concreta. Pero coincide con la lucha pública que Musk mantiene desde finales del año pasado sobre la capacidad de la IA para restringir lo que la gente puede decir y leer en las plataformas digitales, una lucha en la que está implicada una empresa en cuyo lanzamiento Musk participó.

En 2015, Musk cofundó OpenAI, la empresa que publicó GPT-4 este mes, unas semanas antes de que se publicara la carta. GPT-4 es la última edición de un sistema de lenguaje que subyace en la herramienta ChatGPT de la empresa, que puede recibir entradas y generar salidas que suenen humanas.

ELON MUSK, COFUNDADOR DE APPLE, Y OTROS EXPERTOS EN TECNOLOGÍA PIDEN UNA PAUSA EN LOS "EXPERIMENTOS GIGANTES DE AI": "CARRERA PELIGROSA

Musk abandonó el consejo de OpenAI en 2018 y explicó que uno de los motivos de su marcha era que la empresa perseguía beneficios en lugar de servir de "contrapeso" de código abierto a Google.

"Ahora se ha convertido en una empresa de código cerrado y máximo beneficio controlada efectivamente por Microsoft", tuiteó Musk en febrero. Se refería a los 10.000 millones de dólares que recibió de Microsoft, una aportación que el director general de OpenAI, Sam Altman, ha defendido señalando que Microsoft no forma parte del consejo de administración de su empresa y no la controla en modo alguno.

Pero la oposición de Musk a OpenAI fue más allá de su modelo de financiación. A finales del año pasado, Musk dejó claro que se opone a la forma en que OpenAI ha estado desarrollando su chatbot de IA.

En diciembre, Altman defendió las reglas desarrolladas para limitar la capacidad de ChatGPT de producir resultados controvertidos o insensibles. "'La IA tiene que hacer lo que yo le pida' y 'le pedí a la IA que fuera sexista y lo fue, ¡mira qué horror!' son posturas incompatibles", tuiteó Altman.

LOS EXPERTOS EN AI SOPESAN LOS PELIGROS Y BENEFICIOS DEL CHATGPT PARA LAS PERSONAS, LOS EMPLEOS Y LA INFORMACIÓN: "UN MUNDO DISTÓPICO

Musk tuiteó en respuesta: "El peligro de entrenar a la IA para que se despierte -es decir, mienta- es mortal".

En febrero, Musk tuvo una reacción similar cuando un aliado de Musk tuiteó que ChatGPT incluye al ex presidente Trump y al propio Musk entre las figuras "controvertidas", mientras que el presidente Biden y Bill Gates no lo son.

Musk respondió tuiteando: "!"

También en febrero, Musk respondió a un tuit que mostraba que ChatGPT no estaba dispuesto a escribir un poema sobre los atributos positivos de Donald Trump porque no puede producir contenidos sesgados o partidistas, pero sí sobre el presidente Biden. "Es una preocupación seria", respondió Musk.

EL "PADRINO" DE LA INTELIGENCIA ARTIFICIAL SOBRE LA POSIBILIDAD DE QUE LA AI ACABE CON LA HUMANIDAD: "NO ES INCONCEBIBLE

OpenAI tiene una serie de normas para utilizar ChatGPT que llegan al núcleo de la queja de Musk sobre un sistema de IA "despierto". Según la empresa, sus herramientas no pueden utilizarse para generar "contenido odioso, acosador o violento". Eso incluye contenido que "exprese, incite o promueva el odio basado en la identidad", "pretenda acosar, amenazar o intimidar" a alguien, o "promueva o glorifique la violencia o celebre el sufrimiento o la humillación de otros".

Apenas unos días después de que Musk tuiteara "!!", la prensa informó de que Musk estaba contratando a expertos en IA para crear su propio sistema de IA para chatear sin despertarse.

Un portavoz de Musk en SpaceX declinó responder a una solicitud de comentarios para este artículo. Pero un observador político de Washington coincidió en que la batalla abierta de Musk contra la IA parece ser un factor significativo en su llamamiento a una pausa en el desarrollo de la IA.

"Elon ha estado en primera línea de los archivos de Twitter, así que ha visto lo mala que puede ser la censura", dijo Jake Denton, investigador asociado del Centro de Políticas Tecnológicas de la Fundación Heritage. "Esto es tan evidente para todos en este espacio... que [la tecnología de IA] está superando el ritmo de nuestra capacidad para controlarla".

Denton dijo que, aunque la IA tendrá innumerables aplicaciones en el futuro, la primera aplicación que la mayoría de la gente está viendo hoy son cosas como ChatGPT.

"El problema conocido por los consumidores es el sesgo ChatGPT", dijo. "Es evidente que va camino de sustituir a las búsquedas. La persona media pronto acudirá a un sistema de IA basado en el chat en lugar de a una barra de búsqueda".

"Y eso significa que la respuesta, la información que obtienen cuando introducen una consulta de búsqueda, va a ser... una cosa curada con las restricciones de la empresa de IA reflejadas en esa respuesta", añadió. "Eso es un gran peligro".

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

La carta firmada por Musk y otras personas pedía a los gobiernos que impusieran una pausa en la investigación de la IA, una postura que grupos conservadores como la Fundación Heritage parecen inclinados a apoyar dadas las pruebas de parcialidad de los actuales sistemas de IA, aunque normalmente no busca una solución gubernamental.

"Creo que la regulación es absolutamente necesaria, la intervención del gobierno en alguna capacidad", dijo. "No creo que debamos avanzar sin algo así. Nuestro futuro no debería ser decidido por élites no elegidas de Silicon Valley".