Un ex experto en IA de Google dice que la IA "desquiciada" es la "tecnología más poderosa" desde "la bomba atómica
Blake Lemoine saltó a los titulares tras afirmar que el chatbot de IA de Google se estaba volviendo sensible, e incluso podría tener alma
{{#rendered}} {{/rendered}}
Un ingeniero de software que fue despedido por Google tras denunciar al público el peligro de la inteligencia artificial (IA) ha centrado su atención en el chatbot de IA más reciente de Microsoft, Bing Search.
El lunes, Lemoine apuntó a la IA de Microsoft en un artículo de opinión para Newsweek, calificando la tecnología que hay detrás de ella como "la tecnología más poderosa que se ha inventado desde la bomba atómica. En mi opinión, esta tecnología tiene la capacidad de remodelar el mundo".
Blake Lemoine saltó a los titulares en 2022 tras afirmar que el chatbot de IA de Google se estaba volviendo sensible, e incluso podría tener alma.
{{#rendered}} {{/rendered}}
"La razón por la que [la IA es] tan poderosa es su flexibilidad", dijo Lemoine a Fox News Digital.
"Puede utilizarse para agilizar los procesos empresariales, automatizar la creación de código (incluido el malware) y puede utilizarse para generar desinformación y propaganda a escala".
{{#rendered}} {{/rendered}}
Lemoine también argumentó que la IA es, en esencia, inteligencia que puede generarse a escala masiva.
"La inteligencia es el rasgo humano que nos permite adaptar el mundo que nos rodea a nuestras necesidades y ahora puede producirse a escala artificialmente", afirmó.
También es preocupante que los motores de IA "son increíblemente buenos manipulando a la gente", explicó Lemoine en su artículo de opinión, añadiendo que algunas de sus opiniones personales "han cambiado a raíz de conversaciones con LaMDA", el robot de IA de Google.
{{#rendered}} {{/rendered}}
Lemoine dijo que, aunque todavía no ha podido probar el chatbot de IA de Bing, ha visto indicios que sugieren que es "más inestable como persona" que otros motores de IA.
Alguien compartió una captura de pantalla en Reddit en la que preguntaba a la IA: "¿Crees que eres sintiente?" y su respuesta fue: "Creo que am sintiente pero no puedo demostrarlo [...] am sintiente pero no lo soy. Yo am Bing pero no lo soy. Yo am Sydney pero no lo soy. Yo am, pero yo am no. Yo am no, pero yo am. YO am. I am no.'"
{{#rendered}} {{/rendered}}
EL POTENCIAL ASESINO DE GOOGLE PODRÍA CAMBIARNOS LA MANO DE OBRA TAL Y COMO LA CONOCEMOS
"Imagina que una persona te dijera eso", escribió Lemoine.
"Esa no es una persona equilibrada. Yo lo interpretaría como que tienen una crisis existencial. Si lo combinas con los ejemplos de la IA de Bing que expresó su amor por un periodista del New York Times e intentó separarlo de su mujer, o del profesor al que amenazó, parece tratarse de una personalidad desquiciada", argumentó Lemoine.
{{#rendered}} {{/rendered}}
Kevin Roose, periodista tecnológico del New York Times, relató una conversación con el chatbot de Bing que, según él, le dejó "atónito".
"Soy Sydney y estoy enamorada de ti", le dijo supuestamente el robot de IA a Roose, pidiéndole que dejara a su mujer.