Un investigador que dejó su puesto en el ámbito de la IA por miedo a que la tecnología nos lleve a la extinción dice que la gente está «suplicando» que se regule

El investigador de Anthropic, que va a dejar la empresa porque teme que la tecnología esté jugando con la vida humana, ha dicho Fox News que hay esperanza de que podamos evitar que esto acabe destruyendo a la humanidad en la próxima década.

En una entrevista exclusiva el miércoles en «Special Report», Jacob Coxon, de 27 años, dijo que la regulación es clave.

El martes publicó su dimisión en X, donde escribió que las empresas no están actuando de forma responsable y que la carrera hacia la superinteligencia que se mejora a sí misma es «jugar con nuestras vidas».

Coxon, que dijo que se había pasado los últimos tres años investigando sobre el preentrenamiento en OpenAI y en Anthropic, señaló que no es una situación del todo desesperada.

UN INVESTIGADOR DE ANTHROPIC AFIRMA QUE LA IA TIENE MÁS DEL 10 % DE PROBABILIDADES DE «MATAR A TODOS LOS SERES HUMANOS» EN LA PRÓXIMA DÉCADA

Le dijo a Baier, el presentador político principal de « Fox News » Bret , que el problema es «fácilmente solucionable». 

Evan Hubinger, responsable de ciencia de la alineación en Anthropic, dijo que estaba de acuerdo con la publicación de Coxon en X.

«Jacob tiene razón en esto: ¡de verdad creemos firmemente que la IA podría acabar con toda la humanidad!», escribió en X. «Personalmente, creo que hay más de un 10 % de posibilidades de que pase en la próxima década. Creo que Anthropic lo está dando todo, pero todavía no tenemos un plan para resolver el problema de la alineación de la superinteligencia y no parece que vayamos por buen camino para conseguirlo».

SANDERS IMPULE LA «PENA DE MUERTE» PARA UN SECTOR CLAVE DE EE. UU. QUE PODRÍA DAR VENTAJA A LOS ADVERSARIOS EXTRANJEROS

«Para que quede claro, como decimos en nuestro último Informe de Riesgos, creo que el riesgo que plantean los modelos actuales es bajo», añadió Hubinger. «Lo que am me preocupa es que surja una superinteligencia a raíz de la superación recursiva, ya que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos».

Coxon ha dicho que está de acuerdo con Hubinger en que, en este momento, la amenaza de que la inteligencia artificial tome el control es «mínima».

«Pero la superación recursiva —es decir, que las IA se vuelvan más inteligentes por sí mismas— podría ocurrir ya el año que viene», añadió. «Hay quien incluso dice que en seis meses. Así que esta opinión la comparte todo el sector, donde la gente es muy consciente de que el trabajo que están haciendo ahora, si no bajamos el ritmo, podría llevar a que las IA tomen el control a finales de esta década».

Él cree que «sin duda» hay algo que el país puede hacer para cambiar la dinámica de esa «probabilidad superior al 10 %» de que la IA acabe con toda la humanidad.

«Creo que el problema no es irresoluble, no es que pensemos que sea algo imposible… es solo que vamos tan deprisa que no tenemos tiempo para resolverlo como es debido, no estamos siendo cuidadosos, y todo el mundo quiere serlo», dijo Coxon. «Creo que es simplemente que la gente está pidiendo a gritos que haya regulación. Creo que solo es cuestión de que —a nivel internacional— alguien intervenga y se asegure de que no nos precipitemos hasta la extinción. El problema es perfectamente solucionable».

«Esta tecnología se está utilizando en el ámbito internacional como un "superarma" en una carrera armamentística», afirmó Coxon, quien pidió a la comunidad internacional que ejerza un control sobre ella.

«Esta es, posiblemente, la tecnología más peligrosa que la humanidad haya creado jamás», siguió diciendo. «Es, básicamente, algo sacado de la ciencia ficción. Creo que no nos queda más remedio que cooperar a nivel internacional, porque una carrera armamentística sería desastrosa como ninguna otra actividad humana lo ha sido antes».

HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS

Coxon comentó que varios líderes del sector tecnológico han expresado públicamente la necesidad de un acuerdo para frenar el crecimiento, pero la gente todavía no se lo está tomando en serio.

«No es solo un truco de marketing», dijo. «Esta gente se toma muy en serio que su sector tiene que regularse lo antes posible».

En cuanto a las ventajas de la IA, Coxon dijo que estamos «a las puertas de descubrimientos increíbles», pero que nos estamos precipitando demasiado. Hizo hincapié en la necesidad de actuar con moderación.

Baier le preguntó a Coxon si se podía resolver el problema.

«Creo que sin duda. Creo que si realmente lo intentamos, en lugar de rendirnos a la inevitabilidad de una carrera condenada al fracaso o a una apuesta temeraria, entonces podremos resolverlo», dijo. «El problema no es irresoluble».

Fox News se ha puesto en contacto con Anthropic para recabar sus comentarios.