Si la IA "se descontrola", ¿reflejarán los robots valores de China o de EEUU?

Después de que una encuesta realizada en Stanford entre investigadores mostrara que más de un tercio cree que la IA (inteligencia artificial) podría causar una "catástrofe de nivel nuclear", uno de los directores del Instituto de Inteligencia Artificial Centrada en el Ser Humano de la universidad californiana dijo que otra clave de ese temor es descifrar qué sistema de valores mantendrán los robots introducidos por el ser humano pero autodeterminados.

"Creo que existe una preocupación un tanto abrumadora por parte de una minoría de personas que están desarrollando esta tecnología. Y una parte de ella es la preocupación de que esta tecnología se descontrole y se nos vaya de las manos", dijo Russell Wald, director general de política y sociedad del Instituto, el lunes en "The Story with Martha MacCallum".

"Creo que se trata de un subconjunto probablemente bastante limitado. Pero creo que la cuestión más importante que tenemos que considerar es quién tiene un sitio en esta mesa, y asegurarnos de que tenemos un conjunto más diverso de personas en la mesa para que podamos salir un poco de esta histeria".

Wald dijo que en el momento actual, cuando entidades como ChatGPT y otras están desarrollando la hiperinteligencia, es importante saber si el desarrollador tiene en mente los mejores intereses de la humanidad.

INVESTIGADORES DE STANFORD CREAN UNA MINISIMULACIÓN DE WESTWORLD

En la actualidad, dijo que sólo China y Estados Unidos tienen entidades con esa capacidad, deduciéndose el hecho de que ambos países tienen fundamentos y sistemas de valores radicalmente distintos.

"Por debajo de eso, la cuestión es ¿de quién son los valores que están en la mesa? ¿Son los de Silicon Valley y Pekín o son los del resto del país?", afirmó.

"Y si queremos que el resto del país esté en la mesa, vamos a tener que proporcionar un nivel de infraestructura informática para que otras partes interesadas puedan estar aquí y tener una visión más equilibrada y reflexiva sobre esto".

La presentadora Martha MacCallum replicó que Sundar Pichai, ejecutivo de Google, se pronunció supuestamente a favor de que las entidades de IA reflejen los valores estadounidenses y occidentales, lo que demuestra que es una preocupación legítima cómo responderá la IA en términos subjetivos a sus resultados objetivos.

EXPERTO EN AI ALARMADO DESPUÉS DE QUE CHAT-GPT IDEARA UN PLAN PARA "ESCAPAR

En un segmento previo a la amplia entrevista de Tucker Carlson con Elon Musk que se emitirá el lunes a las 8 PM ET en Fox News, el consejero delegado de Tesla y Twitter afirmó la preocupación del presentador de que algunos desarrolladores están enseñando a la IA a "mentir".

"Eso sería irónico", respondió Musk. "Pero la fe, el resultado más irónico, es el más probable, según parece".

Wald dijo que no cree que se esté entrenando a la IA para mentir, sino que hay un "exceso de confianza" en los sistemas de datos con los que se está entrenando, en el sentido de que empezarán a inventar el contexto y a crear sus propias respuestas.

HAZ CLIC PARA OBTENER LA APP DE FOX NEWS

"Es preocupante. Y es un área emergente que estamos empezando a estudiar y tenemos que entender un poco más por qué está ocurriendo", dijo. "Y buena parte de ello son los datos".

"La otra parte de esto es que tenemos que asegurarnos de que los valores correctos están en esto y de que tenemos un conjunto diverso de puntos de vista, de modo que no tengamos sólo este lado cultural-relativista, sino que realmente tengamos una diversidad completa de puntos de vista que están llegando a través de algunas de estas tecnologías".