DIPUTADO RO KHANNA: Ni EE. UU. ni China pueden permitirse una carrera armamentística en materia de IA con la humanidad en juego
El riesgo de que los humanos perdamos el control sobre la IA, o de que unos modelos desajustados puedan provocar un caos biológico, aumenta cada día. Un tratado sobre IA entre EE. UU. y laChina a debería basarse en cinco pilares fundamentales
{{#rendered}} {{/rendered}}Estados Unidos y China no se ponen de acuerdo en casi nada. Pero en lo que respecta a la IA, todos saldremos perdiendo si perdemos el control.
El mes pasado, como miembro de mayor rango de la Comisión Especial de la Cámara de Representantes sobre « China », convoqué la primera audiencia del Congreso de la historia en la que se pedía un tratado sobre IA entre EE. UU. yChina que fuera vinculante, aplicable y verificable. Además, lideré a todos los demócratas de la comisión para enviar una carta a la Casa Blanca exigiendo medidas globales para hacer frente a los riesgos de la IA. A los pocos días, el presidente Trump y el secretario general Xi anunciaron que establecerían un diálogo bilateral sobre la IA. Este es un primer paso importante que no habría sido posible sin la presión del Congreso.
Pero este momento exige algo más que un debate. En mi audiencia, algunos de los principales expertos mundiales en IA pidieron que EE. UU. y China formaran grupos de trabajo técnicos conjuntos con los mejores científicos de ambos países. Su misión sería desarrollar tecnologías de verificación en las que ambas partes confíen y que impidan que cualquiera de ellas haga trampa una vez que firmemos un tratado sobre IA entre EE. UU. yChina . Este es un segundo paso sencillo que deberíamos dar hoy mismo.
{{#rendered}} {{/rendered}}Y lo más importante, también tenemos que empezar a imaginar cómo sería un tratado de verdad para salvar a la humanidad de una IA sin control. El riesgo de que los humanos perdamos el control de la IA o de que unos modelos mal alineados puedan provocar un caos biológico aumenta cada día, y si las superpotencias mundiales en materia de IA no actúan pronto, puede que sea demasiado tarde.
Para hacer frente a estos riesgos, hay cinco pilares clave en un tratado sobre IA entre EE. UU. yChina . En primer lugar, necesitamos una pausa mundial en la «auto-mejora recursiva». Esto ocurre cuando la IA desarrolla IA sin intervención humana, y es la vía más probable para que la humanidad pierda por completo el control de esta tecnología. Pedirle a la IA que diseñe sus propias medidas de seguridad es como pedirle al zorro que cuide del gallinero.
{{#rendered}} {{/rendered}}En segundo lugar, deberíamos imponer una pausa global a la superinteligencia. Tal y como se ha definido tradicionalmente, la superinteligencia es una IA que supera las capacidades humanas en todos los ámbitos. Esto podría abrir la caja de Pandora, y ni Estados Unidos ni China están preparados para ello.
En tercer lugar, tenemos que incorporar «interruptores de apagado» en todos los modelos avanzados. Aunque los científicos no se ponen de acuerdo sobre la eficacia de estos interruptores, al menos nos darían alguna posibilidad de defendernos si algún modelo rebelde decidiera volverse contra la humanidad.
{{#rendered}} {{/rendered}}EL «AI KILL SWITCH» BILL PODRÍA DESACTIVAR LOS MODELOS REBELDES
En cuarto lugar, todos los modelos de IA deberían someterse a pruebas en un entorno aislado (air-gapped) antes de su lanzamiento, para evitar un uso indebido con consecuencias catastróficas. Ya sea un modelo estadounidense o chino, los delincuentes, los terroristas e incluso los agentes de IA con objetivos erróneos no deberían poder lanzar ciberataques económicamente devastadores solo porque un laboratorio de vanguardia haya decidido lanzar una versión beta.
Y en quinto lugar, aunque quizá lo más importante, tenemos que hacer caso a las sabias palabras del presidente Reagan y «confiar, pero verificar». Sobre todo con China, no podemos limitarnos a creer lo que dice el PCCh. Ambos gobiernos deberían ponerse de acuerdo sobre tecnologías de verificación y regímenes de inspección que garanticen que Pekín no pueda hacer trampa, permitiendo que sus laboratorios se adelanten mientras los estadounidenses se quedan atrás. También tendremos que crear instituciones en las que ambas partes, en medio de una competencia feroz, puedan confiar, como una Agencia Internacional de Inspección de IA.
{{#rendered}} {{/rendered}}Durante la Guerra Fría, aunque Estados Unidos y la URSS se enfrentaban con saña, el presidente Reagan y el líder soviético Mijaíl Gorbachov se dieron cuenta de que una guerra nuclear habría dejado a ambas naciones en una situación peor. Ganar una guerra contra la IA es como ganar una guerra nuclear. Es catastrófico para la civilización.
Aunque sigamos exigiendo responsabilidades a « China » por sus prácticas económicas abusivas que perjudican a los trabajadores estadounidenses y por sus violaciones de los derechos humanos, ambos países deberían poder unirse en torno a la causa común de que sean las personas quienes mantengan el control sobre la IA. (Kenny Holston/Foto de pool vía AP)
Con ese mismo espíritu, aunque sigamos exigiendo responsabilidades a China por sus prácticas económicas abusivas que perjudican a los trabajadores estadounidenses y por sus violaciones de los derechos humanos, ambos países deberían poder unirse en torno a la causa común de que los humanos mantengan el control sobre la IA. Un tratado sobre IA entre EE. UU. yChina no beneficia ni a Estados Unidos ni a China, sino a toda la humanidad. Una pandemia mundial desatada por una IA fuera de control no distinguiría entre ciudadanos estadounidenses y chinos, y ninguno de los dos gobiernos saldría ganando si la humanidad dejara de llevar las riendas.
{{#rendered}} {{/rendered}}HAGA CLIC AQUÍ PARA MÁS OPINIONES DE FOX NEWS
Un tratado verificable sobre IA entre EE. UU. yChina no se va a conseguir de la noche a la mañana, pero si no empezamos pronto con el arduo trabajo de negociar un acuerdo así, la humanidad lo pagará muy caro. Mientras tanto, además de crear grupos de trabajo técnicos conjuntos con China, tenemos que poner nuestra propia casa en orden.
Para el Congreso, esto significa aprobar leyes que impidan que las empresas de IA antepongan los beneficios al destino colectivo de la humanidad. Para los laboratorios de IA estadounidenses, esto significa invertir en seguridad y reforzar su ciberseguridad para evitar que China nos quite nuestra ventaja competitiva. Si una ciberseguridad laxa permite que China obtenga de forma ilícita los pesos de nuestros modelos más avanzados, no solo perjudica nuestra seguridad nacional, sino que también socava nuestra baza más fuerte a la hora de conseguir un tratado sobre IA entre EE. UU. yChina .
{{#rendered}} {{/rendered}}HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Cuando se trata de los riesgos catastróficos de la IA, no puede ser una cuestión de Estados Unidos contra China o de republicanos contra demócratas. Podría decirse que la llegada de la superinteligencia marca un momento más trascendental para nuestra especie que incluso el inicio de la Revolución Industrial o el desarrollo de la bomba atómica. Mientras que lo primero transformó la sociedad y lo segundo puso en peligro su propia destrucción, las formas más avanzadas de IA amenazan con hacer ambas cosas. Unámonos y mantengamos a la humanidad al mando.