Se está generando un nuevo debate sobre la espiritualidad y la inteligencia artificial
El teólogo Jonathan Morris habla sobre la espiritualidad en la inteligencia artificial después de que los desarrolladores consultaran a expertos en religión sobre la IA moral.
Los directivos de Anthropic, Google, Meta, OpenAI, Nvidia y xAI se reunieron hace poco con el presidente Trump en la Casa Blanca para firmar un acuerdo voluntario sobre inteligencia artificial. Los compromisos que recoge son concretos: controles internos más estrictos, una evaluación externa independiente y una revisión a nivel del consejo de administración.
La pregunta más difícil, y que aún está por ver, es si se ganará la confianza de las personas que se espera que vivan y trabajen con estos sistemas, que se han mostrado cada vez más reacias a la proliferación de la IA.
Estados Unidos no puede ganar la carrera de la IA si los estadounidenses tienen miedo de usarla.
LA IA NO ES SOLO UN PROBLEMA, ES UNA SOLUCIÓN. HAY GENTE QUE YA LE ESTÁ SACANDO EL MÁXIMO PARTIDO
A menudo digo que uno de los mayores retos que nos plantea la IA es el miedo a la propia IA. Ese miedo se está convirtiendo en un lastre para el país.
En una nueva encuesta de EqualAI realizada por YouGov, el 46 % de los estadounidenses dijo que no se sentiría cómodo si una empresa utilizara la IA de una forma que les afectara a ellos o a sus datos, independientemente de las medidas de seguridad. Sin embargo, el 71 % afirmó que una experiencia positiva con un sistema de IA aumentaría su confianza en él, y el 63 % dijo lo mismo respecto a una evaluación positiva por parte de científicos independientes.
Ese 63 % es una clave importante para entender los mecanismos de la confianza, y ofrece un puente para construirla. La gente no quiere promesas; quiere pruebas.
La IA solo aportará beneficios a nuestra economía, seguridad nacional y competitividad tal y como nos los imaginamos si los estadounidenses la usan de verdad. Una enfermera que no confíe en una herramienta de diagnóstico basada en IA no la utilizará. Un fabricante que no entienda lo que hacen sus agentes de IA no los implementará a gran escala.
Por eso tenemos que ser prudentes al hablar de una «pausa», porque si no se incluye a competidores fuertes, como las empresas chinas, la tecnología seguirá avanzando, pero en otros lugares y sin las medidas de control que nos gustaría establecer. La pregunta que tenemos que responder es: ¿qué hará que los estadounidenses tengan la confianza suficiente para adoptar la IA?
El debate se plantea con demasiada frecuencia como una cuestión de «más normas frente a menos normas». Un diálogo más útil se centra en cómo podemos desarrollar la capacidad de gobernanza necesaria para que la IA pueda crecer.
La gente nos está diciendo que tenemos trabajo por delante. Una encuesta reciente de « Reuters » e Ipsos reveló que el 73 % de los estadounidenses cree que las empresas de IA no han hecho lo suficiente para evitar daños graves derivados de su tecnología; el 55 % dijo que apoyaría ralentizar el desarrollo de la IA. La encuesta de EqualAI apunta a lo que podría cambiar esa situación: el 63 % quiere una revisión científica independiente de los sistemas de IA, mientras que el 60 % apoya las auditorías realizadas por terceros. El 68 % dice que es fundamental poder corregir la información errónea, y el 65 % afirma que es esencial poder recurrir una decisión tomada por la IA.
Cuando testifiqué ante la Comisión Especial de la Cámara de Representantes, percibí un gran interés, por parte de ambos partidos, en hacer esto bien. Mi mensaje fue claro: el liderazgo estadounidense en IA requiere liderazgo en la gobernanza de la IA. El Congreso puede recurrir a las competencias que ya tiene, como la contratación pública, la gobernanza de las agencias y la protección del consumidor, además de aclarar las protecciones específicas para la IA, como establecer definiciones y protocolos para notificar incidentes relacionados con la IA —tal y como se ha hecho con los ciberincidentes—, definir la responsabilidad en los casos de uso de IA con mayores niveles de riesgo y convertir la alfabetización en IA en una prioridad para la competitividad nacional.
Y las empresas no tienen por qué esperar a que Washington actúe. Todos los equipos directivos que estén implantando la IA deberían asegurarse de haber seguido estos cuatro pasos:
En primer lugar, haz que la IA sea visible. No se puede gestionar lo que no se ve. Las organizaciones deben saber el quién, el qué, el dónde, el cuándo y el cómo: dónde se utiliza la IA, qué puede hacer y a qué tiene acceso, quién es el responsable, cuándo se va a probar y cómo se abordarán los resultados inesperados.
En segundo lugar, hay que establecer una evaluación independiente. El modelo institucional está abierto a debate. Las preguntas fundamentales son: ¿Quién evalúa los sistemas de IA? ¿Según qué criterios? ¿Y qué pasa cuando un sistema falla?
En tercer lugar, hay que crear un sistema para identificar y gestionar los incidentes importantes relacionados con la IA. Hay que definir qué se entiende por «incidente» y asegurarse de que todas las partes responsables entiendan los procedimientos de escalado y las obligaciones de notificación. También necesitamos que el Gobierno federal establezca estas medidas.
En cuarto lugar, exige que se rindan cuentas. Cada organización debería tener una persona de contacto encargada de las implementaciones en determinadas categorías de riesgo. A medida que la IA se vuelve más autónoma, los sistemas pueden llevar a cabo acciones en lugar de limitarse a generar información. Los responsables deben asegurarse de que un agente solo tenga el acceso mínimo necesario.
Por último, asegúrate de que tu plantilla y sus familias tengan conocimientos básicos sobre la IA. No hace falta que la gente se convierta en ingenieros. Lo que necesitan es entender qué puede y qué no puede hacer la IA, cuándo hay que cuestionarla y cuándo debe prevalecer el criterio humano.
Ya hemos pasado por puntos de inflexión tecnológicos antes. Los coches no dejaron de ser innovadores cuando se establecieron los permisos de conducir, los semáforos y las normas de seguridad internacionales. Esas instituciones hicieron posible su adopción masiva. Con la IA pasará lo mismo. La gobernanza fomenta la confianza y, por lo tanto, su adopción.
La respuesta no es frenar el progreso tecnológico hasta que hayamos eliminado todos los riesgos. Tampoco es decirles a los estadounidenses que confíen en la IA solo porque nosotros queremos que lo hagan. A medida que aceleramos el desarrollo y las capacidades de la IA, tenemos que ir a la par con los mecanismos que nos permiten controlarla.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
La ventaja de Estados Unidos nunca ha consistido simplemente en desarrollar tecnologías potentes. Es que, al hacerlo, creamos al mismo tiempo las instituciones y las normas que permiten que esas tecnologías potentes generen confianza y se adopten a gran escala. Este momento nos pide que volvamos a hacerlo.
