Legisladores y expertos en tecnología dan la alarma sobre los peligros potenciales de la inteligencia artificial
Kara Frederick, directora de tecnología de la Fundación Heritage, habla de la necesidad de regular la inteligencia artificial, mientras los legisladores y los titanes de la tecnología debaten los riesgos potenciales.
La inteligencia artificial (IA) es una tecnología poderosa que puede aportar muchos beneficios a la sociedad, pero también plantea muchos retos y riesgos. Para garantizar que Estados Unidos lidera el camino para aprovechar la oportunidad y gestionar los riesgos de la IA, el Presidente Biden emitió una orden ejecutiva histórica el 30 de octubre de 2023.
Cómo la orden utiliza una ley de hace 75 años para regular la IA
El gobierno de Biden está utilizando la Ley de Producción para la Defensa, una ley de 75 años de antigüedad que otorga a la Casa Blanca amplia autoridad para regular las industrias relacionadas con la seguridad nacional, para obligar a las empresas a informar al gobierno federal sobre los posibles riesgos para la seguridad nacional relacionados con su trabajo en IA.
Se trata de la primera orden ejecutiva del gobierno federal que regula directamente la IA, y sigue a los compromisos voluntarios de 15 grandes empresas de IA, como Google, Microsoft y OpenAI.
La orden ejecutiva pretende lograr cuatro cosas principales. Establece nuevas normas para la seguridad de la IA; protege la privacidad, los derechos civiles y los derechos de los consumidores de los estadounidenses; apoya a los trabajadores y la innovación; y hace avanzar el liderazgo estadounidense en todo el mundo. Aunque se abordan estos aspectos, muchos críticos afirman que está diluida y que probablemente no sea suficiente para instalar los tan necesarios raíles de seguridad para esta tecnología que progresa rápidamente y que es capaz de superar a muchas mentes humanas.
El presidente Joe Biden ha emitido una orden ejecutiva que regulará directamente la inteligencia artificial. (Cyberguy.com)
MÁS: ¿POR QUÉ EL CHATBOT AI DE GOOGLE ESQUIVA LAS PREGUNTAS SOBRE EL CONFLICTO ISRAEL-HAMAS?
1. Nuevas normas para la seguridad de la IA
Uno de los componentes clave de la orden ejecutiva es crear nuevas normas, herramientas y pruebas que ayuden a garantizar que los sistemas de IA son seguros y fiables.
Compartir los resultados de las pruebas de seguridad de los potentes sistemas de IA
La orden ejecutiva exige a los desarrolladores de los sistemas de IA más potentes, como los modelos de fundación que suponen un grave riesgo para la seguridad nacional o la salud y seguridad públicas, que compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno estadounidense antes de hacerlos públicos. Esto permitirá al gobierno evaluar los riesgos y beneficios potenciales de estos sistemas y evitar cualquier uso perjudicial o malintencionado.
Establecer normas rigurosas para las pruebas del equipo rojo
La orden ejecutiva también ordena al Instituto Nacional de Normas y Tecnología (NIST) que establezca normas rigurosas de pruebas exhaustivas de equipo rojo para garantizar la seguridad antes de la publicación. Las pruebas de equipo rojo son un método de evaluación de la seguridad y solidez de un sistema mediante la simulación de ataques de adversarios.
EL JEFE DE CHATGPT ADVIERTE DE ALGUNAS HABILIDADES "SOBREHUMANAS" QUE PODRÍA DESARROLLAR LA AI
Aplicación de las normas de seguridad a los sectores de infraestructuras críticas
El Departamento de Seguridad Nacional (DHS) aplicará estas normas a los sectores de infraestructuras críticas y creará la Junta de Seguridad y Protección de la IA.
Los Departamentos de Energía y Seguridad Interior también abordarán las amenazas de los sistemas de IA a las infraestructuras críticas, así como los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad.
Desarrollo de nuevas normas para el cribado de síntesis biológicas
Además, la orden ejecutiva pretende proteger contra los riesgos del uso de la IA para diseñar materiales biológicos peligrosos mediante el desarrollo de nuevas normas estrictas para la selección de síntesis biológicas.
Las agencias que financian proyectos de ciencias de la vida establecerán estas normas como condición para la financiación federal, creando poderosos incentivos para garantizar una selección adecuada y gestionar los riesgos potencialmente agravados por la IA.
Estas acciones son los pasos más significativos jamás dados por un gobierno para avanzar en el campo de la seguridad de la IA. Ayudarán a garantizar que los sistemas de IA estén en consonancia con los valores humanos y no causen daños ni perjuicios a las personas ni al medio ambiente.
La orden ejecutiva de Biden creará nuevas normas para garantizar que la inteligencia artificial sea segura y digna de confianza. (Cyberguy.com)
MÁS: PREVENCIÓN DE TIROTEOS MASIVOS CON UNA DETECCIÓN: INTERVENCIÓN INSPIRADA EN LOS NAVY SEALS
2. Proteger la intimidad, los derechos civiles y los derechos del consumidor de los estadounidenses
Otro aspecto importante de la orden ejecutiva es proteger la intimidad, los derechos civiles y los derechos del consumidor de los estadounidenses en la era de la IA.
Evaluación de las técnicas de privacidad utilizadas en la IA
La orden ejecutiva crea directrices que las agencias pueden utilizar para evaluar las técnicas de privacidad utilizadas en la IA, como la privacidad diferencial o el aprendizaje federado. Estas técnicas están diseñadas para proteger los datos sensibles o personales del acceso o la divulgación no autorizados, al tiempo que permiten realizar análisis o aprendizajes útiles.
Fomentar la equidad y los derechos civiles en las aplicaciones de la IA
La orden ejecutiva también fomenta la equidad y los derechos civiles proporcionando orientaciones a los propietarios y contratistas federales para evitar que los algoritmos de IA fomenten la discriminación, por ejemplo en las decisiones sobre vivienda o empleo. También crea mejores prácticas sobre el papel adecuado de la IA en el sistema judicial, como cuando se utiliza en la imposición de penas, la evaluación de riesgos o la previsión de delitos. Estas acciones ayudarán a prevenir la parcialidad y la injusticia en las aplicaciones de la IA que afectan a la vida y las oportunidades de las personas.
Proteger a los consumidores de las prácticas sanitarias perjudiciales relacionadas con la IA
Además, la orden ejecutiva protege a los consumidores ordenando al Departamento de Salud y Servicios Humanos (HHS) que cree un programa para evaluar las prácticas sanitarias potencialmente perjudiciales relacionadas con la IA, como el diagnóstico erróneo o el tratamiento excesivo. También crea recursos sobre cómo los educadores pueden utilizar de forma responsable las herramientas de IA, como el aprendizaje personalizado o las pruebas adaptativas. Estas medidas ayudarán a garantizar que los sistemas de IA se utilicen de forma que beneficien a la salud, la educación y el bienestar de las personas.
La orden ejecutiva abordará los derechos de privacidad, civiles y de los consumidores. (Cyberguy.com)
3. Apoyar a los trabajadores y la innovación
La orden ejecutiva también apoya a los trabajadores y la innovación en el sector de la IA para ayudar a fomentar un ecosistema de IA vibrante y diverso que impulse el descubrimiento científico y la prosperidad económica.
Elaborar un informe sobre las implicaciones de la IA en el mercado laboral
La orden ejecutiva elabora un informe sobre las posibles implicaciones de la IA en el mercado laboral y estudia las formas en que el gobierno federal podría apoyar a los trabajadores afectados por una alteración del mercado laboral. Esto ayudará a preparar a los trabajadores para la naturaleza cambiante del trabajo y les ofrecerá oportunidades de reciclaje o mejora de sus cualificaciones.
Aumento de las inversiones en investigación y desarrollo de IA
La orden ejecutiva también promueve la innovación y la competencia ordenando a las agencias que aumenten sus inversiones en investigación y desarrollo (I+D) de IA, especialmente en áreas que tengan un alto potencial de impacto social o crecimiento económico. También anima a las agencias a colaborar con la industria, el mundo académico, la sociedad civil y los socios internacionales para avanzar en la innovación responsable de la IA.
La orden ejecutiva pretende diversificar el ecosistema de la IA. (Cyberguy.com)
MÁS: META CONFIESA QUE UTILIZA LO QUE PUBLICAS PARA ENTRENAR A SU AI
4. Impulsar el liderazgo estadounidense en el mundo
Por último, la orden ejecutiva hace avanzar el liderazgo estadounidense en todo el mundo al ordenar a las agencias que se comprometan con aliados y socios en el desarrollo de normas y principios comunes para el uso responsable de la IA.
También ordena a las agencias que promuevan los derechos humanos y los valores democráticos en sus actividades relacionadas con la IA y que se opongan a cualquier intento de los regímenes autoritarios de utilizar indebidamente la IA para la represión o la vigilancia.
Estas acciones contribuirán a garantizar que Estados Unidos siga siendo un líder mundial en la configuración del futuro de la IA de un modo que refleje sus valores e intereses.
La orden ejecutiva de Biden tendrá como objetivo impulsar el liderazgo estadounidense en el mundo de la IA. (Cyberguy.com)
MÁS: CÓMO UTILIZAR LA AI PARA QUE TE AYUDE A CONSEGUIR UN TRABAJO MEJOR EN LUGAR DE QUE TE LO ROBE
Normas que la orden ejecutiva omite
La orden omite algunas normas que han formado parte de los debates públicos de este año. Por ejemplo, no se regula la concesión de licencias para los modelos más avanzados, una propuesta respaldada por el director ejecutivo de OpenAI, Sam Altman, y no se imponen restricciones a los usos más arriesgados de la tecnología.
Además, la orden no obliga a revelar detalles sobre los datos de entrenamiento y el tamaño del modelo, que muchos expertos y críticos sostienen que es esencial para comprender la tecnología y anticipar sus posibles daños.
Además, no hay orientaciones sobre cómo se aplicará la ley de propiedad intelectual a las obras creadas con o por IA: eso se deja ahora en manos de los tribunales.
Un mundo sin orden ejecutiva
La orden ejecutiva de Biden sobre la IA es un paso en la dirección correcta, aunque puede que no sea suficiente ni permanente. Algunos argumentan que la orden ejecutiva no es jurídicamente vinculante, y que puede ser modificada o revocada por futuros presidentes.
También sugieren que se necesitan normativas más específicas y aplicables para abordar los complejos y cambiantes retos y oportunidades de la IA. Sin la orden ejecutiva, la IA podría seguir estando regulada por las leyes y normas voluntarias existentes, pero podrían no ser suficientes o lo bastante coherentes para garantizar que la IA sea responsable, ética y beneficiosa para todos.
Conclusiones clave de Kurt
La orden ejecutiva de Biden sobre la IA es una importante acción gubernamental que esperemos tenga un impacto positivo en el futuro de la IA. Intenta garantizar que los sistemas de IA sean seguros, fiables y beneficiosos para todos los estadounidenses y para el mundo, pero ignora los consejos fundamentales de los líderes de la IA, como el director general de OpenAI, Sam Altman. Deja una serie de graves cuestiones sin resolver a las que hay que dar respuesta.
¿Qué te parece la orden ejecutiva de Biden? ¿Crees que ayudará a Estados Unidos a liderar la innovación y la seguridad de la IA? Háznoslo saber escribiéndonos a Cyberguy.com/Contacto.
Para más consejos tecnológicos y alertas de seguridad, suscríbete a mi boletín gratuito CyberGuy Report en Cyberguy.com/Boletín
Haz una pregunta a Kurt o dinos qué historias te gustaría que cubriéramos
Respuestas a las preguntas más frecuentes de CyberGuy:
● ¿Cómo puedo librarme de las robocalls con aplicaciones y servicios de eliminación de datos?
Copyright 2023 CyberGuy.com. Todos los derechos reservados.
Get a daily look at what’s developing in science and technology throughout the world.