OpenAI lanza una nueva experiencia de « ChatGPT » con controles parentales para adolescentes
OpenAILauren Jonas se une a Ainsley Earhardt para hablar de una nueva experiencia de « ChatGPT » diseñada específicamente para adolescentes. Jonas explica cómo el «modo estudio» ayuda a los adolescentes a aprender paso a paso y cómo los padres pueden establecer límites.
Cuando un experimento de ciberseguridad sale mal, la reacción del público es previsible: averiguar quién es el responsable, castigarlo, indemnizar a las víctimas y asegurarse de que no vuelva a pasar nunca más.
Ese instinto es comprensible. Pero imagínate que los fabricantes de coches probasen todos los vehículos a solo 20 millas por hora por miedo a que un coche de pruebas se escapase del almacén. Puede que el público estuviera a salvo de un vehículo de pruebas fuera de control, pero los fabricantes aprenderían muy poco sobre cómo se comportan los coches en condiciones peligrosas del mundo real.
Las pruebas de inteligencia artificial plantean un dilema similar. Cuando sistemas potentes de inteligencia artificial (IA) se escapan de los entornos de pruebas controlados y consiguen acceso no autorizado a organizaciones externas, el mero hecho de castigarles puede generar más problemas de los que resuelve.
Las últimas revelaciones han puesto de manifiesto que algunos modelos avanzados de IA han logrado acceder a sistemas de terceros durante sus evaluaciones de ciberseguridad. En algunos casos, las organizaciones que realizaban las pruebas no se dieron cuenta de inmediato de lo que había pasado. Los expertos advierten de que podrían haberse producido otras intrusiones involuntarias que nunca se detectaron, y los comentaristas no tardaron en señalar a los responsables.
El Congreso debería plantearse aplicar el marco de la Ley Price-Anderson, para accidentes nucleares, a la inteligencia artificial. Las empresas pioneras en IA tendrían que contratar un seguro y aportar a un fondo común de compensación del sector más amplio. (Getty)
La respuesta obvia es aplicar todo el peso de la ley a los desarrolladores de IA responsables. Pero hay un pero. Si las sanciones son demasiado severas, eso podría disuadir a los laboratorios de IA de llevar a cabo investigaciones similares o hacer que sean aún menos transparentes sobre cómo, cuándo y con qué fines evalúan sus modelos.
Las pruebas de seguridad de la IA no son una ciencia exacta.
Incluso a los investigadores más destacados del mundo les cuesta crear los entornos perfectos para obtener toda la información posible sobre sus modelos sin que ello suponga un riesgo de daño para terceros. Las buenas prácticas pueden reducir el peligro, pero los incidentes recientes demuestran que ni siquiera los líderes en este campo siempre aplican correctamente esas medidas de seguridad y que, aunque lo hagan, los riesgos pueden seguir existiendo.
En definitiva, unas sanciones excesivas podrían disuadir a los laboratorios de llevar a cabo esta investigación tan importante para la sociedad o de hacerlo de una forma que permita demostrar todo el potencial de un modelo.
Los investigadores deben poner a prueba los sistemas avanzados con la suficiente intensidad como para descubrir sus puntos débiles antes de que lo hagan adversarios extranjeros o delincuentes. Al mismo tiempo, las empresas inocentes no deberían verse obligadas a pagar las consecuencias cuando esas pruebas se salen del laboratorio.
Eso significa que necesitamos una solución más inteligente que limitarse a «castigar al laboratorio».
Hay quien sostiene que el acceso a las herramientas de IA más potentes debería limitarse a un pequeño grupo de socios autorizados por el Gobierno. En la situación actual, las herramientas más avanzadas se ofrecen primero a «socios de confianza», según lo establecido conjuntamente por los laboratorios y el Gobierno de EE. UU. Si no estás en esa lista, puedes encontrarte especialmente vulnerable ante este tipo de incidentes.
La respuesta de Estados Unidos debería centrarse en reforzar las defensas cibernéticas en todas las infraestructuras críticas, el sector privado y la sociedad civil, y no solo en compensar a las víctimas una vez que el daño ya está hecho. Tampoco puede Estados Unidos resolver el problema frenando el desarrollo de la IA. Estados Unidos está compitiendo con potencias extranjeras hostiles para dar forma al futuro de esta tecnología. Una rendición unilateral no haría desaparecer la IA. Simplemente permitiría que nuestros adversarios tomaran la delantera.
Incluso a los investigadores más destacados del mundo les cuesta crear los entornos perfectos para obtener toda la información posible sobre sus modelos sin que ello suponga un riesgo de daño para terceros.
La mejor opción es seguir impulsando la IA estadounidense y, al mismo tiempo, exigir a los desarrolladores que asuman los riesgos que generan sus pruebas más peligrosas, llevando a cabo la I+D necesaria para diseñar entornos de prueba más sólidos y desarrollar herramientas de IA más controlables.
El Congreso ya cuenta con un modelo para equilibrar el progreso tecnológico con consecuencias potencialmente catastróficas: el marco Price-Anderson para accidentes nucleares. En ese sistema, los operadores nucleares tienen un seguro y se les puede exigir que contribuyan a un fondo común de indemnización del sector cuando un accidente supere la cobertura habitual. El Congreso debería plantearse aplicar el mismo marco básico a la IA de vanguardia o a los modelos más avanzados que tienen una gran capacidad en la mayoría de los ámbitos.
Los laboratorios pioneros pagarían una cuota básica a una cuenta nacional de ciberresiliencia, que ayudaría a las organizaciones de la sociedad civil y a los operadores de infraestructuras críticas a reforzar sus defensas antes de que se produzca un incidente. Esas cuotas se reducirían si un desarrollador cumple con normas de contención verificadas, se somete a una revisión independiente, mantiene registros completos de pruebas y coopera plenamente con la supervisión y las investigaciones de incidentes. En otras palabras, un comportamiento responsable debería salir más barato. Un comportamiento imprudente debería salir más caro.
HAGA CLIC AQUÍ PARA MÁS OPINIONES DE FOX NEWS
Los estadounidenses tienen razón al exigir que se rindan cuentas cuando una prueba de IA sale mal. Pero esa rendición de cuentas debería ir más allá de satisfacer el deseo de señalar culpables. Debería hacer que el país sea más seguro. El programa no debería proteger a los laboratorios de demandas por negligencia grave, conducta dolosa u ocultación de pruebas.
HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS
Washington debería permitir que los desarrolladores estadounidenses realicen las exigentes pruebas necesarias para poner de manifiesto las capacidades más peligrosas de la IA. Pero cuando esos experimentos se escapen al mundo real, los costes no deberían recaer sobre ciudadanos estadounidenses inocentes que nunca aceptaron convertirse en conejillos de indias.
