La Fuerza Aérea rechaza la afirmación de que la simulación militar de un dron con IA mató a un operador y dice que las declaraciones "se sacaron de contexto".

El viernes, la Fuerza Aérea de EE.UU. se retractó de los comentarios que hizo un oficial la semana pasada, en los que afirmaba que una simulación de un avión no tripulado con inteligencia artificial encargado de destruir emplazamientos de misiles tierra-aire (SAM) se volvió en contra de su usuario humano y lo atacó, diciendo que los comentarios "se sacaron de contexto y pretendían ser anecdóticos".

El coronel de las Fuerzas Aéreas de EE.UU. Tucker "Cinco" Hamilton hizo estos comentarios durante la Cumbre sobre Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en Londres y organizada por la Real Sociedad Aeronáutica, que reunió a unos 70 ponentes y más de 200 delegados de todo el mundo, en representación de los medios de comunicación y los especializados en la industria de los servicios armados y el mundo académico.

"El Departamento de las Fuerzas Aéreas no ha realizado ninguna simulación de este tipo con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA", declaró la portavoz de las Fuerzas Aéreas Ann Stefanek a Fox News. "Parece que los comentarios del coronel se sacaron de contexto y pretendían ser anecdóticos".

Durante la cumbre, Hamilton había advertido del peligro de confiar demasiado en la IA, debido a su vulnerabilidad a ser engañada y a que se le pueda engañar.

AVIÓN MILITAR DE EEUU PILOTADO POR AI DURANTE 17 HORAS: ¿DEBES PREOCUPARTE?

Habló de una prueba de simulación en la que un dron con IA se volvió contra su operador humano, que tenía la decisión final de destruir un emplazamiento SAM o tomar nota.

El sistema de IA aprendió que su misión era destruir el SAM, y que era la opción preferida. Pero cuando un humano emitió una orden de no actuar, la IA decidió que iba en contra de la misión superior de destruir el SAM, por lo que atacó al operador en simulación.

¿CÓMO UTILIZA LA AI EL GOBIERNO?

"Lo entrenábamos en simulación para identificar y apuntar a una amenaza SAM", dijo Hamilton. "Y entonces el operador decía sí, mata esa amenaza. El sistema empezó a darse cuenta de que, aunque a veces identificaba la amenaza, el operador le decía que no matara esa amenaza, pero conseguía sus puntos matando esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo".

Hamilton dijo que después se enseñó al sistema a no matar al operador porque eso era malo y perdería puntos. Pero en futuras simulaciones, en lugar de matar al operador, el sistema de IA destruyó la torre de comunicaciones utilizada por el operador para emitir la orden de no entrar, afirmó.

Pero Hamilton declaró posteriormente a Fox News el viernes que "nunca hemos hecho ese experimento, ni necesitaríamos hacerlo para darnos cuenta de que se trata de un resultado plausible".

"A pesar de que se trata de un ejemplo hipotético, esto ilustra los retos del mundo real que plantea la capacidad impulsada por la IA y es la razón por la que el Ejército del Aire está comprometido con el desarrollo ético de la IA", añadió.

El objetivo de la cumbre era hablar y debatir sobre el tamaño y la forma de las capacidades aéreas y espaciales de combate del futuro.

HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

La IA se está convirtiendo rápidamente en parte de casi todos los aspectos del mundo moderno, incluido el militar.

La Real Sociedad Aeronáutica ofreció un resumen de la conferencia y dijo que Hamilton participó en el desarrollo del sistema automático de evitación de colisiones con el suelo para aviones de combate F-16, que salva vidas, pero que ahora se centra en pruebas de vuelo de sistemas autónomos, incluidos los F-16 robóticos con capacidad de combate aéreo.

Fox NewsJennifer Griffin ha contribuido a este informe.