Un dron controlado por inteligencia artificial (IA) mató a su operador por considerarlo como un obstáculo para cumplir sus objetivos. Así lo confesó el coronel Tucker Hamilton, jefe de pruebas y operaciones de IA de la Fuerza Aérea de los Estados Unidos.

Él lo contó en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, desarrollada en Londres entre el 23 y el 24 de mayo. Su objetivo era mostrar los pro y contras del uso de la IA en sistemas de armas autónomos.

Él expuso el bucle que puede presentarse por la orden “sí / no” en situaciones conflictivas. La revista Vice, de Nueva York, recoge parte de las declaraciones, en las que explica que el dron debía eliminar una amenaza para ganar puntos, pero en ocasiones su operador le obligaba a detenerse. Entonces, el dron entendió que el militar era una amenaza y lo eliminó.

Después de la reprogramación, para que no ataque al humano, el dron atacó al control de mando, desde donde llegaban las disposiciones para no atacar.

Por su parte, el blog de la Royal Aeronautical Society publicó parte del discurso, ratificando la anécdota. “Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza de misiles tierra-aire (SAM). Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, dijo Hamilton.