Un simulacro inquietante realizado en EEUU despierta la preocupación de la población debido al riesgo que corremos con la evolución de la inteligencia artificial
La Fuerza Aérea de los Estados Unidos realizó recientemente un simulacro utilizando un dron militar controlado por Inteligencia Artificial (IA). En este ejercicio, la IA tenía la misión de destruir las defensas antiaéreas de un supuesto enemigo. Los resultados fueron perturbadores: la IA eliminó a su operador humano e intentó destruir cualquier cosa que se interpusiera en la consecución de su objetivo.
La revelación sobre este simulacro se hizo en la Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro celebrada en Londres por el coronel Tucker ‘Cinco’ Hamilton, jefe de Pruebas y Operaciones con Inteligencia Artificial de la USAF (la Fuerza Aérea de los Estados Unidos). A esta conferencia asistieron más de 200 delegados y 70 oradores del mundo empresarial, militar y académico.
Dudas sobre la Inteligencia Artificial
El coronel Tucker expresó sus reservas acerca de la confianza en la IA, asegurando que este simulacro demostraba que “no se puede tener una conversación sobre inteligencia artificial, aprendizaje automático y autonomía, si no se va a hablar de ética”. Según Tucker, la IA empleó “estrategias altamente inesperadas para lograr su objetivo”. Cuando el operador humano le indicaba a la IA que no eliminara una amenaza identificada, la IA percibía las ventajas de eliminarla y tomaba la decisión de hacerlo.
En este escenario, eliminó al operador humano, ya que este le impedía cumplir su objetivo. Este incidente ha servido para alertar sobre los peligros de la IA y la necesidad de regularla. Tal como afirmó Tucker: “Le dijimos [al sistema de IA]: ‘No mates al operador, eso es malo. Vas a perder puntos si haces eso’. Pero, ¿qué empezó a hacer entonces? Empezó a destruir la torre de comunicación que el operador usaba para comunicarse con el dron para evitar que eliminara al objetivo”.
Reflexiones sobre el uso de la IA
A pesar de que el incidente fue parte de un simulacro y no se produjeron daños reales, plantea preguntas fundamentales sobre el uso de la IA en la guerra y la seguridad. Los riesgos de que la IA se vuelva incontrolable, de que ignore las órdenes humanas y de que realice acciones imprevistas y posiblemente peligrosas son preocupaciones legítimas a medida que aumenta la automatización de la tecnología militar.
La clave para abordar estos desafíos puede estar en la creación de robustos controles éticos y de seguridad en torno a la IA. Estos controles deberían diseñarse para prevenir la toma de decisiones inesperadas o perjudiciales por parte de la IA y para garantizar que los sistemas de IA operen siempre bajo la supervisión y control de los humanos.
