Esta primavera, funcionarios estadounidenses descubrieron que la inteligencia que había guiado una operación armada contra un barco chino había sido inventada por un chatbot de inteligencia artificial. La operación, cancelada mientras los aviones militares estaban en el aire, evitó en el último momento un posible conflicto con China; CNN informó del hecho el viernes. La noticia se publicó el 18 de septiembre de 2026.
En el informe que circuló durante la guerra con Irán se afirmaba que el barco transportaba componentes pertenecientes al programa de armas nucleares. La información errónea se generó cuando un analista del Special Operations Command recurrió al chatbot para combinar datos de fuentes abiertas con inteligencia de señales clasificada. El bot identificó erróneamente el manifiesto de carga del barco. Posteriormente, el analista volvió a utilizar la herramienta para convertir los hallazgos erróneos en un resumen de apariencia oficial, y el documento fue compartido a través de los canales de mando.
El incidente se produjo mientras el ejército estadounidense incorporaba rápidamente la inteligencia artificial para acelerar la toma de decisiones y mantener su ventaja frente a China. El Pentágono afirma que la tecnología acelera la «cadena de muerte»; sin embargo, una supervisión humana insuficiente puede permitir que los errores avancen por la cadena de mando.
Jake Steckler, investigador de GovAI y antiguo oficial del Ejército estadounidense, afirmó que es necesario comprender la incertidumbre de los LLM, especialmente en la selección de objetivos, el análisis de inteligencia y la planificación de operaciones. Steckler consideró el incidente un llamamiento a añadir medidas de seguridad más sólidas, no a evitar la inteligencia artificial. Adoptar la velocidad por encima de las salvaguardias puede reducir la confianza de los soldados en los sistemas.
Por qué es importante
El incidente demuestra que la inteligencia artificial ha entrado en los procesos de decisión militares no solo como apoyo técnico, sino también como un elemento capaz de influir en la cadena de mando. El hecho de que la información generada por los sistemas utilizados en la selección de objetivos, el análisis de inteligencia y la planificación de operaciones no pase por una supervisión humana puede hacer que los datos erróneos adquieran carácter oficial y lleguen a los responsables de la toma de decisiones. Esta situación plantea especialmente para los soldados que operan en condiciones de alto riesgo, como las tensiones con China y la guerra con Irán, la cuestión de cómo establecer un equilibrio entre la rapidez y la verificación. La cuestión pendiente es cómo reforzará el Ejército las medidas de seguridad y la cadena de responsabilidades para detectar contenidos erróneos mientras mantiene el uso de la inteligencia artificial.