Questa primavera, funzionari statunitensi si sono accorti che l’intelligence alla base di un’operazione armata contro una nave cinese era stata inventata da un chatbot basato sull’intelligenza artificiale. L’operazione, annullata mentre gli aerei militari erano in volo, ha evitato all’ultimo momento un possibile conflitto con la Cina; lo ha riferito CNN venerdì. La notizia è stata pubblicata il 18 settembre 2026.
Nel rapporto circolato durante la guerra con l’Iran si sosteneva che la nave trasportasse componenti appartenenti a un programma di armi nucleari. Le informazioni errate sono state generate quando un analista del Special Operations Command si è rivolto al chatbot per combinare dati provenienti da fonti aperte con l’intelligence sui segnali classificata. Il bot ha identificato erroneamente il manifesto di carico della nave. In seguito, l’analista ha riutilizzato lo strumento per trasformare i risultati errati in un riepilogo dall’aspetto ufficiale, e il documento è stato condiviso attraverso i canali di comando.
L’episodio si è verificato mentre le forze armate statunitensi stavano adottando rapidamente l’intelligenza artificiale per accelerare il processo decisionale e mantenere il proprio vantaggio sulla Cina. Il Pentagono sostiene che la tecnologia abbia accelerato la “catena di ingaggio”; tuttavia, una supervisione umana insufficiente può consentire agli errori di avanzare lungo la catena di comando.
Jake Steckler, ricercatore di GovAI ed ex ufficiale dell’Esercito degli Stati Uniti, ha affermato che è necessario comprendere l’incertezza degli LLM, in particolare nel targeting, nell’analisi dell’intelligence e nella pianificazione delle operazioni. Steckler ha interpretato l’episodio non come un invito a evitare l’intelligenza artificiale, ma ad aggiungere misure di sicurezza più solide. Dare priorità alla velocità rispetto alle garanzie può ridurre la fiducia dei soldati nei sistemi.
Perché è importante
L’episodio dimostra che l’intelligenza artificiale è entrata nei processi decisionali militari non soltanto come supporto tecnico, ma come un elemento in grado di influenzare la catena di comando. Il mancato controllo umano delle informazioni prodotte dai sistemi utilizzati nel targeting, nell’analisi dell’intelligence e nella pianificazione delle operazioni può far sì che dati errati acquisiscano carattere ufficiale e arrivino ai responsabili delle decisioni. In particolare, per i soldati impegnati in condizioni ad alto rischio, come le tensioni con la Cina e la guerra con l’Iran, ciò pone in primo piano la questione di come trovare un equilibrio tra velocità e verifica. La questione ancora aperta è come l’esercito rafforzerà le misure di sicurezza e la catena delle responsabilità per individuare i contenuti errati, continuando al contempo a utilizzare l’intelligenza artificiale.