Ce printemps, des responsables américains ont découvert que les renseignements ayant guidé une opération armée contre un navire chinois avaient été fabriqués par un chatbot d’intelligence artificielle. L’opération, annulée alors que des avions militaires étaient en vol, a évité à la dernière minute un éventuel conflit avec la Chine ; CNN l’a rapporté vendredi. L’article a été publié le 18 septembre 2026.
Un rapport diffusé pendant la guerre avec l’Iran affirmait que le navire transportait des pièces destinées au programme d’armes nucléaires. Les informations erronées sont apparues après qu’un analyste du Special Operations Command a utilisé le chatbot pour combiner des données en sources ouvertes avec des renseignements classifiés d’origine électromagnétique. Le bot a mal identifié le manifeste de cargaison du navire. L’analyste a ensuite réutilisé l’outil pour transformer les conclusions erronées en un résumé d’apparence officielle, et le document a été partagé dans les circuits de commandement.
L’incident est survenu alors que l’armée américaine adopte rapidement l’intelligence artificielle afin d’accélérer la prise de décision et de préserver sa supériorité face à la Chine. Le Pentagone affirme que cette technologie accélère la « chaîne létale » ; toutefois, une supervision humaine insuffisante peut permettre aux erreurs de remonter la chaîne de commandement.
Jake Steckler, chercheur chez GovAI et ancien officier de l’armée américaine, a déclaré qu’il fallait comprendre l’incertitude des LLM, notamment dans le ciblage, l’analyse du renseignement et la planification des opérations. Steckler a présenté l’incident non pas comme un appel à éviter l’intelligence artificielle, mais comme un appel à ajouter des mesures de sécurité plus robustes. Privilégier la rapidité aux garanties peut réduire la confiance des soldats dans les systèmes.
Pourquoi c’est important
L’incident montre que l’intelligence artificielle est entrée dans les processus de décision militaires non seulement comme un soutien technique, mais aussi comme un élément susceptible d’influencer la chaîne de commandement. Le fait que les informations produites par les systèmes utilisés pour le ciblage, l’analyse du renseignement et la planification des opérations ne soient pas soumises à un contrôle humain peut permettre à des données erronées d’acquérir un caractère officiel et de parvenir aux décideurs. Cette situation met notamment en avant, pour les soldats opérant dans des conditions à haut risque, comme les tensions avec la Chine et la guerre avec l’Iran, la question de savoir comment établir un équilibre entre rapidité et vérification. La question qui demeure est de savoir comment l’armée renforcera, tout en poursuivant son recours à l’intelligence artificielle, les mesures de sécurité et la chaîne de responsabilité permettant de détecter les contenus erronés.