C’est l’incident particulièrement inquiétant rapporté par CNN. Au sein du commandement américain des opérations spéciales, un analyste aurait utilisé un grand modèle de langage pour examiner des renseignements concernant la cargaison d’un navire chinois.
🤖 L’IA aurait alors commis une erreur majeure.
Elle aurait interprété certaines données comme indiquant la présence de matériel lié à un programme d’armement nucléaire.
L’information aurait ensuite remonté la chaîne du renseignement américain et été prise suffisamment au sérieux pour conduire à la préparation d’une opération d’interception du navire.
Selon les sources citées par CNN, des militaires américains armés se seraient préparés à monter à bord tandis que des moyens aériens étaient déjà mobilisés.
Mais une vérification supplémentaire aurait finalement changé le cours des événements : l’analyse produite avec l’aide de l’IA était erronée.
L’opération aurait alors été abandonnée avant l’interception.
⚠️ QUAND UNE « HALLUCINATION » D’IA DEVIENT UNE AFFAIRE MILITAIRE
L’épisode pose une question vertigineuse.
Une intelligence artificielle peut inventer une information, établir une mauvaise connexion entre plusieurs données ou présenter avec assurance une conclusion pourtant fausse. Dans une conversation ordinaire, l’erreur peut être simplement gênante.
Dans le renseignement militaire, elle peut avoir des conséquences autrement plus graves.
Face à une puissance nucléaire comme la Chine, l’interception d’un navire sur la base d’un renseignement erroné aurait notamment pu provoquer un incident diplomatique ou militaire majeur.
CNN indique toutefois que son enquête repose sur plusieurs sources proches du dossier et que certains détails de l’incident n’ont pas été rendus publics.
🌍 L’IA peut-elle vraiment avoir une place dans les décisions militaires les plus sensibles sans contrôle humain systématique ?
Votre avis nous intéresse.
VIT INFO — L’information autrement.