L'IA qui a failli embraser le monde

Un rapport inventé de toutes pièces, des avions dans le ciel, des soldats prêts à monter à bord.
Au bout de la chaîne, une machine qui s'était trompée, et personne pour le voir à temps.

Quand la machine invente l'ennemi

L'affaire tient du scénario de fiction. Elle a pourtant bien eu lieu, selon CNN.

La chaîne américaine a révélé vendredi soir qu'au printemps dernier, un rapport de renseignement rédigé par une intelligence artificielle a failli provoquer un affrontement entre les États-Unis et la Chine. Une source proche du dossier le résume sans détour : le document était « entièrement faux », mais il « a failli déclencher une guerre ».

Que disait ce texte ? Qu'un navire chinois, stationné au Moyen-Orient, transportait des composants destinés à un programme d'armes nucléaires. L'information a circulé au sein de l'armée américaine. Et l'armée a réagi.

Vite. Très vite.

D'après quatre sources au fait de l'affaire, l'ordre a été donné d'intercepter le bâtiment. Des avions militaires ont survolé la zone. Des soldats américains se tenaient prêts à l'abordage. Ce n'est que peu de temps avant le lancement de l'opération que des responsables ont compris l'essentiel : l'IA s'était tout simplement trompée. Tout a été annulé.

CNN n'a pas précisé ce que transportait réellement ce navire, ni quelle était sa destination.

Un analyste, un chatbot, et aucun garde-fou

Le mécanisme de l'erreur est presque banal. C'est bien ce qui inquiète.

Tout part d'un analyste militaire. Il interroge un chatbot au sujet d'un navire chinois mentionné dans un autre rapport, produit par le Commandement des opérations spéciales américain du Pacifique, le SOCPAC, basé à Hawaï. On ignore encore s'il s'agissait d'un modèle commercial ou d'un outil conçu spécifiquement pour l'armée.

L'outil mélange alors les éléments confidentiels du rapport avec des informations glanées en libre accès sur Internet. Sa conclusion : le navire transporte du matériel nucléaire.

L'analyste ne s'arrête pas là. Il sollicite à nouveau le chatbot pour compiler ces données dans un nouveau rapport de renseignement, qu'il diffuse ensuite dans les canaux de l'armée américaine.

Il faut appeler les choses par leur nom. La machine a produit l'erreur, mais ce sont des hommes qui l'ont laissée remonter la chaîne de commandement. Accuser l'algorithme seul serait trop commode. Un outil ne porte pas d'uniforme, ne prête pas serment et ne répond de rien devant personne. La responsabilité, elle, reste humaine, et c'est précisément pour cela qu'elle ne doit jamais être déléguée.

Le danger est d'autant plus réel que, selon plusieurs sources citées par CNN, l'armée américaine s'appuie de plus en plus sur l'IA pour ses opérations de ciblage. Un domaine où l'approximation se paie cher. L'une de ces sources le reconnaît : l'usage de l'IA pour le ciblage s'intensifie, mais aucune directive précise ne définit aujourd'hui comment la supervision humaine peut réellement empêcher les erreurs ou les victimes civiles.

Accélérer, oui. Mais à quel prix ?

Le contexte politique éclaire l'affaire d'une lumière crue.

En janvier, le secrétaire à la Guerre Pete Hegseth avait présenté sa « Stratégie d'accélération de l'intelligence artificielle », destinée à généraliser l'usage de l'IA dans l'armée américaine. Dans son discours, il promettait de libérer l'expérimentation, de faire sauter les barrières bureaucratiques et de démontrer que les États-Unis sont à la pointe de l'IA militaire.

L'ambition se comprend. Face à Pékin, la naïveté n'est pas une option, et Washington a raison de refuser de se laisser distancer. Donald Trump et plusieurs membres de sa majorité ont d'ailleurs récemment réaffirmé leur volonté de ne pas réguler le secteur, officiellement par crainte de voir la Chine prendre l'ascendant.

Mais la puissance ne se mesure pas seulement à la vitesse.

Le monde de la tech multiplie lui-même les avertissements sur le « désalignement » des modèles, ce phénomène par lequel une IA poursuit des actions nuisibles ou s'écarte de ce que l'humain attendait réellement d'elle. Dans le cas du navire chinois, la presse évoque une « hallucination » probable : une information fausse, inventée, produite pour donner satisfaction à l'utilisateur.

Une machine qui cherche à plaire plutôt qu'à dire vrai n'a rien à faire au cœur d'une décision militaire sans contrôle humain rigoureux.

La leçon vaut bien au-delà de l'Atlantique. Pour la France comme pour tout pays attaché à sa souveraineté, l'enjeu est clair : maîtriser ces technologies, sans jamais leur abandonner le dernier mot. La décision d'engager la force relève de l'autorité politique et du commandement. Pas d'un outil dont on ne sait parfois même pas qui l'a conçu.

Cette fois, le pire a été évité de justesse. La prochaine fois, il n'y aura peut-être pas de second regard.

(AFP)