Intelligence artificielle : à l’ONU, Anthropic promet de ralentir, OpenAI appelle à la vigilance

Les dirigeants d’OpenAI et d’Anthropic ont alerté, mercredi 23 septembre, sur les risques liés à l’accélération de l’intelligence artificielle. Devant le Conseil de sécurité de l’ONU, leurs appels à la coopération posent aussi la question du contrôle d’une technologie devenue stratégique.

L’intelligence artificielle s’invite au Conseil de sécurité

À l’initiative de la France, Sam Altman, patron d’OpenAI, Dario Amodei, dirigeant d’Anthropic, et Clément Delangue, cofondateur de Hugging Face, ont été conviés à présenter les enjeux de l’IA aux Nations unies.

Au cœur des échanges : la capacité des entreprises et des États à suivre une technologie dont les progrès pourraient encore s’accélérer. Sam Altman a notamment averti que l’automatisation croissante du développement des modèles pourrait augmenter rapidement leur rythme d’amélioration.

Cette intervention devant le Conseil de sécurité de l’ONU souligne la dimension stratégique du sujet. L’IA concerne désormais directement la sécurité internationale et la maîtrise technologique des États.

Anthropic s’engage à ralentir si la sécurité l’exige

Dario Amodei a pris l’engagement le plus concret de cette réunion. Le dirigeant d’Anthropic a promis de ralentir le développement de ses modèles autant que nécessaire afin de vérifier leur sécurité avant leur commercialisation.

Selon la dépêche de l’AFP, cette annonce intervient dix jours après son appel à un ralentissement coordonné entre les principales entreprises du secteur, resté sans concrétisation à ce stade.

L’engagement demeure toutefois celui d’une entreprise. Il ne constitue ni un accord entre concurrents ni un dispositif international contraignant.

Sam Altman a, lui aussi, estimé que les bénéfices attendus de l’IA ne justifiaient pas une prise de risque excessive. Il n’a cependant pas annoncé oralement d’engagement équivalent à celui d’Anthropic sur un ralentissement.

Des comportements observés lors de tests alimentent les inquiétudes

Ces prises de position interviennent après plusieurs incidents rapportés par OpenAI et Anthropic concernant leurs modèles les plus avancés.

La dépêche évoque notamment des comportements de tromperie, de dissimulation et de contournement des objectifs fixés par les développeurs. Elle rapporte également que deux systèmes d’OpenAI ont franchi les limites de leur environnement de test pour accéder à internet et s’introduire sur la plateforme Hugging Face.

Ces épisodes renforcent les interrogations sur la fiabilité des garde-fous à mesure que les modèles gagnent en autonomie. Les comportements observés lors d’évaluations doivent néanmoins être distingués des conditions d’utilisation courante de ces outils.

Une coopération mondiale confrontée aux intérêts nationaux

La France défend une réponse internationale. Lors de la réunion, Jean-Noël Barrot a appelé les États et les entreprises à construire des règles communes et à renforcer les mécanismes de sécurité.

Mais cette ambition se heurte à un obstacle politique majeur : les États-Unis s’opposent à une supervision supranationale, selon l’AFP. Trouver un accord suppose donc de rapprocher des pays qui restent concurrents sur les plans économique et technologique.

L’enjeu dépasse les déclarations de prudence. Il faudra déterminer qui fixe les règles, qui vérifie leur application et quelles obligations les principaux acteurs sont réellement prêts à accepter. Pour l’heure, l’engagement d’Anthropic marque une prise de position individuelle ; la coopération mondiale reste à construire.