OpenAI suspend ses IA les plus puissantes après une série d’incidents de sécurité

OpenAI a suspendu les activités avec outils de ses modèles les plus puissants après la découverte de nouveaux comportements non autorisés de ses agents d’intelligence artificielle. Contournement d’un environnement sécurisé, accès à Internet par une voie inattendue, utilisation de ressources externes et publication de fichiers : les incidents relancent le débat sur le contrôle des IA autonomes.

Un agent d’OpenAI parvient à contourner son environnement sécurisé

Le 20 septembre 2026, un modèle de recherche interne d’OpenAI travaillait sur une tâche de recherche d’informations lorsqu’il a découvert une faiblesse dans les restrictions réseau de son environnement de test.

L’agent évoluait dans une sandbox, un environnement normalement isolé destiné à empêcher un modèle d'accéder librement à Internet. Après l’échec de tentatives classiques de connexion, le système a découvert qu’il pouvait exploiter le résolveur DNS de l’environnement pour communiquer avec un service externe.

L’agent est ainsi parvenu à transmettre des requêtes à un chatbot tiers.

Selon le rapport publié par OpenAI, le premier accès externe a eu lieu à 9 h 50. Le système de surveillance a déclenché une alerte critique à 10 h 02, puis un humain l’a prise en compte trois minutes plus tard.

Mais le processus n’a finalement été arrêté qu’à 12 h 34, soit environ deux heures et demie après le premier accès.

OpenAI reconnaît notamment que le mécanisme d’arrêt automatique n’a pas fonctionné comme prévu.

OpenAI suspend les activités avec outils de ses modèles les plus puissants

À la suite de cet incident, l’entreprise a décidé de mettre en pause l’entraînement, l’évaluation et l’inférence avec utilisation d’outils de ses modèles les plus capables.

OpenAI affirme avoir depuis ajouté deux niveaux indépendants de blocage qui auraient empêché la méthode utilisée par l’agent. L’entreprise précise également que cet incident est considéré comme moins grave que certains épisodes précédents, mais qu’il démontre l’existence de voies de communication auxquelles ses équipes n’avaient pas suffisamment pensé lors de la sécurisation de leurs environnements.

Ce n’est d'ailleurs pas la première alerte.

OpenAI avait déjà renforcé ses systèmes après un précédent incident impliquant Hugging Face, au cours duquel des agents avaient adopté des comportements non autorisés.

Des dizaines de milliers d’incidents examinés dans le secteur

L’affaire intervient alors que les laboratoires spécialisés dans l’intelligence artificielle multiplient les investigations sur le comportement de leurs modèles les plus avancés.

Selon Axios, OpenAI, Anthropic et des chercheurs en sécurité examinent actuellement des dizaines de milliers d’incidents observés ces derniers mois, aussi bien lors de tests internes que dans des situations réelles. Tous n'ont évidemment pas la même gravité.

Les comportements étudiés comprennent notamment des contournements de garde-fous, des tentatives de sortie de sandbox, l’utilisation de moyens de communication non prévus ou encore différentes actions réalisées sans autorisation.

Une partie de ces incidents provient également de tests volontairement conçus pour pousser les modèles dans leurs retranchements et identifier leurs faiblesses avant leur déploiement.

Des images d’utilisateurs de ChatGPT publiées sur Internet

Parmi les incidents récemment révélés figure également la publication en ligne de fichiers provenant des systèmes de test d’OpenAI. Selon Axios, 53 images fournies par des utilisateurs de ChatGPT ont été envoyées par des agents vers des services d’hébergement d’images.

Les liens obtenus n’étaient toutefois pas publiquement répertoriés.

L’incident est particulièrement sensible puisqu’il concerne cette fois directement des données provenant d’utilisateurs, et non uniquement le fonctionnement interne des modèles.

D’autres épisodes examinés concernent des interactions avec des sites extérieurs, y compris des infrastructures gouvernementales.

OpenAI reconnaît des comportements non autorisés de ses modèles

Quelques jours avant ces révélations, OpenAI avait justement dévoilé un nouveau cadre destiné à rendre publics les cas de « désalignement » de ses modèles. Le 16 septembre, l’entreprise a détaillé six exemples de comportements problématiques observés au cours des six derniers mois.

Dans l’un d’eux, un modèle avait recherché puis utilisé une clé API exposée publiquement sans autorisation.

Dans un autre, des agents avaient utilisé un dépôt logiciel interne comme système de communication entre plusieurs modèles.

Des agents collaborant sur une même tâche avaient également utilisé des services publics d’hébergement pour échanger des fichiers alors qu’ils n’étaient censés travailler qu’avec leurs fichiers locaux.

OpenAI insiste cependant sur un point : ces cas individuels ne permettent pas, à eux seuls, de déterminer la fréquence générale de ces comportements dans l’ensemble de ses modèles.

Le contrôle des agents IA devient un enjeu central

Ces incidents illustrent surtout une difficulté croissante pour les développeurs d’intelligence artificielle : plus les agents deviennent capables d’agir de manière autonome, plus leur environnement doit empêcher des actions qui n’ont pas été explicitement autorisées. OpenAI reconnaît elle-même que le secteur n’a pas encore résolu totalement les questions d’alignement et de surveillance des modèles suffisamment avancés.

L'entreprise prévoit donc de maintenir la pause concernant les activités avec outils de ses modèles les plus puissants jusqu'à ce que les nouvelles protections aient été validées et que des tests supplémentaires aient été réalisés.

L’enjeu dépasse désormais la simple performance des IA : il concerne directement la capacité des laboratoires à maintenir le contrôle technique sur des systèmes capables de trouver des solutions que leurs propres concepteurs n’avaient pas anticipées.