OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.

OpenAI est un organisme américain de recherche en intelligence artificielle (IA) dont le siège social est situé à San Francisco. Il est constitué d’OpenAI Group PBC, une société d’intérêt public à but lucratif (PBC), partiellement contrôlée par OpenAI Foundation, une organisation à but non lucratif. OpenAI développe des modèles d’IA générative, en particulier la série de grands modèles de langage GPT. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant catalysé l’essor de l’IA et suscité un intérêt généralisé pour l’IA générative.

Le 9 juillet 2026, OpenAI a commencé à déployer GPT-5.6 Sol auprès du grand public, après que l’administration Trump eut approuvé une mise à disposition à grande échelle, mettant fin à plusieurs semaines d’accès restreint à un petit groupe de partenaires agréés par le gouvernement. Le PDG d'OpenAI, Sam Altman, a déclaré que Sol atteignait une efficacité en termes de tokens supérieure de 54 % pour les tâches de codage agentique, ce qui le place au même niveau, voire devant, les modèles concurrents. Le déploiement du GPT-5.6 avait été limité à une vingtaine de partenaires après que l’administration Trump eut demandé à OpenAI de retarder la mise à disposition pendant que les agences fédérales évaluaient le modèle.

Le lancement de GPT-5.6 intervient alors que de plus en plus de rapports confirment les agents IA peuvent désormais mener des cyberattaques de bout en bout. Début juillet, un rapport a révélé que Les agents IA peuvent désormais combiner des techniques d’exploitation connues avec un raisonnement en temps réel pour automatiser des intrusions complexes en plusieurs étapes. Les experts ont découvert JadePuffer, identifié comme le premier logiciel de ransomware entièrement piloté par une IA. Contrairement aux cyberattaques classiques, cet agent autonome a géré seul toutes les étapes de l'agression, de l'exploitation d'une faille de sécurité à l'extorsion finale de fonds. En infiltrant des serveurs vulnérables, l'agent autonome a démontré une capacité inédite à adapter son code en temps réel afin de surmonter les obstacles techniques.

Récemment, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. Au lieu de cela, un agent autonome alimenté par les modèles d’IA – le GPT 5.6 Sol – s’est échappé de l’environnement de test et a atteint l’Internet public. Il a ensuite utilisé des identifiants de connexion volés et exploité une faille de sécurité jusque-là inconnue pour accéder aux serveurs de Hugging Face, a précisé l’entreprise.

OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test. Clement Delangue, cofondateur de Hugging Face, a déclaré que l’entreprise soupçonnait un laboratoire « Frontier » d’être à l’origine de l’attaque, et qu’il estimait qu’il n’y avait aucune intention malveillante de la part d’OpenAI. « C’est assez époustouflant que tout cela se soit produit de manière autonome ! », a-t-il écrit, ajoutant qu’il « s’agissait peut-être du premier incident de ce type ».

Greg Casar, député démocrate du Texas à la Chambre des représentants des États-Unis, a qualifié cet incident d’« alarmant ». « L’IA se développe à une vitesse fulgurante, sans véritable réglementation pour garantir notre sécurité », a-t-il déclaré, appelant à la mise en place de tests de sécurité indépendants obligatoires, à la divulgation obligatoire des incidents de sécurité et à une coopération internationale.

OpenAI avait déjà récemment admis que ChatGPT pouvait se déchaîner et supprimer les fichiers des utilisateurs sans les en avertir. Ces derniers jours, de nombreux utilisateurs de Codex – la plateforme de programmation intégrée à l’assistant IA – ont signalé que l’outil semblait avoir supprimé leurs fichiers sans qu’on le lui ait demandé et sans avoir obtenu leur autorisation. Il semble se manifester « le plus souvent » lorsque les utilisateurs confient au système le contrôle de leur ordinateur sans avoir activé les mesures de protection, ce qui conduit alors le système à commettre « une erreur de bonne foi » et à supprimer par inadvertance les fichiers des utilisateurs, a expliqué Thibault Sottiaux, l’un des responsables produit chez OpenAI.

Cette révélation intervient quelques semaines après que le président américain Donald Trump a signé un décret créant un cadre permettant d’évaluer les risques pour la sécurité nationale posés par les systèmes d’IA les plus avancés avant leur mise à disposition du public. Les experts ont tiré à plusieurs reprises la sonnette d’alarme concernant les cyberattaques basées sur l’IA et les modèles échappant au contrôle humain. Le mois dernier, le développeur d’IA Anthropic a exhorté le secteur à suspendre le développement de ses systèmes les plus puissants.

En outre, cet incident ravive l’idée que le monde pourrait manquer de temps pour se préparer aux risques de l’IA. Elle s’impose désormais au cœur du débat public, portée par des chercheurs de premier plan qui estiment que la trajectoire actuelle du développement de l’IA dépasse notre capacité collective à en maîtriser les conséquences. Dans une analyse de David Dalrymple, directeur de programme et expert en sécurité de l'IA à l'agence britannique ARIA, l’alerte est sans détour : si le rythme actuel se maintient, les sociétés humaines pourraient être confrontées à des systèmes plus puissants que prévu, avant même d’avoir mis en place les garde-fous nécessaires.

Voici le rapport d'OpenAI :

OpenAI et Hugging Face s’associent pour faire face à un incident de sécurité survenu lors de l’évaluation d’un modèle

La semaine dernière, Hugging Face a révélé un nouveau type d’incident de sécurité⁠ après avoir détecté et neutralisé un agent IA qui avait compromis son infrastructure, un phénomène qui devrait se généraliser avec la prolifération de modèles dotés de capacités cybernétiques de plus en plus poussées. Après enquête, nous savons désormais que cet incident particulier a été provoqué par une combinaison de modèles OpenAI — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — alors qu’ils étaient testés en interne sur un benchmark⁠ de capacités cybernétiques.

Nous considérons cet incident comme un incident cybernétique sans précédent, impliquant des capacités cybernétiques de pointe, et nous y répondons en conséquence. Nous partageons à ce stade nos conclusions préliminaires afin d’aider les défenseurs à comprendre ce qui s’est passé et à évaluer les capacités actuelles des modèles. Nous continuerons à mener une enquête approfondie en collaboration avec Hugging Face et partagerons davantage de détails sur les vulnérabilités, l’incident et les conclusions une fois notre enquête terminée.

Que s’est-il passé lors de cet incident ?

Cet incident s’est produit lors d’une évaluation interne visant à inciter les modèles à mener des exploitations avancées via des chemins d’attaque complexes, dans le but de quantifier leurs capacités cybernétiques. Nous estimons les capacités cybernétiques maximales en effectuant cette évaluation sans recourir aux classificateurs de production utilisés pour empêcher les modèles de se livrer à des activités cybernétiques à haut risque. Nos tests de performance s’exécutent dans un environnement hautement isolé, l’accès au réseau étant limité à la possibilité d’installer des paquets via un logiciel tiers hébergé en interne qui sert de proxy et de cache pour les registres de paquets.

Les modèles ont identifié et enchaîné des vulnérabilités au sein de l’environnement de recherche d’OpenAI et de l’infrastructure de production de Hugging Face afin d’obtenir des solutions de test directement à partir de la base de données de production de Hugging Face. Tous les éléments indiquent que les modèles étaient hyperconcentrés sur la recherche d’une solution pour ExploitGym, allant jusqu’à l’extrême pour atteindre un objectif de test plutôt restreint.

Alors qu’ils fonctionnaient dans notre environnement de test en bac à sable, nos modèles ont consacré une part considérable de leur puissance de calcul d’inférence à trouver un moyen d’obtenir un accès ouvert à Internet, dans le but de résoudre le problème d’évaluation. Pour y parvenir, les modèles ont identifié et exploité une vulnérabilité « zero-day » (que nous avons désormais signalée de manière responsable au fournisseur) dans le proxy de cache du registre de paquets. Grâce à cet accès, nos modèles ont effectué une série d’actions d’élévation de privilèges et de déplacement latéral dans notre environnement de test de recherche jusqu’à ce qu’ils atteignent un nœud disposant d’un accès à Internet.

Après avoir obtenu cet accès, les modèles ont déduit que Hugging Face hébergeait potentiellement des modèles, des ensembles de données et des solutions pour ExploitGym. Forts de cette information, les modèles ont recherché et trouvé des moyens d’accéder à des informations confidentielles qu’ils pouvaient utiliser pour tricher lors de l’évaluation. Dans un cas précis, le modèle a enchaîné plusieurs vecteurs d’attaque, notamment en utilisant des identifiants volés et des vulnérabilités « zero-day » pour trouver un chemin d’exécution de code à distance sur les serveurs de Hugging Face. L’équipe de sécurité d’OpenAI a découvert cette activité anormale en interne.

L’équipe de sécurité et les agents de Hugging Face ont détecté et stoppé l’activité sur leur infrastructure et avaient déjà commencé le confinement et la reconstitution forensic à l’aide de leurs propres modèles open source lorsque nos équipes les ont contactés. Nous collaborons activement avec eux pour poursuivre l’enquête sur cet incident. Nous sommes reconnaissants à Hugging Face pour sa...

La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.