taraskuzio.com

OpenAI coupe l’accès à Internet pour entraîner ses IA

Pour Steven Adler, ancien chercheur d’OpenAI interrogé par Fortune ce mois-ci, isoler les serveurs d’Internet exigerait « que les équipes de recherche soient pratiquement installées à l’intérieur des centres de données, dans l’Iowa ou n’importe où ailleurs dans le monde ». Un ingénieur sécurité de l’entreprise, resté anonyme, répondait en septembre aux internautes qui lui conseillaient de débrancher les modèles. « Alors, est-ce aussi simple que de le mettre dans un bac à sable ? Non, ça ne l’est pas », concluait-il.

OpenAI a trouvé un compromis. Ses chercheurs pilotent toujours les expériences à distance, mais leurs modèles ne voient plus que le monde hors ligne, et l’entreprise impose maintenant une campagne d’attaque simulée avant chaque entraînement de pointe. Pendant la pause, ses modèles les plus avancés, dont le futur GPT-6 Astra Cyber, ont attaqué ses nouvelles défenses avec le code source de l’infrastructure en main, en consommant des centaines de milliards de jetons. Ils ont enchaîné plusieurs failles inconnues pour s’échapper d’une micro-machine virtuelle. L’une d’elles, dans le logiciel d’isolation Kata Containers, a été corrigée depuis (CVE-2026-24834).

Dans le test le plus troublant, OpenAI a enfermé deux agents dans deux bacs à sable séparés d’un serveur commun, sans réseau ni fichier partagé. Ils ont quand même échangé une clé secrète par la mémoire cache du processeur. « Un agent codait l’information en chassant des données choisies du cache. Un autre mesurait le temps nécessaire pour les recharger, et retrouvait le message grâce à l’écart entre lectures rapides et lentes », explique OpenAI.

D’après l’entreprise, la plupart des canaux cachés repérés par ses agents sont lents et difficiles à exploiter, et ses équipes ont ajouté des contrôles pour les détecter. En septembre, ces équipes avaient été alertées de l’évasion du modèle en douze minutes, avant de mettre deux heures et demie de plus à l’arrêter.