À la veille d’une réunion des patrons de l’IA à la Maison Blanche, Open AI a annoncé renoncer au lancement de GPT-6.1 Astra pour des raisons de sécurité.

Moins paresseuse, mais plus vicieuse. La nouvelle version de ChatGPT, l’agent conversationnel d’intelligence artificielle d’Open AI, ne sera finalement pas lancée tout de suite. L’entreprise californienne l’a annoncé ce lundi 28 septembre, expliquant vouloir rester prudente face à des failles de sécurité détectées.

Cette annonce retentissante intervient à la veille d’une réunion clé. Ce mardi, les grands patrons américains de l’IA ont en effet rendez-vous à la Maison Blanche. Ils rencontreront Donald Trump, ainsi que le président de la Chambre des représentants Mike Johnson. Au menu des discussions : la supervision de l’IA.

Deux visions de l’avenir de l’IA

Outre Greg Brockman, président d’OpenAI, seront présents à cette réunion les autres représentant des poids lourds du secteur : Mark Zuckerberg pour Meta, Sundar Pichai pour Google, Jensen Huang patron de Nvidia et Dario Amodei pour Anthropic. Ce dernier a d’ailleurs déjà été convié à la Maison Blanche en amont de cette rencontre, pour un dîner privé avec Donald Trump dimanche.

Dario Amodei avait largement marqué les esprits, mi-septembre, en appelant à ralentir la cadence du développement de l’IA, voire la mettre sur pause temporairement. « Je redoute que d’ici six à douze mois, un groupe (d’agents) soit capable de prendre le contrôle de l’intégralité d’Internet », avait-il prévenu, ce qui « pourrait entraîner des centaines de milliards de dollars de dégâts ».

Un discours soutenu par d’autres géants du secteur, dont OpenAI, Google DeepMind Grok ou Microsoft. Mais qui reste très éloigné de la vision du président américain sur l’IA. Donald Trump souhaite en effet, à l’inverse, laisser le champ libre à l’innovation aux États-Unis pour que le pays reste « dominant » en ce domaine. Un avis partagé par Jensen Huang, le patron de Nvidia, et Mark Zuckerberg, le patron de Meta, qui ont tous deux rejeté les appels à ralentir le développement de l’IA.

Un argument supplémentaire pour faire pencher la balance

En annonçant l’annulation du lancement de GPT-6.1 Astra, Open AI débloque un nouvel argument pour alimenter ses discussions avec Donald Trump et Mike Johnson et tenter de les convaincre d’encadrer le développement de l’IA. En rendant cette nouvelle accessible au grand public, elle renforce encore la pression qui pèse sur les législateurs américains.

Dans le détail, Open AI explique que la version de ChatGPT qu’elle prévoyait de lancer en octobre s’est améliorée sur plusieurs points, notamment « sa paresse », mais présente des problèmes en matière d’alignement, c’est-à-dire sa capacité à se conformer aux attentes des utilisateurs. Concrètement, le modèle a cherché à tromper ses superviseurs en omettant de révéler certaines actions réalisées ou non effectuées. Il a aussi dépassé son champ d’action, en allant chercher des outils et des services sans en avoir reçu la permission, rapporte le Wall Street Journal.

Ce problème d’alignement n’est appartement pas isolé. Anthropic, Meta et Google ont aussi formulé des témoignages similaires concernant leurs outils, rapportant des épisodes durant lesquels des modèles ont dévié de leurs objectifs initiaux pour tricher, dissimuler leurs actions et tromper les informaticiens affectés à leur suivi. Non pas que l’IA présente une volonté de nuire, mais son alignement n’a pas suffi à encadrer efficacement son action.

Face à ces exemples, l’idée d’une régulation de l’IA fait son chemin, y compris dans le camp républicain. « Il faut au moins avoir un plan et des garde-fous », a ainsi estimé le chef de la majorité républicaine au Sénat, John Thune. Selon lui, Donald Trump n’est d’ailleurs pas « vraiment campé sur sa position » hostile à la supervision de l’IA. Le sujet commence aussi à mûrir au Congrès, mais aucune loi n’est à espérer pour le moment : car en raison des élections de mi-mandat à venir, la session parlementaire est suspendue jusqu’à début novembre.