Les avertissements lancés cette semaine par Jacob Coxon, un chercheur en intelligence artificielle ont semé l'émoi. Selon lui, les développeurs de modèles d'intelligence artificielle (IA) au sein des firmes OpenAI et Anthropic "croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie".

Plusieurs employés actuels d'Anthropic se sont fait l'écho de Coxon, dont Evan Hubinger, qui a écrit sur le réseau social X : "Nous croyons sincèrement que l'IA pourrait bien tuer tous les humains !" Loin d'être pris à la légère, ces messages suscitent de nombreuses réactions au Sénat et à la Chambre des représentants.

Un moratoire

Le sénateur Bernie Sanders (indépendant, rattaché au groupe Démocrate), qui a fait du contrôle de l'IA un cheval de bataille, invite ses homologues à une réunion d'information à huis clos, le 16 septembre, en présence de chercheurs en intelligence artificielle.

Le sénateur du Vermont s'associe avec le député démocrate Greg Casar pour réclamer un moratoire plus large sur le développement de modèles avancés ("superintelligence"), invoquant l'urgence suite à plusieurs piratages menés à l'aide de l'IA. Ils proposent également la création d'une agence chargée de surveiller leurs capacités et d'identifier les risques.

"Presque chaque jour, on entend une nouvelle histoire effrayante sur la façon dont les géants de la tech perdent le contrôle des technologies qu'ils développent, avec des conséquences potentiellement catastrophiques", argumente Bernie Sanders dans son communiqué. "Il est irresponsable de la part de la société de les laisser poursuivre dans cette voie et de rendre ces produits encore plus sophistiqués."

Les tentatives d'usage nuisibles se multiplient

Ce jeudi, l'entreprise américaine Anthropic a annoncé avoir stoppé plusieurs opérations de surveillance menées contre des dissidents et des minorités ethniques à l'aide de son assistant d'intelligence artificielle (IA) Claude. Des opérations en provenance de Chine, d'Iran et d'Afrique de l'Ouest. Anthropic rapporte également avoir déjoué des tentatives de concevoir des armes, de mener des recherches biologiques douteuses ou de créer de fausses applications de rencontre afin d'escroquer les utilisateurs.

Un arrêt d'urgence

Le Démocrate Ted Lieu, député de Californie, fervent partisan d'un contrôle législatif de l'IA, invite à l'adoption bipartisane d'une loi visant à imposer aux développeurs d'IA l'intégration d'un mécanisme d'" arrêt d'urgence" ("kill switch"). La Républicain Anna Paulina Luna (Floride.) réclame que le Congrès "convoquer une session extraordinaire consacrée à l'IA et à l'avenir des États-Unis".

Par ailleurs vingt-deux élus, sénateurs, députés et gouverneurs en appellent à une réglementation de l'IA. La majorité d'entre eux appartient au Parti démocrate mais on dénombre aussi trois Républicains parmi eux, dont le sénateur Ted Cruz.

La présence de ce dernier interroge : début de l'été, le site Wired a révélé que le Texan faisait partie des 222 membres, ainsi que plusieurs membres de l'Administration Trump, du très confidentiel cercle de réflexion Dialog du techno-milliardaire libertarien Peter Thiel, notoirement opposé à toute forme de régulation en la matière.

Pour accéder à cet article, veuillez vous connecter au réseau internet.