Des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) ont récemment briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. « Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », a déclaré Dario Amodei, PDG d’Anthropic. « Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent », a déclaré Sam Altman, PDG d'OpenAI. Pourtant, les États-Unis et la Chine, les deux acteurs dominants dans le développement de l’IA, restent divisés sur la question.

Les Nations unies (ONU) sont une organisation internationale intergouvernementale créée par la signature de la Charte des Nations unies le 26 juin 1945, dont la mission est de maintenir la paix et la sécurité internationales, de développer des relations amicales entre les États, de promouvoir la coopération internationale et de servir de centre d'harmonisation des actions des États pour atteindre ces objectifs. Les Nations Unies se sont principalement concentrées sur le développement économique et social. L’ONU est reconnue comme un leader mondial en matière de paix et de développement humain, mais elle a également été critiquée pour son inefficacité perçue, ses partialités et sa corruption.

Récemment, 22 pays, dont l’Allemagne, le Canada, les Pays-Bas et les Émirats arabes unis, ont adopté le 21 septembre 2026 une déclaration affirmant que l’intelligence artificielle (IA) « doit rester sous la direction, la supervision et le contrôle de l’homme », et ont proposé la création d’un organisme mondial chargé de superviser cette technologie. Absents notables : les États-Unis et la Chine, les deux principales nations qui développent actuellement l’IA de pointe. Cette déclaration intervient quelques jours après que Dario Amodei, PDG d’Anthropic, a exhorté ses concurrents à ralentir le rythme du développement de l'IA, et alors qu’un groupe d’experts scientifiques soutenu par l’ONU cite le récent piratage de Hugging Face par une IA rebelle comme preuve de la « défaillance » des mesures de sécurité existantes.

Dans ce contexte, des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) ont récemment briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. Parmi les intervenants devant le Conseil, composé de 15 membres, lors de la session annuelle de l’Assemblée générale, figuraient Sam Altman, PDG d’OpenAI, Dario Amodei, PDG d’Anthropic, et Clément Delangue, cofondateur de Hugging Face, trois des dirigeants les plus en vue du secteur.

Les leaders de l’IA mettent en garde l’ONU contre les risques pour la sécurité à mesure que les systèmes d'IA gagnent en puissance

Les gouvernements s’efforcent de trouver des moyens de superviser des systèmes d’IA qui évoluent plus rapidement que ne peuvent le faire les régulateurs, tandis que les États-Unis et la Chine — les deux acteurs dominants dans le développement de l’IA — restent divisés sur la question de savoir si cette technologie nécessite des garde-fous mondiaux ou si elle doit être laissée en grande partie aux forces du marché. « Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », a déclaré Amodei, d’Anthropic, devant le Conseil de sécurité.

« Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent », a déclaré Altman au Conseil. « Au niveau international, cela nécessitera une coopération. » « Au cours de notre histoire, il y a eu des moments où des pays rivaux, qui ne s’appréciaient pas toujours beaucoup, se sont néanmoins unis pour défendre des intérêts communs et le bien collectif face à une nouvelle technologie puissante. Nous pensons que nous vivons actuellement l’un de ces moments », a-t-il ajouté.

Yoshua Bengio, un Canadien considéré comme l’un des « pères fondateurs de l’IA » et coprésident du Groupe scientifique international indépendant — créé l’année dernière par l’Assemblée générale des Nations unies —, a déclaré devant le Conseil de sécurité : « Les dangers sont réels et imminents. » « Ce Conseil est confronté à une menace sans précédent, une menace qu’aucun de ses membres n’aurait choisie, qu’aucun ne peut contenir à lui seul et qui ne respecte pas les frontières que nous défendons », a-t-il déclaré.

Les membres du Conseil, y compris les principaux rivaux en matière d’IA que sont les États-Unis et la Chine, devaient également prendre la parole. Le ministre français des Affaires étrangères, Jean-Noël Barrot, présidait la réunion.

Les États-Unis et la Chine ont discuté de la mise en place d’un système de notification

En amont d’une rencontre prévue à Washington entre le président américain Donald Trump et le dirigeant chinois Xi Jinping, les États-Unis et la Chine ont discuté de la mise en place d’un système de notification concernant les objectifs communs et les menaces communes, qui couvrirait les incidents liés à l’IA revêtant une importance en matière de sécurité nationale. Lors de l'Assemblée générale des Nations unies, Donald Trump a déclaré aux dirigeants mondiaux qu'il « rejetait toute tentative de mettre en place un système mondialiste visant à contrôler » l'IA, qualifiant cette technologie d'« extraordinaire », tout en précisant que les États-Unis resteraient prudents.

« Nous avons aujourd’hui une longueur d’avance considérable sur la Chine et sur tous les autres, et nous allons faire en sorte que cela reste ainsi », a déclaré Trump. « Je ne vais pas freiner la croissance de quelque chose qui sera plus important que la révolution industrielle. » « Nous allons l’encourager, et non la freiner. Nous allons la surveiller de près par l’intermédiaire du ministère de la Justice », a-t-il ajouté.

Le secrétaire général de l’ONU, Antonio Guterres, qui milite depuis longtemps en faveur d’une gouvernance mondiale de l’IA, a averti que les progrès rapides de l’intelligence artificielle présentaient des risques qui ne pouvaient être ignorés, ce qui le place en désaccord avec Trump. Le Conseil de sécurité s’est réuni pour la première fois sur les risques liés à l’IA en 2023, lorsque la Chine a déclaré que cette technologie ne devait pas devenir un « cheval emballé » et que les États-Unis ont mis en garde contre son utilisation à des fins de censure ou de répression. Antony Blinken, alors secrétaire d’État américain, a présidé une réunion du Conseil de sécurité sur l’IA en 2024.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.

Et vous ?

Pensez-vous que ces déclarations sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

Donald Trump rejette les appels des dirigeants du secteur technologique en faveur d'un ralentissement du développement de l'IA, affirmant que des « forces très négatives » exagéraient les risques liés à l'IA

L'ONU veut traiter l'IA avec la même urgence que le changement climatique : l'organisme voudrait instaurer une gouvernance mondiale de l'IA, pour en maximiser les avantages tout en minimisant les risques

Anthropic, OpenAI, Google et SpaceXAI s'entendent illégalement pour freiner le développement de l'IA , selon une plainte qui les accuse d'avoir enfreint la législation antitrust

Vous avez lu gratuitement 98 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.