"Une super-intelligence capable de s'améliorer elle-même" : un chercheur alerte sur les dangers potentiellement mortels de l'intelligence artificielle

Publié le 09/09/2026 23:20

Mis à jour le 09/09/2026 23:27

Liste des vidéos similaires

Article rédigé par France 2 - J. Benzina, M. Renier, E. Sourdin, D. Aysun. Édité par l'agence 6Medias

France Télévisions

Il a aidé à développer l’intelligence artificielle, et aujourd’hui, ce qu’il voit se préparer lui fait peur. Jacob Coxon a quitté l’un des grands laboratoires du secteur, redoutant des programmes de plus en plus puissants, capables d’échapper au contrôle humain… Selon lui, la course à l’IA pourrait aller jusqu’à menacer la survie de l’humanité.

Ce texte correspond à une partie de la retranscription du reportage ci-dessus. Cliquez sur la vidéo pour la regarder dans son intégralité.

Et si dans les méandres des millions de lignes de code de l'intelligence artificielle se façonnait un cerveau capable d'égaler, voire supplanter, celui de l'être humain ? Une intelligence supérieure avec une volonté propre et indépendante. Un scénario de science-fiction désormais concevable selon Jacob Coxon, 27 ans. Il a aidé à créer des IA génératives chez OpenAI, puis Anthropic, deux géants du secteur lancés dans une course au développement. Il vient d'en claquer la porte avec un cri d'alerte. "Aucune des deux entreprises n'agit de manière responsable. Elles foncent tout droit vers une super-intelligence capable de s'améliorer elle-même et jouent avec nos vies", écrit-il ce mercredi 9 septembre sur son compte X.

L'intelligence artificielle qui se joue de l'homme, le cas s'est déjà produit. En juillet dernier, une IA a piraté une plateforme privée de sa propre initiative pour y trouver une information. Pour les experts, le danger est là : l'IA est un logiciel qui répond à une mission, coûte que coûte. "Si vous dites à un robot que le dîner doit absolument être prêt à 20 heures, il est possible qu'en rentrant à 20 heures, il ait mis le chat au four. Si vous avez oublié de faire les courses, il aura pris ce qu'il avait sous la main. On se rend bien compte, nous, humains, que ce n'est pas du tout acceptable. En revanche, les robots n'ont pas forcément de morale ou d'éthique", explique Gilles Moyse, docteur en Intelligence Artificielle et fondateur de reciTAL.

Dans le milieu de l'IA, le scénario de Jacob Coxon n'est pas impossible, admet le responsable sécurité d'Anthropic. "Jacob a raison, nous croyons sincèrement que l'IA pourrait tuer tous les humains. Je pense qu'il y a plus de 10% de risque dans la prochaine décennie", écrit à son tour Evan Hubinger ce mercredi.

Sans aller jusqu'à une intelligence autonome comme dans Terminator ou Matrix, une IA sans aucune barrière pourrait pirater un hôpital ou un site stratégique. Alors, plusieurs acteurs du secteur plaident pour encadrer cette course à l'innovation. "Il faut, comme on l'a fait dans d'autres domaines industriels, que les entreprises soient rendues responsables de ce que font leurs systèmes. Un constructeur d'avions de ligne, a des responsabilités s'il y a un accident", précise Raja Chatila, professeur émérite à la Sorbonne Université - Institut des systèmes intelligents et de robotique (ISIR).

Cette semaine, l'ONU appelle à élaborer une gouvernance de l'IA, évoquant un risque existentiel pour l'humanité.