"C'est le strict minimum que l'on devrait exiger": un des pères de l'IA veut une administration fédérale chargée d'approuver les nouveaux modèles de pointe avant leur lancement

Publié aujourd'hui à 13h04

Geoffrey Hinton, considéré comme un des pères de l'intelligence artificielle, a évoqué dans un podcast l'idée d'un système similaire à celui de la Food and Drug Administration aux États-Unis pour mieux réguler les IA. Les entreprises derrière ces outils ne pourraient donc pas les lancer sans approbation.

Il a contribué au développement de l'intelligence artificielle et il continue de le regretter. Considéré comme un des pères de cette technologie, Geoffrey Hinton s'inquiète de ses capacités, surtout avec les multiples incidents au cours desquels des modèles d'IA ont piraté des entreprises.

Dans le podcast Smart Girl Dumb Questions, relayé par Business Insider, il a proposé que les sociétés du secteur soient contraintes de passer par un système d'approbation similaire à la Food and Drug Administration (FDA) aux États-Unis. Chargée de la santé publique, cette agence réglemente et approuve la mise sur le marché de médicaments.

"On ne peut pas simplement créer un nouveau médicament et le commercialiser. Et on ne peut se contenter de dire 'Eh bien, nous vérifierons sa sécurité plus tard' (...) Il faut convaincre la FDA. Et pour cela, il faut fournir un travail considérable, d'une valeur d'environ un milliard de dollars. C'est le strict minimum que l'on devrait exiger pour l'IA", a déclaré le chercheur britanno-canadien.

Agir vite

Geoffrey Hinton estime ainsi qu'OpenAI, Anthropic et les autres entreprises d'IA devraient être "tenues de se conformer à des réglementations gouvernementales impliquant des experts indépendants". Comme tel est le cas aujourd'hui avec la FDA pour les médicaments.

Et pour le co-lauréat du Prix Nobel de physique 2024, il faut agir vite. Car l'IA ne cesse de progresser et rapidement, a-t-il avancé, mentionnant les récents incidents cyber et la décision d'OpenAI de ne pas lancer un nouveau modèle jugé trop difficile à contrôler fin septembre. "Ce n'est qu'une supposition, mais je pense que nous avons un an ou deux avant que la situation ne s'aggrave considérablement", a mis en garde Geoffrey Hinton.

Malheureusement pour lui, Donald Trump ne semble pas partager ses inquiétudes. Se souciant davantage de gagner la course à l'IA face à la Chine, le président des États-Unis continue de miser sur la bonne volonté de sociétés du secteur. Il leur a ainsi fait signer un décret reposant sur l'autorégulation.

Sujets liés :