Face aux dangers de l'IA, OpenAI, Anthropic et Google travailleraient à l'élaboration d'un organisme de normalisation de l'intelligence artificielle

Publié aujourd'hui à 19h52

Selon plusieurs médias américains, OpenAI, Anthropic et Google discutent de la création d'un organisme de normalisation de l'IA depuis juillet. Des révélations qui interviennent alors que ces géants de l'IA alertent sur les dangers de cette technologie.

Ralentir le rythme. Depuis quelques jours, chercheurs et patrons des géants de l'IA alertent sur les dangers de cette technologie, appelant à lever le pied sur son développement ou à adopter des règles de sécurité.

"Je suis d'accord avec Dario (...) C'est l'un des principaux sujets qui ont animé nos discussions chez OpenAI ces dernières semaines", a écrit le PDG de Ia start-up sur X, en réaction à l'essai publié par le patron d'Anthropic, Dario Amodei, et dans lequel il exhorte l'industrie de l'IA à ralentir.

Ce contenu ne peut pas être affiché

Ce contenu ne peut pas être affiché sans votre consentement car il implique l’utilisation de cookies déposés par son fournisseur. Ces cookies peuvent notamment permettre de mesurer l'audience, personnaliser le contenu ou suivre votre navigation. Pour afficher ce contenu, vous pouvez :

Paramétrer vos choix afin d'accepter uniquement les cookies liés à ces contenus tiers en cliquant sur « Paramétrer les cookies ». Vous pouvez à tout moment modifier vos choix et retirer votre consentement en cliquant sur « Paramétrage des cookies » figurant en bas de page de ce site.

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Mais comment procéder? Les deux géants du secteur en ont une petite idée. OpenAI, Anthropic et également Google ont en effet commencé à discuter de la création d'un organisme de normalisation pour l'industrie de l'IA avant les récentes mises en garde, rapportent plusieurs médias américains.

Un dialogue nécessaire pour gérer les risques liés à l'IA

Ces discussions ont débuté après que Demis Hassabis, cofondateur de Google Deepmind, la filiale dédiée à l'IA du géant américain, a appelé à créer une autorité chargée de mieux réguler les modèles les plus puissants en juillet dernier, selon CNN.

Dirigée par les États-Unis, cette entité serait chargée d'élaborer des protocoles d'évaluation et de tester les modèles les plus avancés avant leur lancement, avait-il détaillé dans un article. Elle pourrait travailler avec des laboratoires américains et des agences fédérales, avait aussi précisé celui qui est désormais le président de Deepmind.

Dario Amodei fait référence à ce projet dans son dernier essai. "L'adoption de lois peut prendre du temps et l'IA progresse rapidement (...) Les entreprises peuvent et doivent collaborer volontairement à l'établissement de normes", a souligné le patron d'Anthropic.

"Pour des raisons de concurrence, il est utile que le gouvernement américain joue un rôle de médiateur, ou du moins qu'il permette ces discussions. (...) Ce dialogue pourrait également se dérouler par le biais de groupements industriels ayant des liens avec le gouvernement - par exemple le mécanisme suggéré par Demis Hassabis", a-t-il ajouté.

"Nous saluons la mise en place d'un cadre fédéral définissant des exigences de sécurité cohérentes pour l'IA de pointe. (...) Il est judicieux d'établir des règles cohérentes pour gérer les risques liés à l'IA de pointe afin de pouvoir en tirer le meilleur parti", a, de son côté, déclaré Sam Altman dans un long message publié sur X le 14 septembre.

Ce contenu ne peut pas être affiché

Ce contenu ne peut pas être affiché sans votre consentement car il implique l’utilisation de cookies déposés par son fournisseur. Ces cookies peuvent notamment permettre de mesurer l'audience, personnaliser le contenu ou suivre votre navigation. Pour afficher ce contenu, vous pouvez :

Paramétrer vos choix afin d'accepter uniquement les cookies liés à ces contenus tiers en cliquant sur « Paramétrer les cookies ». Vous pouvez à tout moment modifier vos choix et retirer votre consentement en cliquant sur « Paramétrage des cookies » figurant en bas de page de ce site.

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Si les entreprises d'IA sont unies dans ce combat, elles font face à un ennemi de taille: Donald Trump. Le 14 septembre, le président des États-Unis a de nouveau rejeté les appels à ralentir le développement de l'IA, allant jusqu'à fustiger une "conspiration malsaine" contre cette technologie.

"Le seul contrôle ou 'garde-fou' dont a besoin l'IA est un PRÉSIDENT FORT ET INTELLIGENT (Q.I. élevé!) et les États-Unis en ont en pagaille", a soutenu le président américain sur sa plateforme Truth Social.

Il s'en est également pris à Dario Amodei dans son message, affirmant l'avoir empêché de faire "des 'choses' mauvaises ou potentiellement mauvaises". Adeptes de théories du complot, auteurs de trahison, traîtres et responsables de fuite. Prenez garde!", a-t-il conclu en guise d'avertissement.

Sujets liés :