Aux Etats-Unis, la glaçante histoire d’une mère de famille qui a découvert que Meta AI savait tout de ses fillettes, leur nom, âge et même leur localisation potentielle

Publié aujourd'hui à 19h30

Aux États-Unis, une mère de famille a découvert avec stupeur que l'IA de Meta était en mesure d'identifier ses enfants et de fournir des détails très intimes de leur vie. Une situation choquante que l'entreprise a reconnue comme anormale.

"Qui est l'enfant au niveau du siège passager?". Une question en apparence anodine, suggérée par Meta AI, l'outil d'intelligence artificielle de l'entreprise, en regard d'une vidéo postée par une mère de famille. Une simple question qui permet aux utilisateurs d'en savoir plus sur ce qui se trouve dans une publication.

Kalie Robins habite dans l'Utah et partage régulièrement sa vie sur Instagram. En voyant cette question sur une vidéo qu'elle avait postée quelques heures plus tôt, elle a découvert à quel point les outils d'IA de Meta peuvent être intrusifs, y compris sur des vidéos en apparence "innocente", raconte Futurism.

Une IA qui peut fouiller dans d'anciennes publications

Dans la vidéo, Kalie Robins est en voiture, elle chante au côté de l'une de ses deux filles. Son visage est visible, mais sa mère ne donne jamais son prénom ni ne donne d'informations supplémentaires sur leur localisation.

Pourtant, Meta AI va d'abord suggérer une question sur l'identité de l'enfant. En interagissant avec cette proposition, la mère de famille raconte que l'intelligence artificielle de Meta va lui fournir différentes informations personnelles, et notamment un rapport détaillé sur sa fille, mais également sur son second enfant non présent dans la vidéo: "Je me suis demandé pourquoi ces informations étaient accessibles, et puis (Meta AI) a continué à m'en dire plus."

Le prompt suggéré suivant concerne l'âge de ses filles. En le sélectionnant, la mères des fillettes accède à un calendrier, qui stipule leur date de naissance et affiche même une photo de la grand-mère des petites, qui tient l'une d'elles lorsqu'elle était bébé. Une photo tirée d'une ancienne publication Facebook.

Très vite, Kalie Robins se rend compte que Meta AI est en mesure de récupérer l'ensemble des publications publiques au sujet de ses enfants, et de s'en servir pour fournir des informations personnelles, voire intimes. L'IA va même plus loin, en permettant de réclamer des détails sur les centres d'intérêt de ses filles, et même leur localisation précise.

Après quelques minutes, Kalie Robins découvre avec horreur que l'IA suggère différents lieux où ses filles pourraient se trouver, s'appuyant sur une publication Facebook de 2018.

"Ça ne s'arrêtait pas," explique-t-elle dans une vidéo partagée sur Instagram. "J'ai ressenti de l'effroi."

Ce contenu ne peut pas être affiché

Ce contenu ne peut pas être affiché sans votre consentement car il implique l’utilisation de cookies déposés par son fournisseur. Ces cookies peuvent notamment permettre de mesurer l'audience, personnaliser le contenu ou suivre votre navigation. Pour afficher ce contenu, vous pouvez :

Paramétrer vos choix afin d'accepter uniquement les cookies liés à ces contenus tiers en cliquant sur « Paramétrer les cookies ». Vous pouvez à tout moment modifier vos choix et retirer votre consentement en cliquant sur « Paramétrage des cookies » figurant en bas de page de ce site.

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Meta assure que son IA n'a pas fonctionné correctement

Même si un enquêteur humain peut réussir à effectuer les mêmes rapprochements, souligne Futurism, les capacités rapides de Meta AI pour connaître tous les détails de la vie d'une personne, a fortiori mineure, ont surpris cette maman.

Pourtant, ce n'est pas étonnant quand on découvre qu'elle utilise Facebook et les autres réseaux sociaux de Meta depuis leur lancement respectif. Éloignée de ses proches, elle a utilisé les outils du géant américain pour rester en contact avec sa famille, partageant des moments clés de sa vie, n'imaginant pas une seule seconde qu'une IA pourrait ensuite s'en servir.

Elle a donc demandé à ses proches de supprimer les publications où elle figure avec ses enfants. Une tâche compliquée, d'autant plus quand ces personnes se servent de Facebook comme d'un album souvenirs.

Interrogé par Futurism, Meta confirme que Meta AI est en mesure d'aller fouiller dans les publications publiques ou sur le web pour en savoir plus sur un utilisateur. Pour autant, l'entreprise explique que son IA a "raté le coche":

"Nous avons créé cette fonctionnalité pour aider les gens à obtenir plus d'informations sur des sujets ou des publications qui les intéressent. Lorsque quelqu'un clique sur un prompt suggéré, la réponse générée est basée sur des informations auxquelles tous les utilisateurs ont déjà accès," note l'entreprise. "Mais nous avons raté le coche car Meta AI n'aurait jamais dû inciter l'utilisateur à se poser ces questions et nous avons résolu ce problème."

En Europe, ces fonctionnalités ne sont pas encore disponibles, notamment car elles ne sont pas compatibles avec les différentes règles européennes, dont le RGPD (le règlement sur les données personnelles) et le DSA, le règlement sur les services numériques.

L'affaire fait néanmoins réfléchir sur le contenu que l'on partage sur les réseaux sociaux de manière publique, et l'exploitation qui peut en être faite.

Sujets liés :