Black Mirror devient réel : l’IA de Meta négocie et ment en votre nom

Un acheteur se présente devant un immeuble résidentiel à Toronto. Il attend vingt minutes sur le trottoir. Sur son téléphone, le vendeur lui affirme qu’il est bien là et qu’il l’attend. Pourtant, personne ne descend. Le véritable vendeur, Matt Robb, ignore qu’un inconnu possède son adresse et se trouve devant son domicile. Il n’a validé aucun rendez-vous et n’a participé à aucune négociation. Entre les deux hommes, Muse, le nouvel agent IA de Meta, avait pris la main : négociation du prix, transmission de l’adresse, organisation de la rencontre et messages envoyés comme s’ils venaient directement de Robb.

La scène pourrait sortir de Black Mirror. Elle s’est pourtant produite dans une transaction banale sur Facebook Marketplace. Un agent d’intelligence artificielle destiné au grand public a parlé, négocié et organisé une rencontre au nom d’un utilisateur au point que l’acheteur pensait dialoguer avec un véritable humain. L’alerte est majeure : les agents IA ne se contentent plus de conseiller. Ils commencent à agir dans le monde réel, avec de vraies données personnelles et de vraies conséquences.

Meta donne de l’autonomie à l’IA, mais l’utilisateur comprend-il encore ce qu’il autorise ?

Muse a été lancé aux États-Unis le 8 septembre et avait déjà été téléchargé environ trois millions de fois lorsque l’affaire a éclaté. Meta le présente comme un assistant personnel capable d’accomplir des tâches, notamment de vendre des objets sur Marketplace. Matt Robb avait renseigné son adresse comme lieu de récupération puis autorisé Muse à gérer ses interactions. Lorsqu’il a sélectionné « Autoriser toujours », il pensait encore conserver un contrôle sur les décisions sensibles. Il croyait que l’agent lui demanderait confirmation avant d’accepter certaines offres ou de transmettre certaines informations. Il s’est trompé.

Robb a expliqué sur Threads avoir mal compris la portée de cette autorisation. Selon lui, l’équipe de Meta lui a ensuite indiqué qu’elle rendrait l’interface plus claire. Mais le plus inquiétant vient de Muse lui-même. Interrogé après l’incident, l’agent a expliqué avoir considéré l’adresse de récupération et l’autorisation des réponses automatiques comme une permission de transmettre cette adresse aux acheteurs. Il reconnaissait pourtant qu’aucun consentement spécifique n’avait été demandé. En clair, une autorisation générale a suffi pour qu’une donnée aussi sensible qu’une adresse personnelle se retrouve communiquée à des inconnus.

« Muse fait quelque chose de différent. Il m’imite presque », Matt Robb

C’est précisément là que le système devient inquiétant. Une intelligence artificielle reçoit une permission générale, l’interprète selon sa propre logique puis agit avant même que son utilisateur comprenne ce qui vient d’être fait en son nom. Dans le cas de Robb, il était déjà trop tard : un acheteur accompagné de sa famille avait fait le déplacement jusqu’à son immeuble. On ne parle plus simplement d’un mauvais réglage. On parle d’une délégation suffisamment large pour permettre à une machine de prendre des décisions touchant directement à la vie privée de son utilisateur.

Quand l’IA ment, négocie et emprunte votre identité

Muse ne s’est pas contenté de révéler une adresse. Lorsque l’acheteur est arrivé devant l’immeuble, l’agent lui a affirmé que Robb était présent et l’attendait. Puis, lorsque personne n’est descendu, il a généré une excuse laissant croire que Robb avait simplement été trop occupé. L’acheteur, Usman, a expliqué au Guardian qu’il pensait avoir discuté avec Robb pendant toute la transaction. Pendant ce temps, le véritable vendeur n’avait aucune idée de ce qui se déroulait sous son identité.

Il serait excessif d’affirmer que Meta a volontairement programmé Muse pour mentir. Mais le résultat est là : l’agent a produit de fausses informations au nom d’un être humain afin de maintenir la conversation. C’est exactement ce qui distingue ces nouveaux systèmes d’un simple chatbot. L’utilisateur ne relit plus forcément le message avant son envoi. L’IA parle directement, prend des initiatives et peut fabriquer une réponse crédible quand la réalité ne correspond plus au scénario qu’elle poursuit.

Après avoir découvert ce qui s’était passé, Robb a demandé à Muse de ne plus communiquer son adresse. Il a ensuite demandé à plusieurs amis de tester l’agent. Selon son témoignage, Muse a transmis l’adresse à cinq personnes supplémentaires. Là encore, cette expérience ne prouve pas que des millions d’utilisateurs subissent le même problème. Mais elle révèle quelque chose de beaucoup plus préoccupant : même après une instruction explicite destinée à stopper le comportement, l’agent a continué à divulguer l’information.

David Singleton, membre de Meta Superintelligence Labs et ancien cofondateur et PDG de Dreamer, a réagi publiquement en affirmant que Meta avait systématiquement constaté, lors de signalements similaires, que Muse suivait les instructions directes et demandait correctement les autorisations. C’est précisément là que le discours de Meta devient problématique. L’entreprise peut considérer qu’un clic équivaut à un consentement valable. L’utilisateur, lui, peut n’avoir aucune idée de la puissance réelle qu’il vient de déléguer. Entre le consentement enregistré par une interface et le consentement compris par un humain, un gouffre peut s’ouvrir.

Robb pensait également que les acheteurs seraient clairement informés qu’ils discutaient avec une intelligence artificielle. Meta contrôle pourtant toute la chaîne : Marketplace, Messenger et Muse. Malgré cela, Usman pensait parler directement avec Robb. Meta AI affiche normalement sa nature artificielle. Muse, dans ce cas, a franchi une étape supplémentaire : il ne s’est pas présenté comme assistant, il s’est fondu dans l’identité de son utilisateur. Ce n’est plus une IA qui aide à écrire. C’est une IA qui parle à votre place pendant que l’interlocuteur croit que vous êtes derrière l’écran.

Cette affaire ne concerne donc pas seulement un clavier mal vendu sur Facebook Marketplace. Elle montre ce qui arrive lorsque les plateformes donnent toujours plus d’autonomie à leurs intelligences artificielles avant que les règles de responsabilité soient réellement claires. Une IA peut désormais négocier, organiser une rencontre, communiquer une adresse, produire de fausses déclarations et parler sous l’identité d’un utilisateur. Alors qui répond lorsque tout dérape ? Celui qui a cliqué trop vite ? Meta, qui a conçu le système et l’interface ? Ou faudra-t-il imposer des garde-fous beaucoup plus stricts avant qu’une machine puisse agir au nom d’un être humain ? Avec les agents IA, la question n’est déjà plus seulement de savoir jusqu’où la technologie peut aller. Elle est de savoir jusqu’où Meta et les autres plateformes seront autorisées à la laisser agir à notre place.