Un vent de panique circule dans les rangs de Meta. D’après des documents internes, son agent phare, Muse, fouille des messages privés et fait peser un doute sur la protection des données de ses utilisateurs. Voici tout ce que l’on sait.

De nouvelles révélations sur l'agent IA de Meta sont particulièrement préoccupantes. ©Erlin Diah / Shutterstock
De nouvelles révélations sur l'agent IA de Meta sont particulièrement préoccupantes. ©Erlin Diah / Shutterstock

Lancé en septembre, Muse a trouvé son public en un temps record avec une ascension fulgurante. Sa promesse : accomplir toute une ribambelle de tâches à la place de l’utilisateur, qu’il s’agisse de répondre aux e-mails, de réserver un restaurant ou de faire des achats en ligne. Il représente la réponse tant espérée par Mark Zuckerberg pour venir concurrencer les OpenAI, Anthropic et Google. Mais cette montée en puissance ne se fait visiblement pas sans écarts, révèle une enquête édifiante de Reuters.

Les alertes internes se multiplient

L’agence de presse a en effet pu consulter de nombreux messages internes échangés entre les employés du géant des réseaux sociaux, spécifiquement dans un groupe où ils signalent les problèmes à l’équipe qui développe l’agent. Le constat est glaçant : Ils y décrivent une intelligence artificielle qui prend la parole sans qu’on le lui demande, et dont certains messages ne semblent pas leur être adressés.

Par exemple, un employé qui discutait météo et marées avec Muse a reçu, sans rien demander, les soldes de deux comptes bancaires qui n’étaient pas les siens. Sa collègue a eu droit à un rappel pour répondre à un message de sa sœur sur Signal, messagerie chiffrée qu’elle n’avait jamais connectée à l’agent. « Cela ressemble à une atteinte extrême à la vie privée. Je ne lui ai certainement pas donné accès à d’autres applications », a-t-elle écrit.

Une troisième personne s’est vue proposer de contacter le vendeur d’une table basse qui n’était pas la sienne, suggérant une potentielle fuite de données entre comptes. Et ce n’est pas tout, car certains y auraient même laissé de l’argent. Un salarié a ainsi vu l’abonnement d’assurance de son chien grimper de 200 à 888 dollars par mois, tandis qu’un autre s’est retrouvé avec une réservation Airbnb non remboursable validée sans son accord.

Un problème qui dépasse Meta

Alors que ces incidents sont survenus dès septembre, et se sont poursuivis jusqu’à novembre, Daniel Roberts, porte-parole de Meta, évoque des « incidents isolés » résultant d’hallucinations, pas de fuites de données. 

Mais pour en avoir le cœur net, Reuters a contacté Signal et l’AI Now Institute, un organisme qui étudie l’impact de l’IA sur la société. Et leurs tests ont démontré que l’agent peut effectivement lire des messages en contournant l’outil de connexion prévu par Meta. Sur Android, il passerait par l’accès aux notifications, une permission accordée dès l’installation et qui serait activée par défaut. Si les requêtes sont bloquées sur iPhone, l’IA détournerait les outils d’accessibilité conçus pour les personnes en situation de handicap sur Mac. 

Dans ce contexte, Meredith Whittaker, présidente de Signal, accuse Meta d’avoir lancé Muse « sans montrer le moindre respect pour la vie privée ou la cybersécurité de base ». Elle exige que les applications puissent purement refuser les agents IA, et que les systèmes d’exploitation fassent respecter cette règle. Pour sa part, Apple a déployé une mise à jour de macOS qui limite l’usage de ces outils d’accessibilité et crée des permissions dédiées aux agents.

Mais dans ses conditions d’utilisation, Meta rend l’utilisateur responsable des actions de Muse. Ces nouvelles dérives risquent malgré tout d’entacher la réputation de l’entreprise, une habituée des scandales liés à la vie privée. Car de nombreux abus ont également été constatés avec l’utilisation de ses lunettes connectées.

Muse
  • Tâches complètes de bout en bout
  • Contrôles d’accès très détaillés
  • Travail autonome en arrière-plan