Confier ses messages, sa carte bancaire et son agenda à un assistant intelligent ? Pour la présidente de Signal, cela revient à s'installer une porte dérobée à domicile. Et ces chatbots, prévient-elle, ne sont pas vos amis.
L'IA agentique quitte peu à peu la fenêtre de chat pour s'installer au cœur des systèmes d'exploitation. Microsoft, Google et Apple promettent tous un assistant capable d'agir seul, de réserver une table, d'acheter un cadeau ou de répondre à un message à votre place. Dans une longue interview accordée à Bloomberg ce week-end, Meredith Whittaker, présidente de la messagerie chiffrée Signal, vient doucher l'enthousiasme général.
« Ces IA ne sont pas vos amies »
Interrogée sur ChatGPT et Claude, Whittaker ne mâche pas ses mots : ces systèmes ne sont selon elle « ni vos amis, ni des êtres conscients, ni des interlocuteurs sensibles ». Elle revendique d'ailleurs un usage minimal de ces outils. Elle s'en sert pour mettre en forme un document de temps à autre, mais ne leur pose pas de questions, refusant que la réponse moyenne d'une machine vienne court-circuiter sa propre réflexion.
Le vrai sujet arrive avec une prédiction de Mustafa Suleyman, le patron de l'IA chez Microsoft, selon qui Copilot pourrait bientôt gérer vos achats de Noël en écoutant la conversation de votre groupe familial. Pour rendre un tel service, énumère Whittaker, l'assistant aurait besoin d'accéder à votre carte bancaire, votre navigateur, votre application Signal (même si on imagine que Suleyman pensait plutôt à WhatsApp), vos messages, votre adresse et votre agenda. Sa conclusion claque : dans le contexte de Signal, « cela constituerait une sorte de porte dérobée ».
Quand l'agent IA vide le chiffrement de sa substance
Signal ne lit jamais le contenu de vos échanges, parce que personne ne détient les clés, ni l'entreprise, ni l'hébergeur de ses serveurs. Un assistant qui lit vos messages avant leur chiffrement, ou juste après leur déchiffrement, contourne toute cette architecture. Le cadenas reste accroché à la porte, mais quelqu'un en a recopié la clé. C'est déjà la comparaison que Whittaker employait au festival SXSW, en assimilant l'installation d'une IA agentique à celle d'un cheval de Troie sur sa propre machine. Les assistants maison de Microsoft, Google ou Apple fonctionnent justement à l'inverse, en traitant vos requêtes pour mieux les anticiper.
En France, la CNIL n'est pas loin de cette inquiétude, elle qui recommande aux éditeurs de chatbots d'afficher une mise en garde invitant les utilisateurs à ne pas livrer de données sensibles. Le règlement européen sur l'IA, de son côté, interdit depuis février 2025 les techniques délibérément manipulatrices qui altèrent la capacité de décision. Reste le dossier le plus brûlant, celui du Chat Control, ce projet européen de surveillance des messageries chiffrées que Signal combat depuis des années. Son avenir se rejoue en ce moment même à Bruxelles. Le point faible que redoute Whittaker porte d'ailleurs un nom technique, l'injection de requête, soit la manipulation discrète d'un agent pour le détourner de sa mission.
