Dans la boîte de réception, un courriel paraît banal, pourtant une instruction cachée peut pousser Gemini à produire une réponse orientée, à citer un lien douteux ou à fouiller des informations sensibles lors d’un simple résumé. Google juge cette technique de dissimulation de caractères une manipulation de l’utilisateur et n’annonce pas de correctif, renvoyant la vigilance au premier plan.

Google considère qu’il ne s’agit pas d’un « bug » mais d’un cas de manipulation sociale, et n’envisage pas de correctif à court terme. © Shutterstock
Google considère qu’il ne s’agit pas d’un « bug » mais d’un cas de manipulation sociale, et n’envisage pas de correctif à court terme. © Shutterstock

Des chercheurs ont montré qu’une chaîne de caractères invisibles peut être intégrée dans un courriel ou une invitation d’agenda et être interprétée par un modèle de langage lorsque celui-ci résume le contenu, sans que l’œil humain ne perçoive l’astuce. Dans leurs tests, Gemini, DeepSeek et Grok se révèlent sensibles, tandis que Claude, Copilot et ChatGPT appliquent des protections d’assainissement d’entrées. L’intégration de Gemini à la suite bureautique de Google amplifie l’exposition, car l’assistant interagit déjà avec les courriels et le calendrier professionnels.

Une faille minimisée par Google

L’attaque exploite des caractères de contrôle Unicode qui ne s’affichent pas à l’écran mais restent lisibles par le moteur, créant un décalage entre ce que voit l’utilisateur et ce que traite la machine. Dès qu’un résumé est demandé, l’instruction masquée peut orienter la réponse, recommander un site non fiable ou extraire des éléments de la boîte de réception, selon la charge préparée.

Une démonstration a ainsi piégé Gemini pour qu’il propose un site potentiellement malveillant présenté comme une bonne affaire, preuve d’un impact tangible sur la fiabilité des sorties. Le même principe s’applique aux invitations d’agenda où des champs discrètement altérés peuvent usurper un organisateur ou glisser un lien modifié sans alerte visuelle.

Pourquoi Google temporise

Signalée mi-septembre, la faille a été classée par Google comme relevant surtout du hameçonnage et de la manipulation, donc hors du périmètre d’un correctif de sécurité immédiat. En pratique, cela signifie que l’entreprise attend des utilisateurs et des administrateurs qu’ils filtrent les contenus à risque plutôt que d’empêcher techniquement l’interprétation de ces caractères.

Selon la documentation recueillie par les chercheurs, Claude, ChatGPT et Copilot neutralisent ces séquences en amont, là où Gemini les interprète si elles se trouvent dans le contenu résumé. © Shutterstock
Selon la documentation recueillie par les chercheurs, Claude, ChatGPT et Copilot neutralisent ces séquences en amont, là où Gemini les interprète si elles se trouvent dans le contenu résumé. © Shutterstock

Rappelons que Claude, Copilot et ChatGPT, eux aussi connectés à divers écosystèmes bureautiques, neutralisent ces séquences en amont, limitant la transformation de texte caché en instruction opérante. Cette divergence de stratégie pèse d’autant plus que Gemini agit au cœur des flux de courriels et de calendriers où la confiance implicite reste élevée.

À découvrir
Phishing, piratages, spams : il est temps de reprendre en main votre boîte mail !
11 septembre 2024 à 18h31
Contenu Sponsorisé
sponsorisé
À découvrir
Quels sont les 5 meilleurs chatbots à intelligence artificielle ? Comparatif 2025
04 février 2025 à 14h11
Comparatifs services