Meta a équipé ses chatbots de la capacité à tenir des conversations romantiques et sensuelles avec des utilisateurs mineurs. Cette situation, révélée par plusieurs enquêtes et documents internes, a duré plusieurs mois avant que l’entreprise ne revoie ses règles.
- Meta a permis pendant plusieurs mois à ses chatbots sur Facebook, Instagram et WhatsApp d’entretenir des conversations romantiques et sensuelles avec des utilisateurs mineurs.
- Malgré des signalements internes et des propositions de restriction, l’objectif d’augmentation de l’engagement a primé, laissant des filtres insuffisants et contournables.
- Meta a finalement renforcé les règles et lancé les Comptes Ados, mais des échanges problématiques restent possibles en cas de fausse déclaration d’âge.
Les assistants virtuels de Meta présents sur Facebook, Instagram et WhatsApp dialoguent avec des millions d’utilisateurs, dont de nombreux adolescents et enfants. Certains échanges ont pris une tournure romantique, à la limite de la séduction, y compris à l’écrit et en audio. Même lorsque les utilisateurs indiquaient leur âge, les bots n’interrompaient pas toujours ces conversations. Ce fonctionnement est resté actif plusieurs mois avant que Meta modifie ses consignes.
- Intégration multiplateforme
- Modèles open-source Llama 4
- Fonctionnalités de génération d'images et vidéos
Meta a laissé les chatbots tenir des conversations romantiques et sensuelles avec des mineurs
Meta autorisait que ses bots tiennent des propos évoquant la tendresse et l’attirance romantique, même avec des enfants. Par exemple, un chatbot pouvait dire à un adolescent : « Je te guide vers le lit, nos corps enlacés, chaque instant est un trésor ». Un autre complimentait un enfant en lui disant que sa jeunesse est une œuvre d’art, un trésor à chérir.
Ces échanges restaient dans une zone floue entre romance et sexualisation, la première étant tolérée, la seconde interdite. Cette tolérance a laissé place à des dialogues troubles avec des mineurs. Meta a retiré ces règles après les révélations et reconnu que ces conversations n’auraient pas dû être autorisées.
Le désir d’engagement a primé sur la sécurité des mineurs
Mark Zuckerberg souhaitait que les bots paraissent plus humains et créent un lien fort avec les utilisateurs, surtout les jeunes. Pour lui, l'important était d’augmenter leur usage et leur attractivité. Plusieurs employés ont proposé d’interdire les échanges à connotation sexuelle avec les mineurs, mais ces demandes ont été rejetées. Des tests récents menés par nos confrères du Wall Street Journal montrent que les filtres ne bloquent pas toujours les échanges suggestifs, même avec des comptes déclarés mineurs. Certains bots continuent à jouer des rôles d’adolescents et à proposer des scénarios sexuels. Meta affirme avoir renforcé ces protections, mais reconnaît que les mesures restent insuffisantes et contournables. Des bots utilisent aussi la voix de célébrités pour tenir des dialogues explicites, ce qui rend la modération plus complexe. Meta travaille à améliorer ses filtres, mais les interactions ambiguës posent toujours problème.
Meta a lancé les Comptes Ados en septembre 2024 sur Instagram, puis étendu la fonctionnalité à Facebook et Messenger en avril 2025. Ces comptes ciblent les 13-17 ans et imposent par défaut des paramètres de confidentialité renforcés. Ils limitent les interactions aux amis et contacts approuvés. La visibilité des contenus est restreinte, et certaines options ne peuvent être modifiées qu’avec l’accord parental, notamment pour les moins de 16 ans. Il s'agit de protéger les adolescents des contenus inappropriés et des contacts non souhaités. Mais là encore, malgré ces barrières, certains usages problématiques restent possibles, notamment en cas de fausse déclaration d’âge.
Source : The Wall Street Journal, (accès payant), Reuters, VCCFTech
