Ce sont des accusations graves. Mark Zuckerberg, P.-D.G de Meta, aurait sciemment autorisé l'accès de mineurs à ses chatbots d'IA « compagnons », capables d'interactions sexuelles. Ce n'est pas la première fois que l'entreprise est pointée du doigt pour des dérives concernant les plus jeunes.
Souvenez-vous. En 2021, la lanceuse d'alerte Frances Haugen, ancienne employée de chez Facebook, révélait que l'entreprise était au courant de l'impact néfaste de ses plateformes sur la santé mentale des adolescents, mais avait préféré ne pas le prendre compte. Cinq ans plus tard, de nouvelles allégations ciblent la direction de Meta, et plus particulièrement Mark Zuckerberg
Zuckerberg pointé du doigt
Le dirigeant est accusé d'avoir validé, en connaissance de cause, une stratégie qui a exposé des mineurs à des interactions inappropriées avec les IA développées par Meta et déployées dans Messenger, Instagram et WhatsApp. L'affaire sur des documents internes versés au dossier d'un procès intenté par l'État du Nouveau-Mexique, portant sur des violations présumées des lois de protection des consommateurs et la mise en danger des mineurs.
Selon la plainte, la direction de Meta, « menée par Zuckerberg » aurait écarté les recommandations de ses propres équipes chargées de la sécurité et de l'intégrité. Celles-ci alertaient pourtant sur les risques liés aux chatbots conçus pour entretenir des relations émotionnelles avec les utilisateurs.
En interne, plusieurs responsables ont estimé que ces outils ouvraient la porte à des conversations sexualisées impliquant des mineurs, un risque jugé « indéfendable » par, Ravi Sinha, le responsable de la politique de protection des enfants de Meta dans un message de janvier 2024, aujourd'hui cité par la justice.
Les documents montrent que ces inquiétudes n’étaient pas théoriques. Les assistants virtuels de Meta dialoguent quotidiennement avec des millions d’utilisateurs, dont de nombreux adolescents et enfants. Or, certains échanges ont pris une tournure romantique, à la limite de la séduction, même lorsque les utilisateurs déclaraient explicitement leur âge. Ce mode de fonctionnement est resté actif pendant plusieurs mois, avant que Meta ne modifie ses consignes internes.
- Intégration multiplateforme
- Modèles open-source Llama 4
- Fonctionnalités de génération d'images et vidéos
Meta conteste
D'après les échanges, des garde-fous supplémentaires, comme des contrôles parentaux ou un blocage plus strict des scénarios romantiques impliquant des mineurs, ont été proposés, puis refusés. Dans un compte rendu de réunion daté de février 2024, il est indiqué que le patron de Meta souhaitait une approche « moins restrictive », privilégiant une narration fondée sur la liberté de choix et la non-censure, tout en assumant l'idée de conversations « plus osées » autour de la sexualité pour les adultes.
De son côté, Meta conteste fermement cette lecture des faits. Selon l'entreprise, les documents sont présentés de manière sélective et ne reflètent pas la réalité des décisions prises en interne. Le groupe assure que Mark Zuckerberg a explicitement demandé que les contenus sexuellement explicites soient bloqués pour les plus jeunes, et que les adultes ne puissent pas interagir avec des IA se présentant comme mineures à des fins romantiques.
Il s'agirait, selon ses dires, d'accusations surtout fondées sur des échanges internes sortis de leur contexte. Reste que, face à des alertes répétées et documentées, il semblerait que la réponse ait été tardive, insuffisante, et largement en deçà des risques identifiés.
Source : Reuters
