Meta notifie désormais les parents si leur adolescent évoque le suicide ou l’automutilation dans une conversation avec Meta AI. La fonctionnalité, active aux États-Unis, au Royaume-Uni, en Australie et au Canada, s’appuie sur un double filtre IA + revue humaine avant tout envoi d’alerte.
Quand un adolescent glisse dans une conversation avec Meta AI qu’il pense à se faire du mal, même de façon subtile, ses parents reçoivent désormais une notification. Pas le contenu exact de l’échange, mais une alerte accompagnée de ressources pour aborder le sujet. Meta AI alerte aussi déjà les services d’urgence en cas de risque imminent sur Facebook et Instagram, 19 000 signalements l’an dernier, et étend cette capacité aux conversations avec son chatbot. La plateforme joue la carte de la transparence parentale, à l’heure où régulateurs et tribunaux lui mettent la pression sur la sécurité des mineurs.
Un filtre IA, puis un humain, avant que les parents soient prévenus
Le mécanisme repose sur deux étapes. Un système d’IA dédié repère d’abord les conversations où un adolescent fait référence à l’automutilation ou au suicide, même de manière ambiguë. Chaque conversation ainsi flaggée passe ensuite en revue humaine avant qu’une alerte soit envoyée. Meta assume le choix d’alerter même en cas de doute : « Si l'intention du jeune est ambiguë, nous penchons pour la prudence et prévenons le parent. Cela signifie que nous pouvons parfois notifier des parents sans raison réelle de s'inquiéter, mais c'est le bon point de départ. »
Concrètement, les parents reçoivent l’alerte par SMS, e-mail ou notification in-app, selon les coordonnées renseignées lors de la configuration de la supervision parentale. Le texte exact de la conversation ne leur est pas transmis. Cette précaution n’est pas anodine : elle tente de préserver un minimum de confiance entre l’ado et la plateforme, tout en informant l’adulte responsable. Reste à savoir si cet équilibre tiendra face aux premières fausses alertes.
L’extension aux services d’urgence, un signal fort sur les enjeux réels
Au-delà des parents, Meta travaille à contacter directement les services d’urgence si une conversation, avec un adulte ou un mineur, laisse penser qu’une personne est en danger immédiat. Ce n’est pas encore actif pour les chats avec Meta AI, mais la mécanique existe déjà sur Facebook et Instagram : l’an dernier, elle a généré plus de 19 000 signalements aux services de premiers secours dans le monde.
Ce déploiement progressif reflète aussi la pression juridique et réglementaire qui s’exerce sur Meta. Plus tôt cette année, l’entreprise a été reconnue coupable par deux jurys distincts pour le caractère addictif de ses plateformes et les atteintes à la sécurité des enfants. Le contexte international n’est pas plus clément : l’Australie, qui impose depuis décembre l’interdiction des réseaux sociaux aux moins de 16 ans, a déjà sommé des concurrents comme Character.ai de détailler leurs mesures de protection des mineurs. Meta anticipe, au moins sur le papier.
La mise en place d’une revue humaine systématique avant chaque alerte est un choix coûteux, et probablement non tenable à grande échelle si le volume de signalements explose. Tout le dispositif repose aussi sur un prérequis : que les parents aient activé la supervision, une démarche volontaire que beaucoup n’auront pas faite. La vraie inconnue, quand le déploiement mondial sera bouclé d’ici fin 2026, c’est le taux d’adoption réel de ces outils de supervision, et si Meta aura les moyens humains de tenir sa promesse de double vérification.
