Reddit lance un hub IA pour aider les modérateurs à mieux faire respecter les règles

Reddit a annoncé l’ouverture de son Rules Hub à toutes les communautés nouvellement créées. Automod se limitait à des mots-clés ; avec ce nouvel outil, Reddit confie à un grand modèle de langage l’interprétation de l’intention des règles. Testé depuis plusieurs mois sur plus de 700 communautés, le dispositif précède un déploiement plus large prévu dans les prochains mois.

Automod repérait des mots ou des motifs précis, écrits parfois des années plus tôt par un modérateur depuis disparu. Avec le Rules Hub, un modérateur rédige sa règle en phrases ordinaires, par exemple interdire le harcèlement déguisé en plaisanterie, et Reddit charge un grand modèle de langage d’en apprécier l’intention derrière chaque publication, plutôt que de chercher des mots-clés isolés. Chaque équipe décide ensuite du sort réservé à une règle déclenchée. Une publication peut atterrir dans la file d’attente pour un examen humain, ou disparaître directement, filtrée ou supprimée sans qu’un modérateur intervienne. Avant d’activer une règle, un modérateur peut la tester sur d’anciennes publications, puis consulter des journaux, le compte-rendu détaillé de chaque décision automatisée.

Le patron de Reddit critique l’ancien système de mots-clés

Steve Huffman, directeur général de Reddit, a critiqué l’ancien système lors de l’annonce. Selon des propos cités par IBTimes UK, l’Automoderator était « difficile à apprendre, difficile à maintenir » pour la plupart des équipes bénévoles, dépendantes de règles de mots-clés fragiles que peu de monde savait entretenir. Des modérateurs du Mod Council Network, un groupe consultatif interne à Reddit, ont participé aux phases de test menées ces derniers mois. Reddit reconnaît toutefois que les communautés les plus vastes ou les plus complexes ne recevront pas l’outil immédiatement. Le déploiement complet attendra.

Le service compte aujourd’hui plus de 130 millions de visiteurs quotidiens et plus de 100 000 communautés actives. Le Rules Hub doit à terme absorber une partie des tâches confiées jusqu’ici à l’Automoderator, épaulé par deux dispositifs déjà en service, Post and Comment Guidance et Safety Filters. Le premier avertit les utilisateurs des règles applicables au moment de publier ou de commenter. Comme on vous en avait parlé il y a un mois, Reddit avait mobilisé l’intelligence artificielle pour repérer les faux comptes et les campagnes coordonnées, avec un délai de réaction ramené sous les cinq secondes entre la détection d’un compte suspect et la sanction.

Reddit restreint aussi l’accès à son ancienne interface

Sur sa lancée, Reddit a réservé l’accès à Old Reddit, son ancienne interface, aux seuls comptes connectés. Comme en 2023 lorsqu’il avait rendu l'accès à son API payant, à un tarif jugé dissuasif par de nombreux développeurs. Les modérateurs de plus de 2 500 communautés avaient alors fermé leurs subreddits en signe de protestation, et plusieurs applications tierces, comme Apollo, avaient disparu faute de pouvoir absorber les nouveaux coûts.

Trois ans plus tard, Reddit a lancé un programme de migration doté d’un million de dollars, soit environ 920 000 euros, pour aider les développeurs restants à basculer vers son nouveau Developer Platform. Le groupe promet aussi de réduire le poids du karma pour les nouveaux utilisateurs. Ce système de points conditionne aujourd’hui la capacité à publier sur de nombreuses communautés.

Une porte-parole de Reddit, Rosa Kim, affirme que le Rules Hub restera optionnel pour les communautés existantes, sans retrait brutal des outils actuels. Selon une étude récente de la Wharton School sur la confiance accordée par le public aux décisions automatisées, huit utilisateurs sur dix valident une décision rendue par une intelligence artificielle.