La fin des trolls ? Cette IA veut balayer la haine hors de nos discussions

16 février 2023 à 11h40
17
© Shutterstock
© Shutterstock

Assainir les débats ayant une fâcheuse tendance à s'enflammer sur Internet ? C'est la volonté des chercheurs de l'université de Cornell.

Ils ont en ce sens développé une IA capable de déterminer dans des conversations en temps réel si la discussion prend une mauvaise tournure et de suggérer des moyens de désamorcer une potentielle bombe à retardement.

Un projet lancé sur Reddit (non, ce n'est pas du troll)

Les débats parfois très houleux sur Internet sont désormais un problème quotidien à très grande échelle. « Même les personnes avec les meilleures intentions du monde peuvent s'emporter sur un sujet qui leur tient à cœur, car nous sommes après tout humains », précise fort justement Jonathan Chang, étudiant en doctorat de science des ordinateurs et participant à la recherche.

Pour éviter autant que possible le point de bascule entre débat sain et déferlement de haine, des chercheurs de l'université de Cornell ont ainsi développé un outil baptisé ConvoWizard. Il s'agit d'une extension de navigateur alimentée par un réseau neuronal, nourri par de nombreuses discussions sur le subreddit « Change My View ».

Ce forum entend en effet favoriser des débats en bonne société sur des sujets parfois brûlants en rapport avec la politique, l'économie ou la culture, entre autres thèmes.

Mieux vaut prévenir que guérir

Les membres du subreddit peuvent ainsi activer ConvoWizard qui les informera en temps réel, alors même qu'ils tapent une réponse, des potentielles conséquences de leur message. Si les mots employés risquent de créer des tensions, l'outil avertira l'utilisateur par les éléments sensibles surlignés en rouge, l'encourageant à reconsidérer sa réponse.

Parmi les 50 utilisateurs sondés (il s'agit après tout d'un sujet de recherche à petite échelle), 68 % ont estimé que ConvoWizard présentait une analyse pertinente, voire meilleure que leur propre intuition. « Il est excitant de penser que des outils alimentés par l'IA comme celui-ci puissent encourager des discussions en ligne saines. Donner aux participants d'un débat la possibilité de s'autoréguler en utilisant sa propre intuition s'avère plus efficace que de les contraindre ou les censurer », explique l'un des chercheurs.

En parallèle de cette intelligence artificielle qui donne une chance aux utilisateurs de se rattraper avant de se lancer dans une escalade à la haine, les chercheurs de l'université de Cornell travaillent sur un autre outil similaire. Celui-ci s'adresserait aux modérateurs, qui sont parfois bien malmenés pour désamorcer des débats partis du mauvais pied (coucou les modérateurs de Clubic ❤).

Au vu de l'échelle de ces recherches, la fin des trolls n'est donc pas encore pour tout de suite. Mais c'est, on l'espère, un petit pas dans la bonne direction.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (17)

F4FEnder
C’est bien d’avertir les gens mais malheureusement le troll ou l’énervé permanent, lui il en a que faire. Au contraire, ça alimentera sa parano et dira "on est en dictature ".
Hyuril
lol ou le fameux: " oui mais… " Bonne journée @@++
merotic
Je n’aurais jamais cru qu’un film serait aussi visionnaire: « Demolition man »<br /> Tout le monde est gentil, tout le monde est bienveillant et personne ne conteste sinon c’est la vie de paria.<br /> Ce monde est un cauchemar en devenir.<br /> On met sous le tapis le réel pour faire un faux monde meilleur qui ne sera qu’une hypocrisie permanente.
qotzo
pour qui vote(rait) l’IA ?<br /> De la réponse on saura comment la haine sera balayée.<br /> Le modem ? Des loosers<br /> Le ps ? Des faux q<br /> Le LR ? Des gros méchants !<br /> Le R/FN ? Ah non !
Palou
Les modos de Clubic vont se retrouver au chômage alors <br /> →
nicgrover
Bientôt les débats « bisounours »…
Morlac
Est-ce qu’on pourrait pas déjà un moyen de bloquer les messages publies par des bots ?
Pernel
On vit dans une parodie, de plus en plus.
LedragonNantais
DING vous recevez une amende d’1 crédit pour infraction au code de moralité du langage.
Kriz4liD
Oh non … 80% de mes messages seront supprimés !
Side_a9
@Meroric Quand j’ai vu la news, j;ai tout de suite pensé a Demolition Man.<br /> Mais est-ce qu’on va avoir les coquillages?
Blackalf
merotic:<br /> Je n’aurais jamais cru qu’un film serait aussi visionnaire: « Demolition man »<br /> Tout le monde est gentil, tout le monde est bienveillant et personne ne conteste sinon c’est la vie de paria.<br /> Sauf que comme beaucoup , tu bloques un point précis du film. Parce que les « parias » du film voudraient, eux, pouvoir faire n’importe quoi n’importe comment et peu importe si c’est au détriment des autres. Ce que Stallone souligne lui-même à la fin en disant qu’il doit y avoir un juste milieu entre Bob (l’assistant du Dr Cocteau) le formaté et Edgar Friendly l’anarchiste.
pecore
Tragique lorsqu’on est bénévole, n’est ce pas ?
pecore
Ce qui serait drôle, voire hilarant, serait de créer des sites avec modération+ConvoWizard et des sites identiques, mais sans. Puis on attend et on voit sur quels sites les lecteurs et intervenants préfèrent se rendre.<br /> Allez Clubic, chiche on le fait.
Blackalf
Ce serait surtout tragique pour ceux qui ne viennent ici et fréquentent peut-être également d’autres endroits que pour se défouler, que feraient-ils de leurs vies, comment évacueraient-ils leurs frustrations diverses ?
pecore
Rassures moi, c’est ironique ?
Blackalf
Bien sûr, mais aussi réaliste. ^^<br /> Tu as été modo, tu sais comment sont certains membres.
Voir tous les messages sur le forum