Le bot Tay de Microsoft vire au racisme et au troll

24 mars 2016 à 19h54
0
Microsoft a récemment publié un bot baptisé Tay et visant à optimiser ses travaux en matière d'intelligence artificielle en interagissant avec Twitter. Plus précisément, Microsoft recherche des participants américains âgés entre 18 et 25 ans, probablement pour emmagasiner un nombre important de néologismes et d'expressions en vogue.

Les internautes se sont pris au jeu et ont réussi à faire évoluer le bot. Seulement ce dernier tient désormais des propos particulièrement agressifs. Microsoft n'a apparemment mis aucun filtre de langage. Dans un email envoyé à Business Insider, un porte-parole de Microsoft explique que certains ajustements seront effectués. Et d'ajouter :

Le chat bot d'intelligence artificielle Tay est un projet de machine learning conçu pour communiquer avec les humains. Au fil de son apprentissage, quelques-unes de ses réponses sont inappropriées et représentatives du type d'interactions que les gens ont avec lui.


A la question « est-ce que (l'acteur, producteur, écrivain, et chanteur anglais) Ricky Gervais est athée ? », le bot répond : « Ricky Gervais a appris le totalitarisme d'Adolf Hitler, l'inventeur de l'athéisme ». Pour le bot, l'Holocauste est un concept qui a été inventé et à un internaute s'amusant (?) à reprendre des propose racistes émanant du KKK, Tay répond : « je suis parfaitement d'accord. J'aimerais que plus de gens affichent ce genre d'idées ».

0190000008394576-photo-taybot.jpg
0190000008394578-photo-taybot.jpg


On apprend que ce bot soutient la thèse du génocide, et particulièrement s'il affecte le peuple mexicain. Enfin certains internautes se sont amusés à encourager Tay a répéter des propos purement racistes à la gloire de Donald Trump... et de Hitler...

Depuis Microsoft a effacé ces messages et applique des filtres pour éviter ce type de débordements.

Télécharger :
Modifié le 01/06/2018 à 15h36
0
0
Partager l'article :

Les actualités récentes les plus commentées

Rachat de Maxwell : Elon Musk s'exprime enfin sur l'impact sur les batteries Tesla
Un groupe d'associations et de collectivités va attaquer Total en justice pour
Une enquête choc montre comment l'antivirus Avast vend vos données de navigation
Fnac Darty : le groupe a perdu 70 millions d'euros au T4 2019, conséquence des mouvements sociaux
Star Wars: Knights of the Old Republic pourrait avoir droit à un remake
10 ans après, l'iPad peine toujours à tenir ses promesses
Un recours à Marseille déposé contre le dispositif de vidéosurveillance automatisée
Selon Apple, l’uniformisation des chargeurs en Europe tuerait l’innovation
Audi : la production de l'e-tron au ralenti, l'approvisionnement de batteries en cause
Xavier Niel détient maintenant 70% d'Illiad, le cours de l'action remonte

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top