À la rencontre de Norman, une IA psychopathe

le 10 juin 2018 à 10:41
 0
Alors que pour Elon Musk, l'IA pourrait mener à une guerre mondiale, les usages qui en sont faits sont souvent assez pratiques. Certaines sont capables de détecter des conversations qui dérapent, d'autres font les courses à votre place et certaines apprennent par simple curiosité à jouer à des jeux. Mais que se passerait-il si l'IA avait un côté plus sombre ?

C'est la question que se sont posés des scientifiques du MIT, qui ont créé une IA complètement psychopathe en l'exposant à des données graphiques et morbides.

Norman IA


Une intelligence artificielle psychopathe



Créée par des scientifiques du MIT dans le cadre d'une expérience, Norman est la première intelligence artificielle à voir le côté sombre des choses. Cette intelligence artificielle a été exposée aux "coins les plus sombre de Reddit" et est en fait une étude de cas sur les dangers de l'IA, dans le cas où des données biaisées sont utilisées pour nourrir les algorithmes de machine learning.

Concrètement, Norman est formée pour effectuer du sous-titrage d'images. Cette intelligence artificielle a été exposée à des données biaisées, provenant d'un Reddit dédié à "documenter et observer la réalité dérangeante de la mort". Ses réponses ont ensuite été comparées avec celles données par une intelligence artificielle plus habituelle, sur des taches d'encre de Rorschach, souvent utilisées par les psychologues pour évaluer l'état d'esprit d'un patient.

Là où l'IA "normale", voit un groupe d'oiseaux assis au sommet d'un arbre, Norman voit quelqu'un être électrocuté. Quand l'IA "normale" voit un couple de personnes debout côte à côte, Norman voit un homme sauter d'une fenêtre. Pour l'ensemble des taches d'encre, Norman s'est donc illustrée en proposant des descriptions très graphiques et morbides. Vous pouvez retrouver l'ensemble de ces descriptions sur le site dédié à Norman.

Norman IA


De l'importance des données pour l'IA



En fait, l'expérience visait à prouver que les données sont plus importantes que l'algorithme en tant que tel. Comme l'indique l'équipe de chercheurs sur le site de présentation, "lorsque les gens parlent des algorithmes d'intelligence artificielle qui sont biaisés et peu justes, le coupable n'est souvent pas l'algorithme lui-même, mais les données avec lesquelles il a été nourri". Il s'agit donc d'une étude de cas pour montrer que l'intelligence artificielle peut mal tourner en fonction des données de départ sur lesquelles elle se base. Une étude de cas plutôt réussie, n'est-ce pas ?

Par chance, VOUS pouvez aider Norman à aller mieux en remplissant un sondage permettant de nourrir Norman avec des descriptions moins négatives.

Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Dernières actualités

Celui qui fut une véritable star du web il y a quelques années est aujourd'hui évincé de toute part.
15:17 | Adobe Flash
D’après le blog japonais Macotakara, l’iPhone 11 (attendu à la rentrée) reprendrait à son compte « PowerShare », l’une des fonctionnalités du Galaxy S10. Le terminal serait en effet capable de recharger par induction d’autres appareils, notamment une Apple Watch ou des AirPods.
14:43 | iPhone
C’est à 18h ce soir qu’Apple va présenter ses plateformes de streaming vidéo et de presse écrite. Le constructeur va, comme à son habitude, retransmettre l’évènement en direct que nous résumerons et analyserons pour vous dans la foulée.
14:09 | Apple
Dans quelques heures, Apple tiendra une keynote en direct de Cupertino dans le but de dévoiler son service de presse ainsi que sa nouvelle plateforme dédiée au streaming vidéo. Mais avant cette grande présentation, plusieurs informations se sont retrouvées sur la toile...
13:35 | Apple
Vous n'avez jamais entendu parler du forfait mobile Free Veepee à 8,99€ par mois à vie ? Il est temps pour l'équipe Clubic Bons Plans d'intervenir. Vous avez de la chance, Free a décidé pour notre plus grand plaisir de prolonger cette offre jusqu'au 26 mars. Ne perdons pas de temps, nous allons tout vous dire.
13:16 | Bon plan
Dans le cadre de l’événement Pwn2Own 2019 >>, deux chercheurs ont été récompensés d'une Tesla Model 3, pour être parvenus à hacker... la Tesla Model 3 !
En janvier dernier, des rumeurs évoquaient déjà l'annonce probable de deux nouvelles versions pour la Nintendo Switch.
Comment choisir le meilleur sac à dos pour pc portable ?
Le constructeur chinois a annoncé le développement de deux modèles sous Android One, censés remplacer la gamme Mi A2. Ces appareils disposeraient d’un capteur d’empreinte intégré sous l’écran.
Le secrétaire d’État au numérique a salué le courage de Bruno Le Maire au sujet de la taxe Gafa et proposé des pistes pour lutter contre l’accès des mineurs à la pornographie, ce lundi sur BFM TV et RMC.
11:19 | Loi internet
On le sait bien, toutes les bonnes choses ont une fin ! Même si les opérateurs mobiles sont friands des prolongations sur leurs offres, chez Clubic Bons Plans, on préfère prévenir que guérir. On fait donc une petite piqûre de rappel au sujet de l'offre RED by SFR 40 Go pour 10€ par mois qui prend fin... ce soir !
10:59 | Bon plan
En Norvège, les taxis devront se convertir à l'électrique d'ici 2023, et auront la possibilité de faire le plein via un système à induction.
Renault va déployer une flotte de 15 ZOE à charge bidirectionnelle pour élaborer les futures offres de charge réversible du groupe.
Les principaux groupes pétroliers et gaziers cotés en Bourse ont dépensé plus d’un milliard de dollars depuis la fin de la COP21 pour mener leur stratégie lobbyiste.
09:35 | Énergie
Grâce aux nouvelles découvertes réalisées par Scott Sheppard et son équipe de l’Institut Carnegie pour la Science, Jupiter possède maintenant 79 lunes, aucune planète du système solaire n’en possède autant !
08:55 | Espace
scroll top