Google a un plan anti-Terminator pour détruire les IA malveillantes

le 06 juin 2016 à 13h23
0
Des chercheurs chez Google travaillent sur un dispositif permettant de déconnecter une intelligence artificielle dès que l'homme risque d'en perdre le contrôle.

Le machine learning se développe de manière grandissante et les algorithmes d'intelligence artificielle sont implémentés un peu partout. Les grandes sociétés high tech en parlent de plus en plus et certaines entendent les démocratiser au travers de chatbots ou d'assistants virtuels intégrés soit dans les téléphones, soit directement au sein du foyer.

Dans certains domaines, l'intelligence artificielle surpasse déjà les humains. En mars par exemple, Lee Sedol, classé troisième mondial au jeu de Go, s'était fait battre par l'algorithme de Google AlphaGo.


L'objectif principal du machine learning est de mettre en place des algorithmes permettant aux machines d'apprendre par elles-mêmes dans le but d'automatiser les traitements. Pour développer ces travaux, en janvier 2014, Google a fait l'acquisition de la société DeepMind, fondée en 2010 par le spécialiste des neurosciences Demis Hassabis ainsi que Jaan Tallin anciennement développeur de Skype et Kazaa.


DeepMind travaille étroitement avec les chercheurs de l'université d'Oxford et l'équipe planche actuellement sur un dispositif afin d'empêcher que les algorithmes ne prennent le contrôle eux-mêmes du dispositif en bloquant l'accès aux humains.

035C000008463526-photo-ban-ia.jpg


Dans une étude (PDF), les chercheurs expliquent qu'« il est peu probable qu'une intelligence artificielle se comporte strictement de manière optimale avec un l'environnement complexe du monde réel ». Les chercheurs ajoutent qu'il est nécessaire de mettre en place « un gros bouton rouge pour éviter que les agents (NDLR : d'intelligence artificielle) ne continuent des séries d'actions nuisibles  ».

Google décrit alors un mécanisme d'interrupteur pour forcer l'arrêt d'une intelligence artificielle sans que cette dernière ne puisse apprendre d'elle-même son fonctionnement et éventuellement le stopper.
Modifié le 01/06/2018 à 15h36
Mots-clés : Nouvelles technologies
Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Les dernières actualités

Lyft propose une nouvelle fonctionnalité de sûreté : un bouton d'appel aux services d'urgence
Notre-Dame : quand le partage de données aide à la restauration
Le Sénat vote l'application de la taxe GAFA sur les géants du numérique
Adobe Premiere Rush est disponible sur Android
Selon Jim Ryan, Death Stranding, The Last of Us II et Ghost of Tsushima sortiront sur PS4
Une agence de l'ONU juge que les assistants personnels renforcent les préjugés sexistes
Lancement des 60 premiers satellites Starlink : comment regarder le décollage en direct
Une application Steam Chat débarque sur iOS et Android
Black Mirror : les trailers des 3 épisodes de la prochaine saison
Huawei P30 Lite vs Google Pixel 3a : lequel est le meilleur pour moins de 400 € ?
scroll top