Google a un plan anti-Terminator pour détruire les IA malveillantes

06 juin 2016 à 13h23
0
Des chercheurs chez Google travaillent sur un dispositif permettant de déconnecter une intelligence artificielle dès que l'homme risque d'en perdre le contrôle.

Le machine learning se développe de manière grandissante et les algorithmes d'intelligence artificielle sont implémentés un peu partout. Les grandes sociétés high tech en parlent de plus en plus et certaines entendent les démocratiser au travers de chatbots ou d'assistants virtuels intégrés soit dans les téléphones, soit directement au sein du foyer.

Dans certains domaines, l'intelligence artificielle surpasse déjà les humains. En mars par exemple, Lee Sedol, classé troisième mondial au jeu de Go, s'était fait battre par l'algorithme de Google AlphaGo.


L'objectif principal du machine learning est de mettre en place des algorithmes permettant aux machines d'apprendre par elles-mêmes dans le but d'automatiser les traitements. Pour développer ces travaux, en janvier 2014, Google a fait l'acquisition de la société DeepMind, fondée en 2010 par le spécialiste des neurosciences Demis Hassabis ainsi que Jaan Tallin anciennement développeur de Skype et Kazaa.


DeepMind travaille étroitement avec les chercheurs de l'université d'Oxford et l'équipe planche actuellement sur un dispositif afin d'empêcher que les algorithmes ne prennent le contrôle eux-mêmes du dispositif en bloquant l'accès aux humains.

035C000008463526-photo-ban-ia.jpg


Dans une étude (PDF), les chercheurs expliquent qu'« il est peu probable qu'une intelligence artificielle se comporte strictement de manière optimale avec un l'environnement complexe du monde réel ». Les chercheurs ajoutent qu'il est nécessaire de mettre en place « un gros bouton rouge pour éviter que les agents (NDLR : d'intelligence artificielle) ne continuent des séries d'actions nuisibles  ».

Google décrit alors un mécanisme d'interrupteur pour forcer l'arrêt d'une intelligence artificielle sans que cette dernière ne puisse apprendre d'elle-même son fonctionnement et éventuellement le stopper.
Modifié le 01/06/2018 à 15h36
0 réponses
0 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

Linky : pour l'ANFR, les Equipements Radio des compteurs sont sans danger pour la santé
Toyota : 50% des véhicules vendus au premier semestre étaient des hybrides-électriques
La NASA détecte un trou noir très inhabituel qui vient contredire nos théories sur l’univers
Contre-nature ou nécessité absolue ? Un ventirad pour Raspberry Pi fait son apparition
La Russie veut armer ses mini-drones de terrain... et ça ne fait pas vraiment rêver
La France va créer son commandement militaire de l'espace
La Zone 51 envahie ? L'armée américaine pourrait répondre par la force
Streaming vidéo : le coût écologique serait désastreux, selon l'association The Shift Project
Pour ou contre : la Nintendo Switch Lite est-elle (vraiment) une bonne idée ?
Neuralink : Musk annonce que la start-up est prête à tester sa technologie sur des humains
scroll top