Google a un plan anti-Terminator pour détruire les IA malveillantes

06 juin 2016 à 13h23
0
Des chercheurs chez Google travaillent sur un dispositif permettant de déconnecter une intelligence artificielle dès que l'homme risque d'en perdre le contrôle.

Le machine learning se développe de manière grandissante et les algorithmes d'intelligence artificielle sont implémentés un peu partout. Les grandes sociétés high tech en parlent de plus en plus et certaines entendent les démocratiser au travers de chatbots ou d'assistants virtuels intégrés soit dans les téléphones, soit directement au sein du foyer.

Dans certains domaines, l'intelligence artificielle surpasse déjà les humains. En mars par exemple, Lee Sedol, classé troisième mondial au jeu de Go, s'était fait battre par l'algorithme de Google AlphaGo.


L'objectif principal du machine learning est de mettre en place des algorithmes permettant aux machines d'apprendre par elles-mêmes dans le but d'automatiser les traitements. Pour développer ces travaux, en janvier 2014, Google a fait l'acquisition de la société DeepMind, fondée en 2010 par le spécialiste des neurosciences Demis Hassabis ainsi que Jaan Tallin anciennement développeur de Skype et Kazaa.


DeepMind travaille étroitement avec les chercheurs de l'université d'Oxford et l'équipe planche actuellement sur un dispositif afin d'empêcher que les algorithmes ne prennent le contrôle eux-mêmes du dispositif en bloquant l'accès aux humains.

035C000008463526-photo-ban-ia.jpg


Dans une étude (PDF), les chercheurs expliquent qu'« il est peu probable qu'une intelligence artificielle se comporte strictement de manière optimale avec un l'environnement complexe du monde réel ». Les chercheurs ajoutent qu'il est nécessaire de mettre en place « un gros bouton rouge pour éviter que les agents (NDLR : d'intelligence artificielle) ne continuent des séries d'actions nuisibles  ».

Google décrit alors un mécanisme d'interrupteur pour forcer l'arrêt d'une intelligence artificielle sans que cette dernière ne puisse apprendre d'elle-même son fonctionnement et éventuellement le stopper.
Modifié le 01/06/2018 à 15h36
0 réponses
0 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

De nouveaux modèles climatiques ont été créés... et la situation est pire que prévue
Stallman quitte la Free Software Fundation après la divulgation d'emails évoquant l'affaire Epstein
Ça y est, le Fold est disponible en France... pour 1,6 SMIC (net).
Des défauts de fabrication découverts sur six réacteurs nucléaires en activité en France
OVNI : l'US Navy avoue (enfin) avoir filmé des objets aériens non identifiés
En Californie, Donald Trump tente d’annuler la loi sur les limites d'émissions de CO2
iPhone 11 / 11 Pro : les premiers tests sont en ligne, 2019 est-il un bon cru ?
Le TGI de Paris invalide la clause de non-revente de jeux dématérialisés de Steam
Avec sa Model S, Tesla aurait battu le record de la Porsche Taycan sur le circuit de Nürburgring
Analogue présente un DAC audio/vidéo pour brancher vos vieilles consoles sur une TV moderne

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top