Stephen Hawking met en garde face aux dangers de l'intelligence artificielle

05 mai 2014 à 12h42
0
Dans une tribune co-signée avec trois autres scientifiques, le physicien Stephen Hawking tire un signal d'alarme concernant l'intelligence artificielle, et conseille fortement de prendre son développement très au sérieux.

00FA000007079020-photo-cortana.jpg
Cortana, l'IA de Halo désormais dans les Windows Phone
Souvent mise en avant dans les films de science-fiction - notamment Transcendence, qui sortira en juin dans les salles françaises - l'intelligence artificielle prend une place de plus en plus concrète dans le quotidien. Une situation qui doit être surveillée selon quatre scientifiques : le physicien Stephen Hawking, le professeur en sciences informatiques Stuart Russel et les professeurs du MIT Max Tegmark et Fran Wilczek. Dans une tribune publiée sur The Independent, ils s'inquiètent de savoir si « le développement de l'intelligence artificielle est réellement pris au sérieux. »

Citant l'ordinateur Watson d'IBM, les voitures intelligentes de Google ou encore les assistants vocaux comme Siri ou Cortana, les scientifiques estiment que « ces réalisations feront sans doute pâle figure par rapport à ce que les prochaines décennies apporteront. » Mais au-delà des bénéfices d'une telle évolution technologique, il ne faut pas sous-estimer les inconvénients : « Développer avec succès l'intelligence artificielle pourrait être le plus grand événement dans l'histoire de l'humanité. Malheureusement, ce pourrait aussi être le dernier » estime la tribune, qui part d'une éventualité qui n'est pas nouvelle, à savoir celle où l'IA se retournerait contre son créateur.

« On peut imaginer que cette technologie soit capable de déjouer les marchés financiers, de dépasser les scientifiques humains, de manipuler les dirigeants et développer des armes qu'on ne puisse pas comprendre. L'incidence à court terme de l'intelligence artificielle dépend de celui qui la contrôle, mais, à long terme, cela dépend de la possibilité concrète de la contrôler. »

Or, selon le quatuor de chercheurs, si le développement de l'intelligence artificielle est au cœur de multiples recherches, peu s'intéressent à la question de la maitrise d'une telle technologie. « Nous devrions tous nous demander ce que nous pouvons faire maintenant pour augmenter les bénéfices et esquiver les risques » estiment les 4 scientifiques, mais ce n'est concrètement pas le cas aujourd'hui.

Un constat inquiétant et concret, qui devrait pousser les chercheurs impliqués dans l'IA autant que le grand public à réfléchir à l'évolution d'une telle technologie. Si la fiction s'interroge depuis longtemps - Her est l'un des derniers films en date à ce sujet - il serait désormais grand temps de se poser le même genre de question dans la réalité.

Modifié le 01/06/2018 à 15h36
0 réponses
0 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

Tesla : Elon Musk a tranché, la Gigafactory 4 sera construite en Allemagne, préférée à la France
Le Japon va-t-il vraiment déverser de l’eau radioactive dans l’océan ?
Il faudrait 20 ans pour bâtir une ville habitable sur Mars, d'après Elon Musk
BMW s'intéresse de près à la charge bidirectionnelle
Un TER n’émet pas toujours moins de CO2 qu'une voiture ou un autobus !
Windows 10 : la mise à jour (1909) de novembre 2019 est là !
À Marseille, un radar en test mesure le niveau de pollution des véhicules
Pornhub blacklisté par PayPal, qui ne veut plus servir d’intermédiaire pour payer ses contributeurs
L'Assemblée adopte la surveillance des réseaux sociaux par l'administration fiscale
Plombé par son coût environnemental, le projet géant EuropaCity tombe à l'eau

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top