🔴 LE BLACK FRIDAY EN DIRECT !

Une ex-employée de Google alerte sur le danger de robots armés uniquement contrôlés par l'IA

21 septembre 2019 à 13h40
8
drone essaim

Une ancienne employée de Google alarme sur le développement de robots tueurs totalement autonomes, pouvant « lancer une guerre ou causer des atrocités massives » accidentellement.

Laura Nolan, ingénieure informatique de haut niveau, avait démissionné de Google l'année dernière pour protester contre le développement de ce type de technologies.

Interdire les robots de guerre autonomes

Laura Nolan avait, en démissionnant, accusé Google de travailler sur des projets permettant de « considérablement augmenter » la puissance et la technologie des drones militaires de l'armée américaine.

Elle avait alors appelé à l'interdiction formelle et totale de machines militaires fonctionnant grâce à un système d'intelligence artificielle sans intervention humaine. Pour l'ingénieure, ces robots de guerre devraient être contrôlés en vertu des mêmes lois internationales que les armes chimiques, note The Guardian.


Laura Nolan, qui a rejoint le groupe Campaign to Stop Killer Robots, s'est exprimée devant un panel de diplomates à New-York et Genève à propos du danger des robots tueurs autonomes. « La probabilité d'un désastre est proportionnelle au nombre de ces machines se trouvant au même endroit en même temps. Vous avez affaire à des possibles atrocités et à des massacres illégaux, même sous les lois de la guerre, surtout si des centaines ou des milliers de ces machines sont déployées », a-t-elle affirmé.

Des milliers d'employés de Google s'insurgent contre le Projet Maven

Après une période de quatre ans à travailler pour l'entreprise, Laura Nolan est devenue l'une des principales ingénieures de Google en Irlande, en 2017. Elle devait travailler sur le Projet Maven, un partenariat controversé entre l'armée américaine et le géant de la tech, ayant pour ambition d'utiliser l'intelligence artificielle développée par Google sur une flotte de drones autonomes munis de caméras. En juin 2018, le Projet Maven a été abandonné par l'entreprise, notamment suite à la signature d'une pétition par plus de 3 000 de ses employés alertant sur les dangers d'une telle technologie.


Malgré sa démission, Laura Nolan explique que des armes autonomes bien plus dangereuses sont encore développées par des entreprises telles que Google et que celles-ci pourraient avoir des conséquences désastreuses. Elle affirme que des forces extérieures et des éléments inattendus, comme un simple changement soudain de météo, pourrait rendre ces machines incontrôlables et extrêmement dangereuses.

Source : The Guardian
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
8
8
nicgrover
Skynet arrive…
nirgal76
“Vous avez affaire à des possibles atrocités et à des massacres illégaux”…ouais, une guerre quoi, elles se passent ainsi depuis des milliers d’années.
Fodger
J’allais le dire ! Les romans et films d’anticipation c’est pas pour les chiens ! Nous sommes vraiment gouvernés par des cons.
KlingonBrain
Une ex-employée de Google alerte sur le danger de robots armés uniquement contrôlés par l’IA<br /> C’est vrai qu’avec un humain taré aux commandes, on se sent tout de suite plus rassuré…<br /> …ou pas.
KlingonBrain
Ceux que nous élisons sont par définition les crabes qui ont reussi à surnager au dessus du panier.<br /> Ce sont les meilleurs “compétiteurs”, les meilleur démagogues, mais rarement ceux qui ont les meilleures qualités morales et un vrai projet.
icejedi
Le truc, c’est qu’un système informatique fini en général toujours par bugguer à un moment ou à un autre, sans compter les risques de piratage.
Al_Jardine
Un lien avec le fait que ce soit une « ex » employée …?
Niverolle
Bah ce que je constate au quotidien (car on utilise déjà des IA au quotidien pour le traitement et l’analyse, par exemple pour identifier les individus à leur démarche), c’est que le contrôle par un humain n’est qu’un vœu pieux. En effet, si l’expertise en data science de l’équipe qui supervise le drone est limitée, personne ne va jamais remettre en cause l’analyse de l’IA.<br /> Car, il faut bien comprendre que le nœud gordien de cette histoire, c’est que l’IA est irrésistiblement sexy pour nos énarques : outre qu’elle ne mange pas de pain, et qu’elle est super rapide, elle permet surtout de se débarrasser des experts qui ont justement la légitimité pour dire “non” ou pire “monsieur le président, vous ne comprenez pas que vous ne comprenez pas”.<br /> Car il faut bien comprendre qu’un réseau de neurones n’est pas un système “compliqué” mais bien un système “complexe”. Ce n’est pas une petite nuance, car cela veut dire que le réductionnisme n’est plus d’aucune aide pour en appréhender le fonctionnement et que nous somme dans l’impossibilité d’apporter une quelconque preuve de programme. Dit autrement, on est incapable de garantir que ça ne va pas m…r, n’y même d’expliquer ce qui c’est exactement passé suite à une m…e. L’exemple le plus fameux étant la Tesla qui file sans la moindre hésitation sous une remorque de camion, probablement (tout est dans ce “probablement”) par interprétation abusive de l’obstacle en simples panneaux de circulations situés au dessus des voies.<br /> Mais pour moi, le piège le plus important, et qui est déjà en train de ce refermer, c’est que l’on prend la mauvaise habitude de se reposer sur ces IA, sans même essayer de percer le secret de leur efficacité. Car dans bien des cas, elles font mieux que ce qu’un expert obtiendrait avec des outils mathématiques plus classiques (mais parfaitement compris eux).<br /> Et si on pousse le raisonnement jusqu’au bout, cela donne : pourquoi continuer à réfléchir si j’ai une IA qui peut le faire à ma place ?
Saulofein
LOL, tes fameux films d’anticipation sont basés sur de la fiction… ne prend pas l’imagination débordante de certains romanciers pour des prédictions fiables…
Blackalf
Saulofein:<br /> ne prend pas l’imagination débordante de certains romanciers pour des prédictions fiables…<br /> Certains ont pourtant eu le nez vraiment creux ^^<br /> En 1946, bien avant Internet, l’écrivain américain Murray Leinster a écrit ceci :<br /> Dissidences : le blog<br /> Murray Leinster, Un Logique nommé Joe (A logic named Joe),...<br /> Un billet de Jean-Guillaume Lanuque (III) Murray Leinster (1896-1975), de son vrai nom William Fitzgerald Jenkins, est ce qu’on peut appeler un vétéran de la science-fiction étatsunienne : il a en effet commencé à publier au lendemain de la...<br />
Saulofein
Et combien de fausses prédictions pour une qui tomba à peu prés juste? Ne généralisons pas…
Blackalf
Et c’est bien pourquoi j’ai écrit “Certains ont pourtant eu le nez vraiment creux”<br /> Où est la généralisation ?
Fodger
Rien à voir, un roman, film d’anticipation est une projection futuriste en tenant compte de l’état de la société contemporaine, c’est une source importante de réflexion pour anticiper les dérives, menaces.<br /> Tu n’as qu’à lire le meilleur des mondes par exemple.
Voir tous les messages sur le forum

Actualités du moment

Le mois d'octobre sera celui du Cybermoi/s en France
Uber renforce la sécurité de ses courses aux US avec la fonctionnalité RideCheck
Des planètes pourraient tourner autour d'un trou noir plutôt que d'une étoile
Tinder prépare une série qui va vous faire swiper pour décider de l'histoire
Des chercheurs élaborent un ordinateur probabiliste, plus puissant et plus économe
La série Le Seigneur des Anneaux d'Amazon sera tournée en Nouvelle-Zélande
Un hôtel spatial promet de la gravité artificielle et une salle de gym à ses futurs clients
Passer les scènes
🔥 Forfait mobile : le grand retour de l'offre Free 60 Go à 8,99€/mois
Un continent
Haut de page