L'inquiétude monte à l'international vis-à-vis d'hypothétiques "robots tueurs"

Benoît Théry

12 août 2020 à 14h32

La saga Terminator a popularisé la question des « robots-tueurs »

Les robots-tueurs sont bien présents dans l'univers cinématographique, « The Terminator » étant certainement l'exemple le plus célèbre. Pourtant, alors que les armes pleinement autonomes se rapprochent de plus en plus de la réalité, Human Rights Watch alerte une nouvelle fois sur le besoin d'une législation.

À un moment où les drones de combat se développent, la société lance un nouveau message s'inscrivant dans sa campagne contre les « robots tueurs » et appelant à une interdiction globale des « armes entièrement autonomes ».

L'expression d'un « large éventail de préoccupations »

Le 10 août, Human Rights Watch a publié un rapport analysant les politiques menées par 97 pays depuis 2013. Concernant l'Hexagone, il précise ainsi : « La France reconnaît que la suppression du contrôle humain de l'usage de la force soulève des problèmes éthiques juridiques, opérationnels et technologiques complexes. […] En avril 2019, la ministre de la Défense Florence Parly a rejeté les appels à interdire "les systèmes d'armes qui pourraient agir sans aucune forme de contrôle humain", tout en précisant également que "la France refuse de confier la décision de vie ou de mort à une machine qui agirait de manière totalement autonome et serait au-delà tout contrôle humain." »

Le rapport doit exprimer un « large éventail de préoccupations » à l'échelle mondiale. Ses auteurs expliquent que les armes autonomes « pourraient décider de qui doit vivre ou mourir, sans les caractéristiques intrinsèquement humaines, comme la compassion, qui sont nécessaires pour faire des choix éthiques complexes. »

Human Rights Watch pointe également un flou juridique concernant la responsabilité des systèmes d'armes létales autonomes (SALA). En cas de crimes de guerre par exemple, faudra-t-il accuser le programmeur ou le militaire ? Une question déjà posée par d'autres organismes, notamment Amnesty International.

Une évolution inéluctable, mais progressive

Par conséquent, le secrétaire général des Nations Unies, António Guterres, a appelé les pays à agir concrètement, qualifiant les programmes avancés de « moralement répugnants et politiquement inacceptables ».

Mary Wareham, directrice du plaidoyer sur les armes au sein de l'organisation ajoute : « La suppression du contrôle humain sur le recours à la force est désormais largement considérée comme une menace grave pour l'humanité qui, comme le changement climatique, mérite une action multilatérale urgente. »

Selon le rapport, une trentaine de pays, parmi lesquels le Brésil, le Chili et l'Autriche, se sont déjà engagés pour l'interdiction des armes létales autonomes. Mais un pays qui ne s'engage pas dans cette course à l'armement prend le risque d'un déclassement stratégique, et la plupart des pays les plus influents s'y sont lancés il y a déjà longtemps. Dans le cas de la Russie ou des États-Unis, le rapport d'Human Rights Watch évoque ainsi des « investissements importants » dans « divers systèmes d'armes autonomes. »

Le 22 juillet, les deux députés Fabien Gouttefarde (LREM) et Claude de Ganay (LR) ont présenté un rapport un peu plus rassurant, affirmant qu'« à ce jour, les systèmes d’armes létaux autonomes n’existent pas », bien que les systèmes d'armes autonomes soient de plus en plus automatisés. Pour eux, des systèmes comme les plateformes SGR-A1 installés à la frontière entre les deux Corées sont présentés comme des systèmes autonomes, mais ne le sont pas pleinement.

Les deux élus estiment également que si cette évolution vers des armes totalement autonomes est inéluctable, elle se fera progressivement. « Hasta la vista, baby », ce n'est donc pas pour tout de suite.

Source : New York Post, Human Rights Watch, La Croix, Amnesty International

Benoît Théry

Je veux tout savoir, et même le reste. Je me passionne pour le digital painting, la 3D, la plongée, l'artisanat, les fêtes médiévales... Du coup, j'ai toujours des apprentissages sur le feu. Actuellem...

Lire d'autres articles

Commentaires (30)

cirdan

La course à l’armement, c’est développer des techniques qui permettent de tuer (pardon, éliminer les menaces, c’est plus correct) le plus efficacement possible. Partant de ce principe, on peut penser que toutes les industries militaires de notre pauvre planète font de la recherche en armes autonomes depuis longtemps, sans trop en parler parce que c’est le genre de chose qui passe mal dans l’opinion publique. On a même l’impression que ceux qui s’inquiètent des conséquences passent pour de sympathiques idéalistes. Et c’est bien dommage.

SlashDot2k19

Comme dit en fin d’article, effectivement c’est inéluctable. Les pays qui ne se lancent pas dedans seront dépassés par ceux qui les utilisent. La fuite en avant comme elle existe pour tous les autres différents domaines.

zomurn

C’est un progrès technologique. Plutôt que d’envoyer de la chair humaine, les robots s’attaqueront entre eux. C’est déjà le cas dans l’espionnage, la guerre se passe sur internet. L’arme nucléaire ne servant qu’a dissuader l’ennemi. La guerre avec des fourches a foin de paysans, ou des fusils a baïonnette du moyen âge, c’est terminé.

vidarusny

C’est une vision plus idyllique… De mon point de vue, à cette époque de réchauffement climatique de raréfaction de l’eau potable, la seule conséquence c’est plus de guerre. Et dans toutes les guerres il y a des victimes collatérales et donc des pertes humaines. Enfin la morale de la seconde guerre reste que la violence ultime même contre les civils préserve des vies, il faut en finir tôt et vite pour sauver le maximum de personnes… Que de risque… mais le ROBOT contre ROBOT n’évitera pas la chair humaine…

fladnag

nikon561

l’un n’empeche pas l’autre. que ce soient des robots qui soient en gagés, pas de problemes, MAIS ils doivent etres controlés par des humains au moment de faire l’usage de l’armement. c’est bien un humain qui doit prendre et assumer la decision de l’emploi de l’arme. qu’un drone soit capable de decoller, suivre un plan de vol, detecter une menace et alerter, puis revenir et atterrir en 100% autonome, aucun soucis, mais si, durant ce vol, il emploi de l’armement, alors seul un humain doit , en live, appuyer sur le bouton.

quezako

Si vous parlez de la bombe atomique, c’est faux.

zomurn

Je ne suis pas vraiment d’accord sur le fait que « c’est toujours un humain en bout de chaîne qui donne les ordres ». Dans Terminator, les humains sont planqués, les robots se font la guerre. L’humain ne sert a rien contre des robots. Il ne peut que se cacher. C’est pour ça qu’on parle de robot vs robot. Le robot est la seule façon de se défendre et la seule façon d’attaquer sans risquer sa peau. C’est un progres de l’humanité, tout se joue sur la dissuasion « m’as tu vu que je t’ai vu ? » …

chabgyver

Je préfère avoir affaire à un robot tueur qu’à un humain tueur, dans le premier cas, je n’aurai aucun scrupule à lui défoncer la tête avec tout ce que j’aurai sous la main, alors qu’un humain, tueur ou non,ça reste un humain

vidarusny

Euh, pourrais-tu être plus précis dans ta réponse SVP?

Titilleur

Mille pardons mais les armes à feu ce n’est pas au Moyen-Age et les « fusils à baïonnette » ne datent que du XVIIIe siècle. Par contre, si le sujet est bien la place de l’humain dans le choix, pensez-vous que les soldats aient jamais eu le choix ? Tuer ou être tué, les fraternisations furent rares et fortement réprimées…

Titilleur

Qu’est-ce-que la guerre ? Qu’il s’agisse d’envahir ou de « se protéger », de détruire ou de « sauver » ; ce sont toujours certains voulant imposer leur volonté à d’autres par la force. Si vous avez peur que l’avenir tourne à la guerre de tous les robots contre tous les humains, c’est que vous supposez que toute l’humanité est dans un même camp ; sinon, les « destructions massives » et généralisées par des armes hors de contrôle présupposent qu’il n’y a plus d’armes conventionnelles ni de contre-mesures pour en venir à bout. Il me semble que nous pouvons faire confiance à l’humain dans son pouvoir de destruction supérieur à celui des machines qu’il crée. Par contre, je ne pense pas que l’armement en général soit un progrès au XXIe siècle même s’il le fut (peut-être) quand les animaux de la nature prenaient l’humain comme gibier. Actuellement, le seul progrès serait un désarmement généralisé…

JerryKhanFury

les Robots Tueurs et les Robots Policiers bien bien, comme ça fini les accusations de violence policière.

juju251

vidarusny: Enfin la morale de la seconde guerre reste que la violence ultime même contre les civils préserve des vies, il faut en finir tôt et vite pour sauver le maximum de personnes… Tu pourrais expliquer ce que tu veux dire par là ? Je ne suis pas sûr de bien comprendre la logique …

Sinic

Je crois -mais je peux me tromper- qu’il fait référence à Hiroshima/Nagasaki. L’un des arguments avancés par Truman, c’est qu’en lachant les bombes, les Etats-Unis ont mis fin plus rapidement à la guerre et ont évité un débarquement au Japon, ce qui aurait pu faire plus de victimes que les bombes. (… alors qu’en réalité, il s’agissait d’abord d’impressionner les Russes).

sebzuki

Si on résonnait comme ça pour tout, on serait déjà mort ^^

nirgal76

Si c’est pour se battre avec des robots et des drones, autant régler le conflit sur BattleField

KlingonBrain

@SlashDot2k19 Comme dit en fin d’article, effectivement c’est inéluctable. Les pays qui ne se lancent pas dedans seront dépassés par ceux qui les utilisent. La fuite en avant comme elle existe pour tous les autres différents domaines. Tout à fait. Avec le risque de se prendre une attaque d’une armée de robots auquel on ne pourra pas faire face. @zomurn C’est un progrès technologique. Plutôt que d’envoyer de la chair humaine, les robots s’attaqueront entre eux. Ne présumons pas de cela. Ne soyons pas naïfs. Ce ne sont pas les habitants qui intéresseront les attaquants, mais les ressources et les territoires. Car partout, la surpopulation s’installe. Des territoires qu’ils auront tout intérêt à purger de leurs habitants pour y installer les leur. Ne faites pas l’erreur de croire que parce que vous ne le feriez pas, d’autres raisonneront de la même façon. @vidarusny De mon point de vue, à cette époque de réchauffement climatique de raréfaction de l’eau potable, la seule conséquence c’est plus de guerre. Ne vous laissez pas polluer par la comm’ écologiste qui veut créer des peurs. Cela ne se produira pas, pour la simple raison que la terre est littéralement recouverte d’eau. Et qu’elle suit un cycle, on ne la détruit pas. Par contre, la surpopulation est la lutte pour d’autres formes de ressource sera une cause évidente de guerre. @chabgyver Je préfère avoir affaire à un robot tueur qu’à un humain tueur, dans le premier cas, je n’aurai aucun scrupule à lui défoncer la tête avec tout ce que j’aurai sous la main, alors qu’un humain, tueur ou non,ça reste un humain Dans le contexte d’un champ de bataille et dans l’état d’esprit d’un soldat, vous n’hésiteriez pas une seule seconde. Et si tant est que vous sortiez de l’entrainement en gardant quelques états d’âme, voir quelques potes se faire dézinguer devant vous aurait tôt fait de vous les enlever.

Blackalf

chabgyver: Je préfère avoir affaire à un robot tueur qu’à un humain tueur, dans le premier cas, je n’aurai aucun scrupule à lui défoncer la tête avec tout ce que j’aurai sous la main, alors qu’un humain, tueur ou non,ça reste un humain Alors tu ne survivrais pas Parce que là où l’humain est susceptible de faire une erreur et te laisser une chance, le robot n’en fera pas ^^ Quant à tuer un humain qui voudrait sans équivoque vous tuer, ça s’appelle de la légitime défense…et pour ceux qui en ont encore, de l’instinct de conservation

remy9991

si on compare un robot tueur a une IA, le robot tueur est un cure dent et l’IA est l’armageddon.

vidarusny

Le problème est que dans les faits les japonais aurait pu abandonner bien avant… D’autant que la famine décimait le pays,qu’il n’avait plus d’alliés de poids et plus l’avantage des fronts multiple.Trinité aurait pu suffire, mais ce n’était que du cinéma pour l’empereur, Hiroshima pas suffisant. Donc peu importe la véritable raison, les faits donne raison a Truman. De plus, la logique de la force brute a été appliqué par les allemands avec la blitzkreig, ou les alliés qui pensaient atteindre très rapidement Berlin après le débarquement… Combien de victimes collatérales dans ces attaques pour mettre fin rapidement à une guerre… Alors soyons honnête plus de soldats et le risque de boucherie est véritable, et a grande échelle, avec une vitesse fulgurante, les problèmes logistiques serait fortement restreint les besoins de repos restreint…

vidarusny

KlingonBrain: Ne vous laissez pas polluer par la comm’ écologiste qui veut créer des peurs. Cela ne se produira pas, pour la simple raison que la terre est littéralement recouverte d’eau. Et qu’elle suit un cycle, on ne la détruit pas. Par contre, la surpopulation est la lutte pour d’autres formes de ressource sera une cause évidente de guerre. Allez dire ça aux pays de plus en plus arides. Ce n’est pas parce que l’eau est abondante qu’elle est potable. Ou à nos agriculteurs en manque d’eau… Potabilisé l’eau aura un coup énergétique important, un accès à la mer nécessaire pour garantir un accès quasi continue… enfin l’eau ce n’est pas l’électricité,elle est compliqué à déplacer à grande échelle. Mais tu as raison, elle n’est qu’une excuse comme une autre…

Blackalf

vidarusny: Allez dire ça aux pays de plus en plus arides. Ce n’est pas parce que l’eau est abondante qu’elle est potable. Ou à nos agriculteurs en manque d’eau… Exact, et lorsqu’on voit des chiffres, ça remet les choses en perspective http://www.spge.be/fr/l-eau-dans-le-monde.html?IDC=1300#:~:text=L’eau%20couvre%20environ%2070,le%20nom%20de%20planète%20bleue.&text=Il%20ne%20reste%20donc%20que,c’est%20donc%20très%20peu.

newseven

Allez les robots Liberté pour les être cybernétique . You so robophobic human .

gamez

Il existe déjà des « robots tueurs autonomes », produits et commercialisés par les « grands » pays. Certes, ils sont statiques mais assez efficaces, on les nomme mines antipersonnel. efficace? non pas du out, n’importe qui peut sauter en mettant le pied dessus (homme, femme, enfant, animal, véhicule) quelque soit le camp auquel il appartient, sans distincition. c’est pas ce que j’appelle efficace et encore moins « robot », sinon on pourrait aussi appeler les grenades, des robots tueurs aussi…

Sinic

jedi1973

pas sur qu’en ce moment, ca soit les robots violents qui preocupent la population :!! plutot de la racaille sans foi ni loi qui se croit tout permis ( agression, vol, violence, etc.) . LEs robots tueurs, ca sera peut etre pour dans 30ans… d’ici la, on a des choses bien plus urgente a s’occuper… si on est toujours vivnat… face au covid et son eventuel seconde vague… les robots seront la derniere chose qu’on s’ inquietera…

Demongornot

Ça c’est le genre de choses totalement fausse que Hollywood à encré dans la tête des gens. Contrairement à ce qu’on pense, plus une IA est intelligente, moins elle est dangereuse, et le plus gros danger d’une IA ne vient pas d’elle même, mais des utilisation que ceux les contrôlant pourrait en faire, simplement car c’est un outil permettant d’avoir un potentiel énorme dans virtuellement n’importe quel domaine. Une IA ne peux PAS devenir consciente et une IA ne peux PAS raisonner de façon « il faut que je détruise l’humain car il me considère comme une menace ». Le seul danger que l’IA représente d’elle même, c’est qu’elle ne soit pas assez intelligente et ne comprenne pas certain contextes ou alors de continuer sur la voix des réseau neural artificiel qui eux, peuvent donner des résultats chaotique et imprévisible, surtout si on décide de vraiment recopier le fonctionnement du cerveau (ce qui est encore plus difficile qu’on ne le pense pour pleins de raisons que même beaucoup d’experts en IA oublient totalement), dans ce cas, l’IA pourrait en effet agir comme un être vivant avec tout les défauts qui vont avec, comprenant la violence irrationnelle. Mais les réseau neural artificiel sont une technologie qui atteint vite une certaine limite pour plusieurs raisons complexes et qui ont un rendement décroissant exponentiel par rapport au niveau d’intelligence qu’on lui demande. Après tout c’est un simple algorithme qui va, avec un algorithme génétique par exemple, simplement prendre les meilleurs valeurs pour automatiser une tâche précise. Autrement dit, c’est très bien pour qu’une chose un minimum assez simple se fasse tout seul sans qu’on ai besoin de programmer toute la structure complexe du logiciel, mais c’est très mauvais pour espérer simuler une vrais intelligence, et heureusement, car c’est sûrement la seul forme d’IA qui est potentiellement dangereuse. L’IA c’est sûrement ce qui sauvera l’humain de sa propre stupidité.

KlingonBrain

Les faux écologistes font exactement comme tous les partis, c’est à dire de jouer sur les peurs des gens pour tenter de se hisser au pouvoir en laissant croire qu’ils seraient la solution. Une communication que je résumerait par : Votez pour nous, sinon vous aurez l’apocalypse, les nuées de sauterelles, la peste, le choléra et la ch’touille martienne… peur, peur, peur, peur… Au contraire, je ne nie pas du tout les problèmes que vous décrivez. Mais le débat c’était de savoir si l’on va manquer d’eau un jour au point de faire la guerre, ce qui une question complètement différente. Contrairement aux écologistes extrémistes, je pense que la technologie humaine et le marché peuvent y faire face en douceur sans qu’on en arrive a des scénario apocalyptique. Nul besoin de tomber dans la peur ou les mesures extrémistes punitives parce que les pays ayant un niveau technologique correct possèdent déjà les solutions techniques pour y faire face. J’ai vécu dans des pays ou l’eau est bien plus rare qu’ici. Des pays ou le concept d’eau courante fonctionnant en permanence n’existe pas. Donc je sais qu’on possède une immense marge avant que nos besoins vitaux ne soient en danger. Dans certains pays, on utilise beaucoup l’eau pour la simple raison qu’elle est abondante. Le jour ou il y en aura moins, on en consommera moins. Dans les pays ou il y en a très peu, les gens en consomment très peu. Si la situation d’un pays change, les habitudes changeront. Quand bien même toutes les ressources hydriques du pays seraient épuisées, le dessalement d’eau de mer peut suffit à fournir ce minimum vital. Et c’est déjà ce qui se passe dans certains pays ou les ressources hydriques naturelles sont quasiment inexistantes. Mais je parle ici d’extrême. Parce qu’en France, rien que l’eau des toitures serait vraisemblablement suffisante pour produire ce minimum. On peut également parler de l’humidité de l’air qu’on arrive à extraire avec des dispositifs relativement artisanaux. Je connait de longue date des entreprises françaises qui ont un énorme savoir faire en terme de traitement d’eau. Croyez le ou non, les spécialistes du traitement de l’eau sont capable de faire de l’eau potable à partir de quasiment n’importe quoi. Et à partir de choses bien pire que de l’eau de mer. Parce que j’ai eu entre les mains des livres écrits par des des ingénieurs de ce domaine, je sais qu’il existe déjà un énorme savoir faire face à ces problématiques. Ce qui me dérange profondément chez les (faux) écologistes, c’est qu’ils agitent les peurs pour se présenter comme la solution, avec un discours culpabilisant digne des religions. Alors que la solution, ce n’est pas eux, mais la technologie, les ingénieurs et les chercheurs qui l’apportent déjà naturellement au moment ou le marché le demande. Dans les pays ou les zones ou les ressources hydriques diminuent, les prix de l’eau augmentent progressivement. Les gens adaptent leur consommation au fur et à mesure. L’homme s’adapte aux conditions comme il l’a toujours fait. C’est déjà le cas en France ou l’eau devient plus rare et plus chère. Pour ma part, je suis déjà équipé depuis belle lurette de solutions pour économiser l’eau. Et c’est le cas aussi de la plupart de mes voisins.

KlingonBrain

Vous savez, quand on faisait de l’IA il y a 40 ans, beaucoup de gens disaient comme vous plein de choses sur ce que l’IA était ou n’était pas, ce quelle pouvait faire ou ne pouvait pas faire. Et bien si vous regardez ces affirmations avec un peu de recul, il y a de quoi sourire. Bien sûr, l’IA n’est pas une vraie conscience. Mais pour ma part, je n’irais pas jusqu’à jurer qu’elle ne pourrait jamais arriver à une conclusion selon laquelle il faudrait éliminer l’homme. Cela étant dit, vous avez parfaitement raison sur le fait que c’est d’abord les hommes qui pourraient utiliser l’IA dans ce but.

KlingonBrain

En matière d’écologie, c’est dommage, j’ai l’impression qu’il faut être soit dans la négation la plus totale (ou dans votre cas, imaginer des solutions que ne le sont pas), ou être écologiste à fond les balons et rien voir d’autres. C’est fatiguant cette dualité >.< C’est la ou l’on peut comprendre qu’on est face à un phénomène religieux. Typiquement, ceux qui n’adhèrent pas a la propagande extrémiste de l’organe de pensée unique sont vus comme des apostats, donc des mécréants. Cela alors même qu’au final, tout ces gens qui se dont découvert écolo un beau matin ne comprennent pas grand chose a cette idée. Je précise que je votait écolo quand beaucoup ici n’étaient pas né. Mais manque de pot, il en va de même pour votre hypothèse de dessalement, autant le processus se rôde petit à petit via les nouveaux filtres à membrane, autant je crois que vous n’avez pas conscience de la quantité d’eau énorme que nous utilisons. Pour boire, certes,pourrait fonctionner (notez le « pourrait », pas mal de chance que je me plante). Mais je vous rappelle qu’il n’y a qu’au Qatar qu’il y a des usines de dessalement en vu de faire de la culture. Et … On va pas dire que ce pays est l’exemple même du pays pauvre et écologique Comme toujours, la réponse à un problème est toujours multiple. Cultures plus économiques en eau, meilleure captation des ressources existantes, changement dans les habitudes de consommation, moins de gaspillages, etc, etc, etc. Je pense qu’on pourrait passer des jours à parler de toutes les solutions. Le fait qu’on utilise énormément d’eau aujourd’hui et maintenant ne veut pas dire qu’on ne peut pas faire autrement le jour ou les conditions vont changer. Comme dit plus haut, il suffit d’avoir vécu dans un pays beaucoup moins pourvu en eau pour comprendre qu’il existe d’autres façon de vivre, beaucoup plus économes en eau. Miser tout la dessus, c’est tout bonnement aller à l’extrême de ce que vous dénoncer par les « écologistes extrémiste ». Je suis navré, mais vous allez tout autant dans l’autre extrême pour faire valoir un point de vu, et le tout sans trop de connaissance techniques… Et pourtant, comme dans tous problème, ce sont bien les techniciens qui apportent les solutions, pas les faiseurs de discours pseudo écolo qui roulent dans des grosses bagnoles, ni les gamines suédoises en mal de notoriété qui lancent des fatwa vertes en faisant surtout couler l’encre de la presse putaclic. A propos de connaissances, vous seriez surpris de la façon dont certaines entreprises agro alimentaires produisent dans des pays peu fournis en eau. Et qui exportent leur production ici. Vous n’avez simplement pas idée de tout ce qu’on peut faire en matière de culture ou d’autonomie. Moi ce qui me désole, c’est que vous sauter sur tout et n’importe quoi pour dénoncer cette soit disant « peur » que vous avez. Et je dis bien VOUS avez. Personnellement, je trouve toutes les déclarations sensées, avec des études derrières, et des preuves irréfutables. Il suffit d’aller gratter les relevés à travers le monde des nappes phréatiques. La pénurie d’eau qui nous guette, tout comme le réchauffement, c’est pas pour faire peur, comme le grand méchant loup pour les enfants. C’est réel. Chacun est libre de penser ce qu’il veut. Une opinion ne se démontre pas et ne s’érige pas en vérité mathématique. Je vous ai exposé la mienne, vous m’avez donné la votre. Je n’y consacrerais pas plus de temps, je terminerais ce sujet la dessus. Même en se basant sur des études sérieuses, réelles, incontestables et démontrées, tenter de prédire le futur en prolongeant des courbes d’un trait de crayon a presque toujours mené à des prédictions complètement fausses. Rappelez vous du bug de l’an 2000 ou de toutes les prédictions sur le « peak oil ». Ou encore celles sur la fin de l’amélioration de la finesse de gravure des semi conducteurs. Quand bien même le raisonnement est sérieux et n’oublie pas des paramètres(ce qui n’est pas formellement démontrable), il n’est valable qu’en supposant qu’on ne va pas et/ou qu’on ne peut pas y apporter de réponse. Ce qui bien entendu… ne se produit jamais dans la vraie réalité grâce à la créativité humaine. Quand un problème devient réalité et pas juste une peur hypothétique fabriquée sur un bout de papier, il aboutit presque toujours à des solutions créatives auquel personne n’avait pensé. Ce qui rends les pronostics pessimistes complètement faux dans la très grande majorité des cas. Vous parlez de peur. Mais de quoi devrais-je avoir peur ? De moyens de transport non polluants comme le vélo, le roller ou la marche à pied que j’ai toujours pratiqué ? D’un mode de vie utilisant très peu d’eau que j’ai déjà connu ? D’une vie plus simple et proche de la nature que j’ai toujours plébiscité ? De la fin de cette époque pitoyable de l’objet jetable que j’ai toujours déploré ? De la fin d’un système productif qui n’enrichit qu’une minorité ? Ceux qui ont peur aujourd’hui sont ceux qui ont découvert l’écologie en tant que phénomène à la mode il y a peu de temps par la communication de quelques « vendeurs de soupe électorale qui fait peur » pas ceux qui y s’intéressent à l’écologie depuis des décennies et connaissent bien les problèmes et les solutions. Mais il ne faut pas confondre l’écologie et la pseudo écologie qui n’est qu’un prétexte pour nous taxer en nous culpabilisant et à produire encore plus d’obsolescence programmée pour tenter de sauver un système capitaliste à bout de souffle. La vraie écologie, ça ne consiste pas juste à changer de voiture pour un modèle électrique ou à débrancher son téléphone portable. C’est un changement complet de système politique et économique pour mettre fin à un système esclavagiste qui oblige l’homme à s’agiter, à polluer pour produire toujours plus, à se lever le matin avec l’obligation de créer de nouveaux besoins inutiles et futiles. L’écologie, c’est une vision libératrice pour l’homme, profondément de gauche et humaine. Soit tout l’opposé de la pseudo écologie punitive, fascisante, détestant l’homme et bien de droite bourgeoise que certains tentent de nous vendre en exploitant le prétexte écologique… D’ailleurs, c’est facile de voir que tous les politiques qui se découvrent une fibre écolo par pur carriérisme n’y comprennent à peu près rien. Je ne parle même pas de leur mode de vie. Je vous souhaite une bonne soirée et une bonne continuation.

Demongornot

Après l’IA, disons simplement que c’est mon truc, je ne prétendrais pas être pro ni expert ou autre, mais simplement que j’arrive à appréhender certaines choses, qui me semble très logique, qui ont l’air d’échapper à beaucoup, incluant expert dans le domaine. Je pourrais écrire l’équivalent de plusieurs livre en quantité sur le sujet, la moitié expliquant justement en quoi les gens se trompent généralement en parlant de l’IA, pourquoi ils pensent ça et quel sont les faits. Puis ma façon très particulière d’appréhender les sujets fait que en générale quand je fais des affirmations, j’ai très rarement tord, après c’est internet, même si j’écrivais une chose aussi simple que « 1+1=2 », d’autre trouverais à y redire, voila pourquoi j’ai arrêter d’exposer mes idées ou de trop rentré dans les détails sur mes affirmations, rien que les derniers commentaires que j’ai fait, j’ai dit des choses aussi simple et logique que « 1+1=2 » et pourtant ça n’empêche pas les autres d’essayer venir contester tout ça… La conscience est une chose encore très méconnue, littéralement on ne sais presque rien dessus, une chose est sûr par contre, une IA aussi performante qu’elle soit restera une suite mathématique logique, très complexe serte, mais logique, un transistor ne fera que donner des 1 et 0, il n’y à simplement aucun point d’entrée pour qu’une conscience, peux importe d’ou vienne le phénomène, en imaginant qu’il puisse exister dans un ordinateur, pour qu’il affecte de quelconque façon les calculs, en fait, si une IA développer une conscience, personne le saurais, ça ne serrais qu’un « observateur passif » car contrairement au cerveau, où le fait de se rendre compte de notre propre conscience est la preuve qu’elle affecte bel et bien nos pensées, rien dans l’ordinateur ne le permettrait. Après avec un ordinateur quantique ou une puce cybercognitive (physiquement reproduisant de façon hardware les réseau neurale artificiels) je ne dit pas, mais une apocalypse par ce qu’une IA sur un ordinateur standard, ou même un supercalculateur, c’est juste de la science fiction. C’est pareil pour éliminer quelqu’un, il faudrait au moins implémenté une logique de survie. Bon après, je parle d’une IA n’étant PAS conçu pour nous tuer hein, par ce que ça on peux faire une IA volontairement conçu pour faire un génocide humain, je parle bien d’une IA générale absolument pas conçu pour ça. Dans ce cas, arrivé à cette conclusion serrait simplement un manque d’intelligence flagrant de l’IA qui n’arriverais pas à la réalisation que son existence à pour but de nous servir, et que donc, on n’as aucune raison de la détruire, et là encore c’est uniquement si elle a un instinct artificiel, un code la forçant à chercher n’importe quelle solution pour assurer son existence, ce qui serrait aussi stupide de programmer qu’une IA tueuse. Le danger c’est plus une IA pas assez intelligente qui ne ferait pas le rapprochement entre un ordre « lave cette ville » et le fait que c’est justement pour les humain que la ville doit être propre, donc, que l’IA pourrait s’attaquer à la source du problème étant les humains la salissant. Une IA n’as pas de sentiments même si elle pourrais très bien les simuler, et à moins de le programmer, elle ne peux pas se sentir « exploitée » non plus. Ce qui est effrayant, c’est que beaucoup de personnes en pouvoir de décider ce que les IA devraient ou ne devrais pas être/faire n’en savent finalement pas beaucoup sur le sujet… Le nombre de personnes pensant que les « 3 lois de la robotique » étant une chose réelle est très impressionnant, malgré que c’est un auteur de science fiction qui a établie ces 3 lois pour justement prouvé qu’elle ne fonctionner pas, et en faire une histoire. De la même façon que la peur des IA trop intelligente à cause des films comme Terminator, ou 2001 L’odyssée de l’Espace, finalement peux être la chose qui causerais des problèmes car on se retrouverait avec des IA pas assez intelligentes pour justement faire la logique sur des choses indésirable. Une IA très intelligente elle appréhendera la psychologie humaine et pourra facilement faire mieux que ce qu’on attend d’elle, voir proposera d’elle même des solution alternative encore meilleurs, et il n’y a pas de limite ou une IA deviendrait « trop » intelligente pour notre propre bien, c’est l’inverse qui ce produirait. SAUF, si l’IA est mal programmée et est pleins de bugs ou faille de sécurité et/ou de conflict de logique ou autre, mais là aussi, le type d’IA que l’on conçoit est très déterminant dans son fonctionnement et les possible problèmes. Ça ne fait aucun doute que les IA avec capacité d’auto apprentissage sont la meilleur route vers les IA générale très intelligente, mais ça serrait une erreur de continuer avec les réseau neural artificiels. Mais là encore, le plus gros risque reste en effet l’utilisateur.

Voir tous les messages sur le forum

L'inquiétude monte à l'international vis-à-vis d'hypothétiques "robots tueurs"

L'expression d'un « large éventail de préoccupations »

Une évolution inéluctable, mais progressive

A découvrir en vidéo

Commentaires (30)

Top app & logiciels

Sur le même sujet