Un député LREM veut inscrire une référence aux Lois de la robotique dans la Constitution

18 décembre 2020 à 17h11
28
lesrobots.jpg

Le député de l'Essonne Pierre-Alain Raphan (LREM) veut faire inscrire dans le préambule de la Constitution une référence à la « Charte de l'Intelligence Artificielle et des algorithmes 2020 », dont l'article 2 cite clairement les trois Lois de la robotique, inventées par Isaac Asimov.

Le texte, soumis à l'Assemblée nationale le 15 janvier, a notamment pour objectif de responsabiliser juridiquement les créateurs de systèmes d'intelligence artificielle.

De la responsabilité juridique de l'IA

Cette proposition de loi constitutionnelle, présentée par Pierre-Alain Raphan (LREM) et consultable dans son intégralité, regroupe cinq articles sous la forme d'une « Charte de l'Intelligence Artificielle et des Algorithmes ».

Le premier article tente, comme ceci, une définition assez sommaire de l'intelligence artificielle : « La notion d'Intelligence Artificielle est entendue ici comme un algorithme évolutif dans sa structure, apprenant, au regard de sa rédaction initiale ».

Le texte souligne ensuite l'impossibilité, pour un tel système, d'être doté d'une personnalité juridique et note que la responsabilité d'une IA vis-à-vis de la loi incombe à ceux qui en ont la propriété : « Les obligations qui découlent de la personnalité juridique incombent à la personne morale ou physique qui héberge ou distribue le dit système, devenant de fait son représentant juridique ».


Les Lois de la robotique, version 2020

Mais c'est bien le second article de cette Charte qui nous intrigue, tant il pourrait sembler incongru à un lecteur français d'Isaac Asimov qui aurait mis les mains sur Les Robots à la fin des années 1960.

En effet, l'article propose qu'un « système [ une IA, donc ] tel que définit dans l'article 1 » :

« - Ne peut porter atteinte à un être ou un groupe d'êtres humains, ni, en restant passif, permettre qu'un être ou un groupe d'êtres humains soit exposé au danger ;

- Doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec le point précédent ;

- Doit protéger son existence tant que cette protection n'entre pas en conflit avec les deux points précédents
 ».

Or, les Lois de la robotique écrites de la main d'Asimov et apparues dans les librairies américaines pour la première fois en 1950, sont inscrites ainsi :

« - Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger,

- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi,

- Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi
 »

Une référence assumée par le député, évidemment, qui fait mention d'Isaac Asimov au début du texte. Il y souligne aussi les raisons de l'importance de cette Charte : « Le Législateur doit se saisir de ces questions majeures et de leurs enjeux potentiels. C'est pourquoi, cette loi a pour ambition de prévenir un retard irrattrapable dû à des outils créés par quelques individus mais impactant le plus grand nombre ».
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
28
18
nicgrover
Ah LREMA La République En Marche… Arrière<br /> Et le robot disait « OUI Chef ! »
Vanilla
Quand est-ce qu’on va arrêter de payer tous ces députés qui ne servent à rien ?<br /> Et je ne blague même pas…
gwlegion
en soit les lois de la robotique telles que decrites par asimov sont bien pensées … mais les modifications que propose ce deputé sont inaplicables, et propice aux bugs.<br /> Il dit :<br /> « - Ne peut porter atteinte à un être ou un groupe d’êtres humains, ni, en restant passif, permettre qu’un être ou un groupe d’êtres humains soit exposé au danger ;<br /> Sauf que la premiere loi d’asimov laisse le choix a l’ia en cas de probleme simultanés avec plusieurs humains … exemple, deux humains sont en danger en meme temps. Le robot ne peux pas forcement sauver les deux, mais avec la loi modifiée, le groupe est en danger donc il a l’obligation de sauver les deux …<br /> paradoxe quand tu nous tiens.<br /> avec les lois d’asimov, l’IA sauvera celui qui a le plus de chances de survie, puis tentera de sauver l’autre.<br /> Avec la loi telle que presentée, l’IA plantera et ne sauvera personne.<br /> En soi faire une loi visant a limiter les futures IA, dans une epoque ou leur develloppement est balbutiant n’est pas une mauvaise chose, mais c’est une histoire de specialites … pas de politiques.
MisterGTO
Tout à fait mais au moins il tente de lancer le débat avant qu’il ne soit trop tard<br /> Je pense que son idée est certainement dans cette optique la.
Styxou
Et la loi zéro ?
NOTHAN
Je ne voudrai pas être méchant, mais :<br /> En ce moment il n’y a pas de chose plus utile voire plus importante que la loi sur la robotique ?
gwlegion
dans plusieures decenies … c’est valable que pour des IA bien plus avancées que ce qu’on peut imaginer actuellement …<br /> Et ca implique de leur faire plus confiance qu’aux humains pour diriger le monde …
Papy440
C’est bien d’avoir lu 3 pages d’un livre d’Asiimov sans se cacher de l’avoir repris et surtout sans en avoir compris le sens. La prochaine, il faudra lire le livre entièrement et peut être qu’ils verront que ces 3 lois ne suffisent pas à cadrer un système (une IA donc) qui est capable de penser par lui même.
Kaggan
Les lois de la robotique d’Asimov ? Vous voulez parler du truc qu’Asimov a écrit avant de le défoncer lui même dans ses bouquins pour montrer que ça ne marche pas ? Ce député devrait vraiment lire les livres d’Asimov au lieu de proposer n’importe quoi.
jeanlucesi
Pendant que cet inutile et couteux personnage divague avec ces lamentables propositions le ministre Espagnol de la sécurité sociale propose de faire venir des millions de migrants.<br /> Franceinfo – 16 Jan 20<br /> L'Espagne aura besoin de "millions et de millions de migrants" dans les...<br /> "Les trajectoires démographiques sont là. Ca va arriver, on n'y échappera pas", a déclaré le ministre de la Sécurité sociale, de l'inclusion et des migrations.<br />
MisterGTO
C’est quoi le rapport ?
jeanlucesi
C’est ça le problème tu ne le vois pas.
MisterGTO
C’est surtout qu’il n’y a aucun rapport<br /> Tu commences déjà la propagande pour l’élection de 2022?
jeanlucesi
On a l’impression que la plupart des gens de notre beau continent ni voient rien ou ne veulent pas voir.<br /> Tout ce qui intéresse les « grands » de ce monde c’est de faire un max de fric avec si possible des gens malléables en concurrence les uns avec les autres.
Alaric_Morgan
Je crois que le brave homme devrait lire TOUS les livres ( les ‹ robots › et les ‹ fondations ›) car si Asimov a bien créé ces lois c’est pour mieux les démonter tout au long de ses romans. L’ultime démonstration de la possibilité de perversion de ces lois est le film ‹ i robot ›.<br /> Bien à vous.<br /> M.
Mrpolnar
C’est qui ces « grands »? Allez au bout du raisonnement.
Philippe_Poignant
Isaac Azimov, le Robot qui rêvait… Nous, on a le député qui marchait ! Vers où ? Vers nulle part !!!
POP1
Les lois sur la robotique élaborées par Izamov sont prématurées à utiliser car inadéquates en ce moment en raison des paradoxes qui apparaissent car, à l’époque, la robotique était balbutiante. Il est donc inopportun de croire que les rendre utilisables seraient une erreur.<br /> Une étude approfondie des capacités actuelles des robots doit être faite afin d’adapter le mieux possible ces lois qui doivent être inattaquables pour être utilisées.<br /> L’avenir nous le dira.
gwlegion
disons qu’a l’heure actuelle, le systeme informatique pour lesquelles ces lois auraient un interet n’a pas eté imaginé …<br /> C’est bien beau, mais avec le deep learning, on est encore tres loin d’un systeme capable de pensée …<br /> donc on peut s’interesser a ces lois, mais ca reste encore tot …<br /> Et plutot que de les quantifier, il aurais peut etre eté plus interessant de faire quelque chose de plus global …<br /> En ce sens, le premier article est plutot bien pensé … juste indiquer qu’un systeme informatique ne peut etre penalement responsable, et que c’est a son proprietaire de s’assurer qu’il ne presente pas de dangers …
philouze
Le legislateur est précisément là pour faire ce que le spécialiste ne va pas s’imposer (par curiosité, intérêt, cupidité, ou ignorance)<br /> Je trouve contraire très sain qu’un député se penche sur la question, il fait son job, une PROPOSITION de loi.<br /> C’est aux spécialistes ensuite de proposer d’enrichir, amender, ou invalider de façon motivée la proposition.<br /> Je vois des tonnes de critiques et quolibets là dessous, sur Clubic, alors qu’on devrait se féliciter autant de la démarche , même si elle peut paraitre naïve, que de ses références.
gwlegion
cette facon de faire est une perte de temps …<br /> le legistlateur propose un truc sur un sujet tres technique, sans s’appuyer sur personne de competent … il ne peux pas pondre un truc correct.<br /> puis cette proposition doit etre reprise par des gens competents, afin de faire un truc correct, pour enfin peut etre avoir une loi descente …<br /> pourquoi au lieu de proposer directement un loi, le legislateur n’ouvre pas la discussion avec les gens competent afin de proposer une loi directement recevable ?<br /> j’veux dire: j’suis pas un specialiste … loi de la. Et deja, je vois le paradoxe dans la loi qu’il presente. Pour un specialiste, ca sera juste risible …<br /> du coup, pourquoi ces gens ne s’entourent pas de personnes competentes avant d’ecrire n’importe quoi ?<br /> C’est pas moi qui ai sorti a l’assemblée nationale qu’il fallais obliger les gens a utiliser le firewall d’openoffice dans le cadre d’adopi …les tech info du monde entier n’ont pas fini d’en rire !<br /> me fais pas croire qu’elle a fais relire son discour par quelqu’un d’un tant soi peu calé en info … meme un utilisateur un peu curieux aurais pu lui dire
JayaM
Cette impression d’'avoir vue quelques films comme I Robot, I.A, Gemini etc etc nos hommes politiques finissent par penser avec une Intelligence vraiment Artificielle… I.A passe d’abord par l’homme non, faites une loi qui ferait respecter que l’homme aurait des limites à ne pas dépasser pour continuer vers un Monde robotisé 100%
gwlegion
lis les livres, et tu comprendra pourquoi beaucoup de monde en reve …<br /> C’est utopique, mais comme beaucoup d’utopie, c’est attirant.
Voir tous les messages sur le forum

Actualités du moment

WhatsApp : Facebook rétropédale sur l’implémentation de publicités
Xavier Niel fait de l'opération de rachat d'actions d'Iliad un succès
Soldes Amazon: Bénéficiez d'un coupon de réduction sur la caméra de surveillance Victure 1080p
Alphabet dépasse le cap du trillion de dollars de capitalisation
Une ONG accuse YouTube de favoriser la propagation de fake news sur le changement climatique
Soldes Darty: Quel est le meillleur compromis enceinte JBL Xtreme Vs Marshall Acton?
CES 2020 : notre récap' des annonces TV, un marché qui bouillonne
Les start-up françaises n'ont jamais autant levé de fonds
Xbox annonce l'arrivée du
La NASA envisage de construire des habitats sur Mars à partir de champignons
Haut de page