Robocop is coming : la police de San Francisco veut autoriser ses robots à tuer

Alexandre Boero
Chargé de l'actualité de Clubic
26 novembre 2022 à 11h00
32
Talon, un robot qui fait partie du SFPD (© U.S. Army photo by Sgt. Lorie Jewell x Clubic)
Talon, un robot qui fait partie du SFPD (© U.S. Army photo by Sgt. Lorie Jewell x Clubic)

Le département de police de San Francisco milite auprès du conseil de surveillance de la ville pour donner à ses robots le pouvoir de tuer des suspects.

La lecture du titre et du chapô de cet article pourrait vous donner un sourire ironique et vous faire penser qu'il se cache un loup derrière cette actualité, mais non, il n'y a rien de plus sérieux. Depuis le début de l'année, le San Francisco Board of Supervisors (le conseil de surveillance de la ville) étudie la requête de la police locale, le SFPD, qui veut que ses robots puissent obtenir un permis de tuer.

La très faible opposition des autorités locales

Parmi les éléments de la nouvelle politique de la police de San Francisco, qui doit préciser comment elle peut être autorisée à utiliser des armes de type militaire, le recours à la force robotique est plus que présent. Et l'insistance est de mise.

Dans un premier temps, l'un des trois superviseurs du comité du conseil de surveillance de la ville, Aaron Peskin, a ajouté une mention précisant que « les robots ne doivent pas être utilisés comme recours à la force contre qui que ce soit. » Sauf que dès la semaine suivante, le SFPD a renvoyé une nouvelle version du texte, barrant d'un épais trait rouge la modification précédemment apportée par M. Peskin, doyen du conseil de surveillance.

Dans sa version actuelle donc, le texte prévoit que « les robots ne seront utilisés comme une option de force mortelle que lorsque le risque de mort pour des citoyens ou des officiers est imminent et l'emporte sur toute autre option de force disponible ».

Des robots déjà prêts à entrer en action

En d'autres termes, le projet étudié par la municipalité de la City by the Bay attribue bien aux robots une autorisation de donner la mort. Même Peskin, un temps frondeur, a décidé de se ranger du côté de la police, sous prétexte qu'« il pourrait y avoir des scénarios où le déploiement d'une force létale constituerait la seule option ».

San Francisco et son célèbre cable car (© Alexandre Boero)
San Francisco et son célèbre cable car (© Alexandre Boero)

Le comité des règles de San Francisco a approuvé à l'unanimité le texte, désormais dans les mains du conseil de surveillance de la ville, qui en discutera dans quelques jours, le 29 novembre. Si Aaron Peskin s'est laissé convaincre, ce n'est pas le cas des opposants à la militarisation de la police. « Ce n'est pas normal. Aucun professionnel du droit ou résident ordinaire ne devrait continuer comme si c'était normal », s'offusque Tifanei Moyer, avocate principale du Lawyers's Committee for Civil Rights of the San Francisco Bay Arena, un organisme à but non lucratif.

Aujourd'hui, le SFPD dispose d'une flotte de 17 robots télépilotés, dont 12 sont pleinement fonctionnels. Ils n'ont encore jamais été utilisés pour attaquer qui que ce soit, même si certains modèles Remotec possèdent il est vrai un système d'armes en option, et que d'autres peuvent charger un fusil de chasse de calibre 12. Habituellement, ils sont télécommandés pour enquêter et désamorcer des bombes potentielles, ou alors pour remplacer les agents sur des terrains de surveillance trop difficiles d'accès.

La nouvelle politique qui fait tant débat prévoit, en plus de donner le droit de tuer, d'autoriser les robots à être utilisés durant des formations ou simulations, mais aussi en cas d'arrestations criminelles, pendant l'exécution d'un mandat ou pour évaluer la dangerosité d'appareils suspects. Si la police de San Francisco essaie de minimiser au maximum la potentielle utilisation mortelle d'un robot, le fait de franchir ce cap, d'un point de vue légal, est tout de même assez inquiétant.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (32)

Squeak
Si on parle de robots commandés à distance, ce n’est qu’une extension de l’arme que l’on a au bout du bras. Je suppose que le système est quand même difficile à pirater pour éviter qu’un hacker n’en prenne le contrôle et s’en serve pour une tuerie de masse par exemple.
gemini7
Huh, un « Robocop » télépiloté, donc ils feront encore des différences entre Blancs et Noirs.<br /> Je me demande si une intelligence artificielle, n’aurait pas mieux valu.<br /> En fin, je suis contre ce genre de déploiement de robot tueurs dans la police, je peux « encore » comprendre ça dans l’armée, mais à peine !
nicgrover
Imaginons une prise d’otages dans une école par un blanc ou un noir ou un gris qui menace de tuer les 25 enfants… que doit faire le robot ?<br /> Bon contre le petit dealer du quartier il n’y a pas de raison ni contre le mec qui pique une orange à l’étalage… Il ne faut pas oublier la sauvagerie des gangs qui pourrissent la vie des citoyens et qui n’hésitent pas à tuer eux…
Kriz4liD
« Tuer des suspects »<br /> Oui un suspect reste un suspect ! Le tuer puis dire ensuite « ah désolé, il n a vraisemblablement rien à voir avec cette affaire ! Notre robot a merdé mais c’est pas grave »
Martin_Penwald
Techniquement, ce n’est pas le robot qui décide de lui-même de tirer. C’est juste un drone commandé par un être humain.<br /> Bon, après, c’est inquiétant dans la mesure où les polices aux États-Unis sont pourries de fachos entraînés à tuer. Faites une recherche sur ”killology” juste pour voir.
AfricanJoker
Un robot piloté par un humain n’est rien d’autre qu’une nouvelle technologie (une évolution de la pratique) mise en place pour tuer.<br /> Comme on le fait déjà avec les drones pilotés à 1000 km’s. C’est un écart volontaire entre les actions et les conséquences de celles-ci afin d’en limiter les impacts psychologiques et ne pas rendre les humains responsables de leurs actes. (Aucun sentiment de rien, celui-ci peut réitérer indéfiniment).<br /> Une volonté d’évincer simplement l’humain de l’équation et l’homme du côté de la loi qui était sur le terrain est ici remplacé. Mais heureusement, dans ce cas-ci, ça reste l’humain qui prendra les décisions, pas le robot.<br /> Bien que l’article ne le mentionne pas, je pense que c’est important de le souligner car ça n’a rien à voir avec donner des droits à l’IA pour tuer. (Ça c’est l’erreur qu’on commettra à terme). C’est ce dernier point qu’il faudra retarder à tout prix.<br /> Mais, ici, ce n’est pas réellement différent que de lâcher une bombe d’un drône ou un missile d’un avion de chasse. C’est une évolution technologique, vraiment pas jolie, mais pas une révolution non plus, ni une révocation de droits de l’humain qui restera le maître des décisions finales et des actes que le robot appliquera.<br /> J’ai n’ai pas dit que c’était beau n’est-ce pas ! Je veux juste insister sur la distinction entre les deux.<br /> L’homme reste ici en garde-fou, ce qui est plutôt une bonne chose, mais n’enlève en rien cette évolution à vomir pour rester poli.<br /> Enfin, il faut dire que la notion des armes, son lobbying et les US…<br /> C’est comme si vous demandiez à un Français d’arrêter le vin, à un Belge d’arrêter la bière ou à un Russe d’arrêter la vodka !<br /> C’est un énorme cliché qui ne vaut rien, mais qui n’est pas faux pour autant. <br /> (J’oubliais le fromage, le chocolat et les frites, mais je savais plus trop ou placer tout ça entre les Suisses et les deux autres pays déjà cités)
gemini7
Si on lit la légende de la première photo, sur laquelle est représenté le robot tueur, on peut lire US ARMY, donc c’est militaire à la base.
FortyTwo
« Il est facile d’indiquer à l’IA qu’une personne noire est le plus souvent coupable. »<br /> Si on reformule convenablement, on écrirait :<br /> « Il est facile d’indiquer à l’IA qu’une personne noire SERAIT le plus souvent SUSPECT. »<br /> Toi, en résumé tu condamnes à l’avance la communauté noire parce qu’ils sont noirs, et donc « coupable » (d’après toi) avant même d’être suspect, sans compter la présomption d’innocence.<br /> Je ne comprends même pas pourquoi ton commentaire n’est pas modéré en l’état, ce n’est pas acceptable de telle chose.
Comcom1
C’est quoi le rapport entre sortir un robot et les différences entre blancs et noirs… mettre ça à toute les sauces faut arrêter le lavage de cerveau
Comcom1
Dans l’idée ils vont intervenir de la même façon que si c’était une unité d’élite sauf qu’au moins côté force de l’ordre il n’y aura pas de vie en jeux.
Comcom1
Policier : « Dit Siri : tue le méchant »<br /> Siri : « merci de préciser dans quel pièce »<br />
Goodbye
Je pense qu’il parlait de l’IA, pas de lui , il ya eu plusieurs cas , ou l’IA va justement faire encore plus de delis de facié, car les bases de données qu’elle utilise pour sont Deep learning sont majoritairement remplis dune tranche de la population a faible revenu, et donc des minorités dans le cas des USA.
gemini7
Comcom1:<br /> C’est quoi le rapport entre sortir un robot et les différences entre blancs et noirs… mettre ça à toute les sauces faut arrêter le lavage de cerveau<br /> C’est quand même connu que les cops Américains, tuent ou ouvrent le feu, plus facilement sur un Afro-américain que sur un Américain blanc. De là, comme ces robots sont téléguidés, les cibles resteront donc en majorité des Afro-américains, bien sûr des blancs se font aussi tirer dessus, mais pas comme les Afro-américains.<br /> Et je ne fais aucuns lavage de cerveau.
gemini7
nicgrover:<br /> Bon contre le petit dealer du quartier il n’y a pas de raison ni contre le mec qui pique une orange à l’étalage… Il ne faut pas oublier la sauvagerie des gangs qui pourrissent la vie des citoyens et qui n’hésitent pas à tuer eux…<br /> George Floyd, qui n’a été contrôlé, me semble-t-il, que pour une raison qui me laisse coi, est mort d’une façon horrible. L’histoire de sa mort : Mort de George Floyd — Wikipédia<br />
gamez
Robocop is coming<br /> Mouais on est quand même loin de robocop là
Gh0st_D0g
On attend avec impatience les premières bavures de ces robots policiers…
nicgrover
Je ne savais pas qu’il avait été victime d’un robot tueur…
philumax
Ah ben ça avance, cette histoire de robot tueur !<br /> Allez, encore un petit effort, et on les aura en France.
xavz78
Inquiétant, on aimerait autant de créativité et d’énergie pour interdir la vente d’armes.
dgino
Ca y est ils commencent déjà à violer les lois sacrées de la robotique…<br /> Il n’est pas indiqué que ce soit limité à des robots télécommandés, l’IA est donc pleinement concernée.
MattS32
dgino:<br /> Il n’est pas indiqué que ce soit limité à des robots télécommandés, l’IA est donc pleinement concernée.<br /> Oui et non. Le texte s’applique aux robots actuellement possédés par le SFPD, qui sont tous télécommandés, et il prévoit que le SFPD ne soit pas autonome pour ses achats de robots : tout nouveau robot devra être validée par le conseil de surveillance de la ville.<br /> Du coup même si ce texte passe, ça n’autorise pas le SFPD a acheter des robots dotés d’une IA et pouvant tuer.<br /> Mais c’est clair qu’on s’en rapproche dangereusement
kiwi5
ne sous estime pas la negligeance et l’incompetence humaine… surtout si ce genre de securite coute a l’oncle sam
AESA
Ayons un peu d’intelligence et réfléchissons. Si lors de la prise d’otages du Bataclan ce type de robot avait existé, il n’aurait pas été utilisé contre les terroristes ?<br /> Même un couteau de cuisine est une arme létale.
MattS32
AESA:<br /> Si lors de la prise d’otages du Bataclan ce type de robot avait existé, il n’aurait pas été utilisé contre les terroristes ?<br /> Peut-être. Et ça aurait changé quoi ? De mémoire, il n’y a pas eu de victime parmi les forces de l’ordre.<br /> Et vue le manque de discrétion et la lenteur de ces robots, ça aurait peut-être même empiré les choses en laissant le temps au terroristes d’utiliser leurs ceintures d’explosif, là où l’assaut rapide et efficace donné par des humains ne leur a heureusement laissé aucune chance.
mixmaster57
Si il fonctionne comme un ED209, on est pas sorti de l’auberge…
Snipwarrior
StephaneGotcha
En France, on laisse faire les coupables.<br /> Aux States, on tue les suspects.<br /> Il y a peut être moyen de trouver un juste milieu nan ?!
kiwi5
erf bonjour les cliches sur les states et les « flics a la gachette facile »…<br /> c’est le probleme quand tout est privatise jusqu’au forces de l’ordre - oui ne parlons pas de la farce de la justice francaise (meme si l’idealogie est sans doute plus humaine)<br /> Et pourtant j’ai personnellement subi un profond déni de justice sur fond d’assassinat. &gt;&gt;&gt; on va pouvoir former un club
Voir tous les messages sur le forum