New York veut une "police des algorithmes"

22 décembre 2017 à 16h30
0
Les algorithmes font depuis quelques années partie intégrante de notre quotidien. Parfois ils viennent de Google, parfois de Facebook, parfois ils sont utilisés par des institutions publiques comme le gouvernement et les mairies. Mais comment garantir que ces algorithmes prennent des décisions totalement impartiales alors qu'on sait, par exemple, qu'une IA peut devenir raciste en quelques heures lorsqu'elle est lâchée dans la nature ?

La ville de New York semble se poser la question, car elle a un corollaire : si quelqu'un réussit à démontrer que la décision prise par l'algorithme n'est pas impartiale, des plaintes peuvent s'ensuivre...

Les algorithmes utilisés par la ville de New York seront surveillés

En France, le problème est peut-être moins immédiat pour une municipalité qui mettrait en place un système de décisions basé sur un algorithme : porter plainte et obtenir réparation risque de se transformer en un calvaire judiciaire. Mais au Etats-Unis, il suffirait d'une simple class-action pour qu'une décision d'un algorithme se transforme en une affaire qui pourrait coûter à la municipalité des millions de dollars.

New York veut évidemment éviter ça, tout en garantissant que les décisions de ses algorithmes ne finissent pas par avantager un groupe de personnes plutôt qu'un autre. Outre être une très mauvaise publicité pour la mairie, ce serait un réel problème pour les autres groupes de personnes en question, qu'ils soient avantagés par leurs origines, leur âge ou leurs revenus.

01F4000008397136-photo-newyork.jpg


Une police des algorithmes mise en place par la municipalité ?

Le seul problème avec les algorithmes est que, pour les comprendre, il faut des connaissances poussées : un groupe de personnes pourrait se sentir floué par les décisions, sans jamais pouvoir réussir à comprendre où est survenue l'erreur, voire ne jamais avoir accès au code de l'algorithme. C'est pour répondre à cette problématique qu'une proposition de loi a été adoptée fin août 2017 par la ville de New York.

Une équipe de spécialistes sera créée pour surveiller et corriger les algorithmes : des spécialistes des systèmes informatiques et des algorithmes, bien évidemment, mais également des travailleurs sociaux formés expressément pour cette tâche, ainsi que des avocats.

Modifié le 01/06/2018 à 15h36
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
0
0

Actualités récentes

Arrêté par le FBI, il voulait faire sauter un centre de données d'Amazon
Télétravail : le TOP des bons plans pour s'équiper au meilleur prix
Alors, on regarde ? The Nevers S01E01
Belle promotion sur la barre de son Samsung HW-T420 à moins de 100€
La cybercriminalité, plus inquiétante pour l’économie mondiale que les crises financières ?
120€ de réduction sur la trottinette électrique Xiaomi Mi Electric Scooter 1S
Citroën C5 X hybride : le nouveau modèle de Citroën dévoilé en détails
Bon plan : nouvelle baisse de prix sur les écouteurs sans fil Apple AirPods 2
Uncharted : la sortie du film de nouveau repoussée (mais d’une semaine seulement)
Le chargeur à induction Samsung Pad est presque donné à ce prix (ODR)
Haut de page