New York veut une "police des algorithmes"

le 22 décembre 2017
 0
Les algorithmes font depuis quelques années partie intégrante de notre quotidien. Parfois ils viennent de Google, parfois de Facebook, parfois ils sont utilisés par des institutions publiques comme le gouvernement et les mairies. Mais comment garantir que ces algorithmes prennent des décisions totalement impartiales alors qu'on sait, par exemple, qu'une IA peut devenir raciste en quelques heures lorsqu'elle est lâchée dans la nature ?

La ville de New York semble se poser la question, car elle a un corollaire : si quelqu'un réussit à démontrer que la décision prise par l'algorithme n'est pas impartiale, des plaintes peuvent s'ensuivre...

Les algorithmes utilisés par la ville de New York seront surveillés



En France, le problème est peut-être moins immédiat pour une municipalité qui mettrait en place un système de décisions basé sur un algorithme : porter plainte et obtenir réparation risque de se transformer en un calvaire judiciaire. Mais au Etats-Unis, il suffirait d'une simple class-action pour qu'une décision d'un algorithme se transforme en une affaire qui pourrait coûter à la municipalité des millions de dollars.

New York veut évidemment éviter ça, tout en garantissant que les décisions de ses algorithmes ne finissent pas par avantager un groupe de personnes plutôt qu'un autre. Outre être une très mauvaise publicité pour la mairie, ce serait un réel problème pour les autres groupes de personnes en question, qu'ils soient avantagés par leurs origines, leur âge ou leurs revenus.

01F4000008397136-photo-newyork.jpg


Une police des algorithmes mise en place par la municipalité ?



Le seul problème avec les algorithmes est que, pour les comprendre, il faut des connaissances poussées : un groupe de personnes pourrait se sentir floué par les décisions, sans jamais pouvoir réussir à comprendre où est survenue l'erreur, voire ne jamais avoir accès au code de l'algorithme. C'est pour répondre à cette problématique qu'une proposition de loi a été adoptée fin août 2017 par la ville de New York.

Une équipe de spécialistes sera créée pour surveiller et corriger les algorithmes : des spécialistes des systèmes informatiques et des algorithmes, bien évidemment, mais également des travailleurs sociaux formés expressément pour cette tâche, ainsi que des avocats.

Modifié le 01/06/2018 à 15h36
Cet article vous a intéressé ?
Abonnez-vous à la newsletter et recevez chaque jour, le meilleur de l’actu high-tech et du numérique.

Dernières actualités

Une étude démontre qu'il y a de l'eau sous la surface de la Lune... mais plus pour longtemps
Jour de la Terre : et si vous passiez au reconditionné ? Nos conseils pour faire le bon choix
On a joué à The Division 2 : Ubisoft parfait la formule et fait mouche
Comparatif 2019 : Quelle est la meilleure montre connectée ?
Avast déploie Aspen, un navigateur web sécurisé basé sur Chrome 73
Voiture électrique : Casino va installer des bornes recharge ultra-rapides dans ses magasins
Jour de la Terre : des images qui montrent la beauté de notre planète (mais aussi notre impact)
Technologies numériques : l'UE adopte un plan d'investissement à 9,2 milliards
Comparatif 2019 : Quel est le meilleur chargeur sans fil ?
Des pirates publient les données personnelles de milliers de policiers et d'agents du FBI
XIII, le shooter d'Ubisoft lancé en 2003, se paye un remake !
Oui.sncf marche fort et reste le premier site de e-commerce français
Des chercheurs ont réussi pour la première fois à
Une entreprise récupère les trottinettes de Lime et Bird... pour les leur
Un astronaute devenu différent de son jumeau après un voyage d’un an dans l’espace
scroll top