Twitter lance un système de bug bounty pour les internautes qui décèleraient les biais de son algorithme

04 août 2021 à 13h30
0
machine learning
© DR

Twitter a annoncé mettre en place un bug bounty pour l'aider à détecter les biais de son algorithme concernant les images.

Celui-ci est ouvert à tous et il est possible d'y participer jusqu'au 6 août à 23 h 59, heure du Pacifique, sur le site de HackerOne.

Un bug bounty pour déceler les biais dans l'algorithme utilisé par Twitter

Traditionnellement, les bug bounty sont utilisés par le monde de la sécurité informatique pour permettre à des chercheurs indépendants d'aider à améliorer la sécurité d'un site ou d'un programme tout en étant payés par les entreprises pour leurs découvertes. Ces initiatives ont permis d'améliorer sensiblement la sécurité informatique en général, et ce sont ces résultats qui ont inspiré Rumman Chowdhury, directrice de Twitter META (Machine Learning Ethics, Transparency and Accountability) et Jutta Williams, product manager, à lancer leur propre bug bounty.

Sauf qu'il ne s'agira pas ici de détecter des failles de sécurité, mais plutôt d'identifier des biais algorithmiques, notamment dans l'algorithme de saillance utilisé par le réseau social pour recadrer ses images afin de créer un aperçu. En mai, les chercheurs de l'entreprise avaient conclu qu'il favorisait bien les photos de personnes blanches à celles de personnes noires, ce qui avait été rapporté par des internautes depuis plusieurs mois.

Mais, conscientes que la voie vers un machine learning plus éthique ne pourra pas être pavée que par les équipes des entreprises, Chowdhury et Williams ont décidé d'aller un cran plus loin en repartageant le modèle de leur algorithme de saillance et le code permettant de déterminer quelle partie de l'image recadrer dans l'optique de ce bug bounty. Le but est que des internautes du monde entier puissent apporter leur expertise et, éventuellement, signaler des biais qui n'auraient pas été détectés par les chercheurs, voire apporter des solutions.

Une première étape importante

Grâce à cette première étape, elles espèrent voir naître dans le futur une communauté consacrée à l'éthique et à la transparence dans les algorithmes et le machine learning, sur le modèle de ce qui existe dans la sécurité informatique, afin de permettre de plus grandes avancées dans le domaine. Une initiative importante à l'heure où les entreprises dépendent de plus en plus d'algorithmes qui ont tendance à reproduire les biais, même inconscients, de leurs créateurs.

Ce bug bounty, le premier dans son genre, se passe dans le cadre de la DEF CON, et les gagnants seront annoncés le 8 août à l'atelier tenu par Twitter au DEF CON AI Village. Si vous souhaitez y participer, rendez-vous sur HackerOne , où le challenge est hébergé. Il est ouvert à tous, mais il sera nécessaire de pouvoir présenter ses résultats en anglais. La première place recevra 3 500 dollars, la deuxième 1 000, la troisième 500, l'entrée la plus innovante sera récompensée par 1 000 dollars et celle qui pourra être appliquée au plus d'algorithmes possible recevra la même somme.

Sources : CNET , Twitter

Modifié le 04/08/2021 à 13h36
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
0
0

Lectures liées

Sosh lance une offre très belle offre de rentrée avec un forfait 40 Go à moins de 10€
Le Google Pixel Fold sera probablement lancé avant la fin de l'année
L'Apple Watch SE passe de l'USB-A à l'USB-C
Les OnePlus 9 accueillent un nouveau mode photo Xpan en hommage au Hasselblad Xpan
iPad Mini 6 : un processeur A15 Bionic sous cadencé et des perfs en retrait par rapport à l'A14
Plus de surprise, les Google Pixel 6 et 6 Pro s'exposent dans la vitrine du Google Store de New-York
Selon certaines fuites, Fairphone pourrait présenter son premier smartphone 5G
Galaxy S22 : Samsung passera enfin à la recharge 45W… sur le modèle Ultra
iPhone 13 : une autonomie en hausse sur toute la gamme, jusqu'à 2 heures 30 de plus
iPhone 13 Pro vs iPhone 12 Pro : c'est près de 55 % de perfs supplémentaires
Haut de page