🔴 Soldes d'été : jusqu'à - 50% sur le high-tech 🔴 Soldes d'été : jusqu'à - 50% sur le high-tech

Google licencie une chercheuse spécialisée en éthique de l'IA, ses collègues crient à la censure

07 décembre 2020 à 13h55
9
Timnit Gebru

La société Google doit de nouveau faire face à un mouvement social interne après le licenciement de la docteure Timnit Gebru. Cette dernière est spécialisée dans les travaux de recherche en intelligence artificielle et plus particulièrement au sujet des enjeux éthiques. Google explique de son côté qu'elle a choisi de démissionner.

Les décisions émanant de la direction de Google semblent de plus en plus souvent remises en cause par les employés du groupe. Dernièrement, plus de 1 530 employés ont co-signé une lettre demandant la réintégration de la Dr Gebru.

Un projet de recherche rejeté

Timnit Gebru est co-responsable du département de recherche en intelligence artificielle. Plus précisément, elle travaille sur la dimension éthique. C'est notamment elle qui a démontré que les algorithmes de reconnaissance faciale sont moins susceptibles d'identifier correctement les femmes et les gens de couleur. D'emblée, ces personnes sont en quelque sorte discriminées. Dans le cadre d'une utilisation de la technologie par les forces de l'ordre, elles sont alors plus à même d'être contrôlées par les autorités.

Dans de nouveaux travaux de recherche, Timnit Gebru remet en cause le perfectionnement des algorithmes de machine learning à grande échelle. Elle estime que cela implique des coûts environnementaux et financiers. Elle ajoute par ailleurs qu'en tentant d'intégrer un vaste nombre de données pour entraîner ces algorithmes, ces derniers risquent d'être influencés par des propos à caractère raciste, sexiste ou grossier. La chercheuse ajoute alors qu'il est important de sélectionner plus finement les sources de données.

Ce projet de recherche a été écrit avec quatre autres collègues ainsi que des collaborateurs externes. Toutefois, il a été passé en revue et rejeté. Timnit Gebru explique qu'au retour d'une période de congés, elle a été licenciée.

Timnit Gebru affirme que les idées décrites dans ce projet contredisaient les pratiques actuelles de la société. Elle estime que Google n'a pas apprécié sa vision des choses. Elle souligne en outre que son employeur a souhaité se venger après qu'elle a déclaré publiquement que Google n'a pas suivi ses engagements dans le recrutement de femmes depuis le début de la pandémie.

La version de Google

Face à l'ampleur médiatique de cette affaire, Jeff Dean, Vice-président du département d'intelligence artificielle chez Google, a fait part d'une autre version. Il explique que Timnit Gebru n'a pas respecté le processus en rendant ses recherches à temps.

Il pointe également le fait que l'équipe chargée de relire cette étude a formulé des remarques qui n'ont pas été prises en compte par Mme Gebru. Finalement, l'équipe a simplement rejeté l'étude.

Dans un email, Timnit Gebru aurait demandé le nom des personnes ayant invalidé son étude sans quoi elle menaçait de quitter la société. Jeff Dean précise ainsi qu'elle a choisi de démissionner de son poste.

Face à ces propos, Tinit Gebru rejette en bloc ses accusations sur Twitter.

Des Googlers mobilisés

Des employés de Google ont décidé de soutenir publiquement leur ancienne collègue en rédigeant une lettre publique disponible sur Medium . Plus de 1 500 signatures ont ainsi été recueillies.

Ils reviennent sur l'importance des travaux de la chercheuse et son rôle majeur dans le progrès de l'intelligence artificielle. Le traitement de données massives pour améliorer les algorithmes de machine learning est une pratique courante chez Google et implémentée au sein de plusieurs services de la société. Ils pointent alors une décision motivée par de la censure.

Les mobilisations internes ne sont plus rares au sein du géant de la recherche. Les employés ont critiqué le licenciement de leurs collègues souhaitant organiser un mouvement de manifestation. Ils se sont opposés à la mise en place d'un moteur de recherche censuré en Chine . Ils ont pointé les accords entre Google et l'armée américaine pour équiper les drones d'intelligence artificielle. Ils ont également critiqué les conditions dans lesquelles le fondateur d'Android Andy Rubin , accusé de harcèlement sexuel, a quitté la société.

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
9
10
Daeneroc
En même temps faire du zèle et trasher publiquement son propre employeur c’est à ses risques et périls et ca faisait pas partie de sa fonction. Tu peux pas partir en vendetta Twitter contre quelqu’un et en même temps encaisser son chèque tous les mois, faut pas être hypocrite.
sirifa
En France y’a quelque chose qui s’appelle la loyauté à son employeur.<br /> Après est-ce que critiquer des choses publiquement pour faire prendre une meilleur direction à sa société n’est pas loyale ?
SlashDot2k19
« Dont be evil »<br /> Cette vaste blague…
wannted
Eh bien elle a menacé son employeur de démissionner sous certaines conditions…<br /> Il n’y a pas trop de soucis à se faire, vu son talent elle trouvera autre chose ailleurs et tout aussi bien payé.<br /> Sinon ils sont marrants ces gens ils veulent faire de l’éthique mais chez Google… (lol) tout en étant grassement payé.<br /> Pourquoi ne pas monter une association et bosser en toute indépendance sur la recherche en AI ?<br /> Réponse: ce sont les GAFAM et cie qui offrent les meilleures payes.
c_planet
concernant la reconnaissance, c’est pas le contraire ? si une IA te reconnait plus facilement que ton voisin, c’est ton potentiel d’être discriminé qui monte en flèche.
cirdan
Sauf si c’est pour te retrouver et t’annoncer que tu as gagné au loto. Là tu y gagnes
Anoh_Jean_Nathan_Emon
C’est toujours facile de dire ce qu’on pense quand on est en bas de la hierachie, elle n’est pas en guerre contre son employeur comment qu’elle le dénigre autant publiquement c’est a croire qu’elle veut soit partir soit elle veut le controller. si t’es pas daccord tu part et tu travaille pour ta cause librement et cette histoire d’éthique ca me fait rire quand… bofff j’ais pas envie de finir comme Marvin Fitness par ce que mes propos seront différents de certains donc chutttt…
carinae
C’est bizarre tout de même cette histoire…le machine learning porte bien son nom. L’algorithme est le même pour tous et ensuite c’est l’homme qui lui fait apprendre. Donc a moins d’un problème de codage, notamment des situations non prévues, les biais sont souvent pendant la phase d’apprentissage… Être démissionné juste pour ça alors que ça peux être corrigé est étonnant
quezako
Il me semble difficile d’avoir les tenants et aboutissants.<br /> Ce qui me semble comply, c’est qu’elle puisse réintégrer Google avec son discours actuel.<br /> Je m’abstiendrai de juger et j’espère juste que personne ne souffre de cette situation
Voir tous les messages sur le forum

Actualités du moment

Lunettes Apple AR : une technologie embarquée pour les utilisateurs qui ont une mauvaise vue ?
La France déploie la fibre plus rapidement que partout ailleurs en Europe, +33% cette année
The Wolf Among Us 2 arriverait en fin 2021 avec un total de 5 épisodes
Samsung planche sur des capteurs photo de 600 mégapixels, pour de beaux zoom en vidéo 4K et 8K ?
Apple travaille sur un processeur ARM doté de 32 cœurs hautes performances destiné au (très) haut de gamme
Apple retire discrètement le serveur web Zoom caché via une mise à jour sur Mac
Mini critique Truth Seekers (S01)
Mini critique The Mandalorian (S02E01)
Mini critique Moonbase 8 (S01E01)
Les meilleures séries d'anthologie
Haut de page