Google licencie une chercheuse spécialisée en éthique de l'IA, ses collègues crient à la censure

Guillaume Belfiore
Lead Software Chronicler
07 décembre 2020 à 13h55
9
Timnit Gebru

La société Google doit de nouveau faire face à un mouvement social interne après le licenciement de la docteure Timnit Gebru. Cette dernière est spécialisée dans les travaux de recherche en intelligence artificielle et plus particulièrement au sujet des enjeux éthiques. Google explique de son côté qu'elle a choisi de démissionner.

Les décisions émanant de la direction de Google semblent de plus en plus souvent remises en cause par les employés du groupe. Dernièrement, plus de 1 530 employés ont co-signé une lettre demandant la réintégration de la Dr Gebru.

Un projet de recherche rejeté

Timnit Gebru est co-responsable du département de recherche en intelligence artificielle. Plus précisément, elle travaille sur la dimension éthique. C'est notamment elle qui a démontré que les algorithmes de reconnaissance faciale sont moins susceptibles d'identifier correctement les femmes et les gens de couleur. D'emblée, ces personnes sont en quelque sorte discriminées. Dans le cadre d'une utilisation de la technologie par les forces de l'ordre, elles sont alors plus à même d'être contrôlées par les autorités.

Dans de nouveaux travaux de recherche, Timnit Gebru remet en cause le perfectionnement des algorithmes de machine learning à grande échelle. Elle estime que cela implique des coûts environnementaux et financiers. Elle ajoute par ailleurs qu'en tentant d'intégrer un vaste nombre de données pour entraîner ces algorithmes, ces derniers risquent d'être influencés par des propos à caractère raciste, sexiste ou grossier. La chercheuse ajoute alors qu'il est important de sélectionner plus finement les sources de données.

Ce projet de recherche a été écrit avec quatre autres collègues ainsi que des collaborateurs externes. Toutefois, il a été passé en revue et rejeté. Timnit Gebru explique qu'au retour d'une période de congés, elle a été licenciée.

Timnit Gebru affirme que les idées décrites dans ce projet contredisaient les pratiques actuelles de la société. Elle estime que Google n'a pas apprécié sa vision des choses. Elle souligne en outre que son employeur a souhaité se venger après qu'elle a déclaré publiquement que Google n'a pas suivi ses engagements dans le recrutement de femmes depuis le début de la pandémie.

La version de Google

Face à l'ampleur médiatique de cette affaire, Jeff Dean, Vice-président du département d'intelligence artificielle chez Google, a fait part d'une autre version. Il explique que Timnit Gebru n'a pas respecté le processus en rendant ses recherches à temps.

Il pointe également le fait que l'équipe chargée de relire cette étude a formulé des remarques qui n'ont pas été prises en compte par Mme Gebru. Finalement, l'équipe a simplement rejeté l'étude.

Dans un email, Timnit Gebru aurait demandé le nom des personnes ayant invalidé son étude sans quoi elle menaçait de quitter la société. Jeff Dean précise ainsi qu'elle a choisi de démissionner de son poste.

Face à ces propos, Tinit Gebru rejette en bloc ses accusations sur Twitter.

Des Googlers mobilisés

Des employés de Google ont décidé de soutenir publiquement leur ancienne collègue en rédigeant une lettre publique disponible sur Medium. Plus de 1 500 signatures ont ainsi été recueillies.

Ils reviennent sur l'importance des travaux de la chercheuse et son rôle majeur dans le progrès de l'intelligence artificielle. Le traitement de données massives pour améliorer les algorithmes de machine learning est une pratique courante chez Google et implémentée au sein de plusieurs services de la société. Ils pointent alors une décision motivée par de la censure.

Les mobilisations internes ne sont plus rares au sein du géant de la recherche. Les employés ont critiqué le licenciement de leurs collègues souhaitant organiser un mouvement de manifestation. Ils se sont opposés à la mise en place d'un moteur de recherche censuré en Chine. Ils ont pointé les accords entre Google et l'armée américaine pour équiper les drones d'intelligence artificielle. Ils ont également critiqué les conditions dans lesquelles le fondateur d'Android Andy Rubin, accusé de harcèlement sexuel, a quitté la société.

Guillaume Belfiore

Lead Software Chronicler

Lead Software Chronicler

Responsable du développement éditorial sur la partie Logiciel et Services Web sur Clubic. Précédemment journaliste, je traitais l'actualité web et mobile au sens large. Je m'intéressais aux entrailles...

Lire d'autres articles

Responsable du développement éditorial sur la partie Logiciel et Services Web sur Clubic. Précédemment journaliste, je traitais l'actualité web et mobile au sens large. Je m'intéressais aux entrailles des navigateurs web, aux nouveaux smartphones mais aussi aux systèmes d'exploitation, aux questions de sécurité ou à l'actualité e-business en général. Sinon je dois avouer que j'ai un faible pour tout ce qui touche au web design et c'est généralement le code source d'une page web que je lis en premier.

Lire d'autres articles
Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (9)

Daeneroc
En même temps faire du zèle et trasher publiquement son propre employeur c’est à ses risques et périls et ca faisait pas partie de sa fonction. Tu peux pas partir en vendetta Twitter contre quelqu’un et en même temps encaisser son chèque tous les mois, faut pas être hypocrite.
sirifa
En France y’a quelque chose qui s’appelle la loyauté à son employeur.<br /> Après est-ce que critiquer des choses publiquement pour faire prendre une meilleur direction à sa société n’est pas loyale ?
SlashDot2k19
« Dont be evil »<br /> Cette vaste blague…
wannted
Eh bien elle a menacé son employeur de démissionner sous certaines conditions…<br /> Il n’y a pas trop de soucis à se faire, vu son talent elle trouvera autre chose ailleurs et tout aussi bien payé.<br /> Sinon ils sont marrants ces gens ils veulent faire de l’éthique mais chez Google… (lol) tout en étant grassement payé.<br /> Pourquoi ne pas monter une association et bosser en toute indépendance sur la recherche en AI ?<br /> Réponse: ce sont les GAFAM et cie qui offrent les meilleures payes.
c_planet
concernant la reconnaissance, c’est pas le contraire ? si une IA te reconnait plus facilement que ton voisin, c’est ton potentiel d’être discriminé qui monte en flèche.
cirdan
Sauf si c’est pour te retrouver et t’annoncer que tu as gagné au loto. Là tu y gagnes
Anoh_Jean_Nathan_Emon
C’est toujours facile de dire ce qu’on pense quand on est en bas de la hierachie, elle n’est pas en guerre contre son employeur comment qu’elle le dénigre autant publiquement c’est a croire qu’elle veut soit partir soit elle veut le controller. si t’es pas daccord tu part et tu travaille pour ta cause librement et cette histoire d’éthique ca me fait rire quand… bofff j’ais pas envie de finir comme Marvin Fitness par ce que mes propos seront différents de certains donc chutttt…
carinae
C’est bizarre tout de même cette histoire…le machine learning porte bien son nom. L’algorithme est le même pour tous et ensuite c’est l’homme qui lui fait apprendre. Donc a moins d’un problème de codage, notamment des situations non prévues, les biais sont souvent pendant la phase d’apprentissage… Être démissionné juste pour ça alors que ça peux être corrigé est étonnant
quezako
Il me semble difficile d’avoir les tenants et aboutissants.<br /> Ce qui me semble comply, c’est qu’elle puisse réintégrer Google avec son discours actuel.<br /> Je m’abstiendrai de juger et j’espère juste que personne ne souffre de cette situation
Voir tous les messages sur le forum
Haut de page

Sur le même sujet