Ponte du machine learning, Samy Bengio claque la porte de Google Brain

C’est un désastre pour les chercheurs en intelligence artificielle de Google. Suite au licenciement controversé des dirigeants de la branche éthique et IA de l’entreprise, Samy Bengio, co-fondateur de l’unité Google Brain (anciennement Idiap et EPFL), a démissionné. Son départ semble lié à l’inquiétude de Google sur les risques éthiques de l’IA signalés par ses anciens chercheurs.

(Source: Arthur Osipyan sur Unsplash)

(Source: Arthur Osipyan sur Unsplash)

Chercheur bien connu en apprentissage automatique embauché par Google en 2007, Samy Bengio a démissionné, selon Reuters. L’agence de presse a eu accès à un e-mail interne et a reçu une confirmation de démission du chercheur principal et cofondateur de l’appareil Google Brain. Ce départ serait lié au licenciement controversé de son collègue, dont il était le supérieur direct, Timnit Gebru, qui a eu lieu en décembre dernier. Margaret Mitchell, qui a vivement contesté la démission forcée de son collègue, a également été licenciée récemment. Tous deux étaient responsables de l’éthique de l’entreprise et de la branche IA.

Ancien chercheur à l’Idiap

Ancien chercheur à l’Idiap

Avant d’être agent de Google, Samy Bengio a travaillé pour l’Idiap de Martigny et l’EPFL. On lui doit le co-développement de Torch, l’ancêtre de PyTorch, l’un des frameworks d’apprentissage automatique les plus populaires. A voir aussi : Google réduit à son tour sa commission du Play Store à 15 %. Dans son mail annonçant sa démission, Samy Bengio ne mentionne pas les licenciements de ses collègues. Cependant, il avait annoncé publiquement sur Facebook que son étonnement après le braconnage de Timnit Gebru avait agi sans que les dirigeants de Google ne le consultent.

Cela pourrait vous interrésser :   Sony enquête sur les problèmes autour de l’horloge interne des PS5 et PS4

Conflits autour des risques éthiques des modèles de traitement du langage

Conflits autour des risques éthiques des modèles de traitement du langage

Sur leur blog Medium, les employés de Google ont assuré que Timnit Gebru, spécialisé dans les biais algorithmiques en particulier, avait été licencié en raison de conflits sur une étude dont les responsables de la publication de Google Research bloqueraient. Le document de recherche en question décrit des considérations éthiques liées aux modèles les plus populaires de traitement du langage naturel (tels que BERT et ELMo). Le MIT Technology Review a eu accès à l’étude et dit que l’article remet en question à la fois les coûts environnementaux et les préjugés qui se trouvent dans les modèles de langage basés sur d’énormes quantités de données.

Officiellement, Google reproche à l’étude de ne pas mentionner les travaux récents sur la façon de rendre les grands modèles linguistiques plus écoénergétiques et de réduire les problèmes de biais. Ceci est incorrect selon le MIT Technology Review. L’étude y fait référence, mais précise que les efforts dans ce domaine ne sont pas encore suffisants. Emily M. Bender, co-auteur de l’étude, a déclaré au journal qu’elle craignait que les actions de Google n’aient un effet de refroidissement sur les futures recherches sur l’éthique de l’IA.

Sources :

TV online TV online TV y directoTV y directo TV e diretoTV e direto TV e direttaTV e diretta live tvLive TV