Google est une entreprise à la pointe dans le domaine de l’intelligence artificielle. / LIONEL BONAVENTURE / AFP

« Il est désormais clair que dans le contexte actuel, le comité ne peut pas fonctionner comme nous le souhaitons. Nous y mettons donc fin et recommençons tout à zéro. » C’est un message laconique qu’a publié Google, jeudi 4 avril, pour annoncer l’échec de son projet de comité d’éthique de l’intelligence artificielle (IA).

Huit jours plus tôt, le 26 mars, l’entreprise avait annoncé le lancement de son Advanced Technology External Advisory Council (Ateac – conseil consultatif externe sur les technologies de pointe), un comité « externe » chargé « d’examiner certains des défis les plus complexes » liés au développement de l’IA et de ses problématiques éthiques. Comme « la reconnaissance faciale et les biais de l’apprentissage automatique », expliquait alors Google, une des entreprises les plus avancés dans la recherche en IA, sur son site. La démarche s’inscrivait dans la lignée des grands principes éthiques qu’elle avait énoncés en juin 2018, et que le comité devait l’aider à respecter.

Celui-ci était composé de huit personnes issues de différents horizons – économie, intelligence artificielle, psychologie, philosophie, diplomatie… – et devait se réunir pour la première fois en avril.

« En contradiction directe avec les valeurs de Google »

Il n’en sera finalement rien. En cause : la présence, dans ce comité, de Kay Coles James, ancienne de l’administration Bush, présidente du think tank The Heritage Foundation, et dont les positions très conservatrices ont ulcéré de nombreux salariés de l’entreprise californienne.

Dans un texte mis en ligne le 1^er avril, ils dénoncent ses positions « ouvertement anti-trans, anti-LGBTQ et anti-immigrants (…), en contradiction directe avec les valeurs de Google ». Sa fondation avait notamment mené une campagne de lobbying contre des propositions démocrates visant à renforcer les protections des personnes LGBTQ contre les discriminations,

« De plus, elles sont en opposition frontale avec l’idée que, dans le développement et l’application de l’IA, la justice devrait l’emporter sur le profit. (…) Google ne peut pas déclarer soutenir les personnes trans et ses employés trans – une population confrontée à de vraies menaces concrètes – et en même temps nommer comme conseillère-clé en IA une personne engagée dans l’invisibilisation des trans. »

Le texte a depuis été signé par près de 2 500 employés de Google, exigeant que Kay Coles James ne fasse plus partie du comité. En interne, rapporte le site spécialisé The Verge, d’autres l’ont défendue, expliquant qu’il était nécessaire que ce comité représente différents types d’idées politiques pour fonctionner correctement.

Alors que le nombre de signataires du texte augmentait, Alessandro Acquisti, chercheur en économie comportementale à l’université Carnegie Mellon et lui aussi membre du comité, a annoncé le 30 mars ne plus vouloir en faire partie. « Je ne pense pas que ce soit le bon endroit pour que je m’investisse dans ce travail important », a-t-il écrit sur Twitter.

Face à ce départ mouvementé, Google a donc finalement décidé de jeter l’éponge. « Nous continuerons à nous montrer responsables dans notre travail, sur les problèmes importants soulevés par l’IA, et nous trouverons d’autres moyens d’obtenir des avis extérieurs sur ces sujets », a précisé l’entreprise dans son communiqué.

Google face à la pression de ses employés

Ces derniers mois, Google a plusieurs fois dû faire face à la mobilisation de ses employés, et infléchir ses décisions. En juin 2018, l’entreprise avait renoncé au projet Maven, un partenariat avec le Pentagone pour l’analyse automatique d’images de drones, sous la pression de ses employés – ses principes éthiques ont été énoncés peu après cette affaire.

Quelques mois plus tard, les « googlers » avaient aussi exprimé leur mécontentement après avoir appris que l’entreprise réfléchissait au possible retour de son moteur de recherche en Chine, dans une version adaptée à la censure imposée par le régime. Plus récemment, à l’automne, des milliers de salariés de Google étaient sortis de leurs bureaux, après la publication d’une enquête accusant l’entreprise d’avoir dissimulé des cas de harcèlement sexuel. Un mouvement d’une ampleur inédite pour Google, qui avait répondu en s’engageant à plus de transparence.