« La technologie n’est pas neutre, et les ingénieurs doivent prendre leurs responsabilités concernant l’impact éthique et social de leur travail. » C’est avec ces mots que DeepMind, l’entreprise d’intelligence artificielle (IA) londonienne rachetée par Google en 2014, a annoncé mardi 3 octobre sur son blog la création d’une unité de recherche en son sein sur les questions éthiques. « Nous pensons que l’IA peut bénéficier au monde de façon extraordinaire, mais seulement en se tenant aux plus hauts standards éthiques », écrit l’entreprise.

DeepMind est notamment connue pour avoir mis au point AlphaGo, le premier programme informatique à avoir battu les meilleurs professionnels du jeu de go, en mars 2016 – un bel exploit dans le monde de l’intelligence artificielle. Mais elle l’est aussi pour son partenariat très critiqué avec les hôpitaux londoniens du National Health Service (NHS), qui avait mené au partage des données de 1,6 million de patients.

Lire nos explications : Au-delà des fantasmes, quels sont les problèmes concrets que pose l’intelligence artificielle ?

Vie privée et armes autonomes

Cette nouvelle unité, nommée DeepMind Ethics & Society, est composée de huit personnes, selon Wired UK, qui a échangé avec le confondateur de DeepMind. Un chiffre prévu pour grimper à 25 dans l’année à venir. Des conseillers extérieurs, « de renommée mondiale » précise DeepMind, issus des différents secteurs comme l’économie ou la philosophie, participeront aussi à leur travail.

Objectif : « aider les ingénieurs à mettre l’éthique en pratique, et aider la société à anticiper et orienter l’impact de l’IA pour qu’elle bénéficie à tous ». Plusieurs thèmes de recherche ont déjà été définis, comme les questions de transparence, de respect de la vie privée, d’impact économique, des armes autonomes… Un champ très large pour lequel DeepMind promet des « recherches ouvertes » avec des publications régulières issues de ses travaux.

L’entreprise disposait déjà d’un comité d’éthique, selon son cofondateur Demis Hassabis, qui s’était pourtant toujours refusé à donner plus de précisions sur sa composition et son fonctionnement. Le lancement DeepMind Ethics & Society fait suite à une série d’annonces du même type dans le secteur de l’intelligence artificielle, alors que les questions d’éthique se font de plus en plus pressantes. Les géants du Web avaient notamment annoncé l’an dernier la création de Partnership on AI, un partenariat censé définir les « bonnes pratiques » et étudier l’impact de ces technologies sur la société.