Le vice-président de Google et coinventeur du protocole Internet, Vinton Cerf, écoute le créateur du Web, Tim Berners-Lee, lors d’une table ronde sur l’intelligence artificielle et son avenir. / PHILIPPE DESMAZES / AFP

Père contrarié du World Wide Web, dont il déplore de plus en plus régulièrement les dérives, le Britannique Tim Berners-Lee a profité d’une table ronde à Lyon, jeudi 26 avril à la conférence mondiale annuelle d’Internet, pour lancer un cri du cœur à l’intention de ses grandes multinationales sur la question des données personnelles et de l’intelligence artificielle (IA), deux sujets intimement liés.

« Les données personnelles ne sont pas le nouveau pétrole. Si je vous donne mes données, ce n’est pas comme du pétrole, ce n’est pas comme de l’eau, je les ai encore. Ce sont les miennes. »

Son discours fait écho à une idée très répandue, selon laquelle la « data » serait l’or noir du XXI^e siècle.

Les géants du Web plus conciliants

Cette déclaration très applaudie contraste avec celles des autres participants à cette table ronde — issus d’Amazon, de Facebook, d’eBay et de Google —, défendant des intérêts industriels. Reprenant une formule désormais bien connue, Ruhi Sarikaya, directeur des sciences appliquées d’Amazon, a ainsi souligné l’importance stratégique des recherches autour de l’IA et de l’apprentissage automatique, dont les données sont le carburant.

« Je pense que, dans les cinq prochaines années, on va considérer les données comme une monnaie d’échange, estime Kira Radinsky, directrice scientifique du site eBay. Elles n’appartiennent pas aux entreprises mais à moi, et on les fournira en échange d’un service, en maîtrisant cet échange. »

Une proposition loin d’être désintéressée. « Il faut rendre le pouvoir aux utilisateurs, leur permettre de comprendre ce qui se passe, et leur offrir une compensation honnête. Si les utilisateurs sont gagnants, nous le sommes aussi », défend la responsable du site de commerce en ligne.

Certains voient même dans le partage des données personnelles une obligation morale. « Ne pas partager ses données de santé, c’est causer par inadvertance la mort de quelqu’un. Idem pour les données liées au terrorisme », a notamment déclaré M^me Radinsky, dans un argumentaire qui n’a guère fait l’unanimité dans la salle. « Les données sont mon droit, je veux pouvoir les donner à une entreprise, comme pouvoir les reprendre, y oppose Tim Berners-Lee.

« Si vous les envoyez dans le cloud à un tiers, comme une compagnie d’assurance, je suis juste un point pour eux. Mais, moi, je suis moi, et je veux garder le contrôle. »

Les GAFA défendent l’autorégulation

Le débat se tenait alors que, le 25 mai, entrera en vigueur le règlement européen de protection des données (RGPD), une nouvelle loi interdisant notamment aux entreprises d’exploiter les informations sur leurs utilisateurs sans leur consentement, et à laquelle les géants du Web n’ont d’autre choix que de se conformer.

Certaines tentent, désormais, de montrer patte blanche. « On a besoin que les gens fassent confiance à Facebook, on veut plus de transparence », promet ainsi Antoine Bordes, qui dirige le bureau de recherche en IA de Facebook à Paris, le FAIR. Tout en rappelant les récentes initiatives de la plate-forme pour permettre à ses usagers d’accéder à leur historique de fichiers et de les supprimer.

Mais cette loi ne couvre pas tout. « La régulation de l’IA reste à faire », pointe Tim Berners-Lee. Or, les géants du Web sont plutôt réticents à l’irruption du politique dans leurs projets technologiques les plus stratégiques, préférant jouer la carte d’une industrie devenue plus adulte et responsable. « Il faut de la formation éthique à l’utilisation des données, et ce genre de programme apparaît ces dernières années, c’est complètement nouveau », souligne ainsi M. Bordes.

Les risques de dérapages de l’IA

Vinton Cerf, de Google, ingénieur et l’un des pères fondateurs d’Internet, appelle, lui aussi, à une innovation contrôlée de l’intérieur :

« La vraie réponse, c’est qu’on doit avoir des développeurs avec un vrai sens de l’éthique. Ce n’est pas facile, tout le monde ne sera pas d’accord. Mais j’appelle les gouvernements à ne pas sauter tout de suite dans le contrôle de l’IA, car on ne sait même pas encore le potentiel de ces outils. Et en même temps, il faudra être vigilant. »

Cela suffira-t-il ? « On s’est rendu compte que les mensonges faisaient plus de clics. Qui l’aurait cru ? On a vu le système que l’on a mis en place être dévoyé », rappelle le créateur du Web Tim Berners-Lee, qui invite à ne pas reproduire la même erreur pour l’intelligence artificielle. Vinton Cerf, lui-même, reconnaît que des risques existent : « S’il faut s’inquiéter, c’est des logiciels qui tournent sans supervision humaine, et avec l’IA, il y en a aura, et il y aura des erreurs de faites. »

Certains dégâts causés par cette dernière sont déjà connus : ce sont, par exemple, les systèmes de reconnaissance faciale qui fonctionnent mieux pour les personnes blanches de peau, les algorithmes de prédiction criminelle qui reproduisent les stéréotypes racistes des données statistiques sur lesquelles ils s’appuient, ou encore les recommandations personnalisées qui enferment les internautes dans des bulles politiques.

« Le ver est déjà dans la pomme »

Interrogée sur les questionnements éthiques liés aux accidents provoqués par des voitures autonomes ou par l’IA appliquée à des robots tueurs, Kira Radinsky, d’eBay, préfère minimiser :

« Il y a beaucoup de questions dans les médias sur l’éthique de l’IA mais, à ce stade, mon souci est surtout de faire en sorte qu’un algorithme d’analyse visuelle fasse la différence entre un chat et une banane. Il faut débattre de ces questions, mais pas empêcher l’innovation. »

Pour elle, il faudrait relativiser ce que sait faire, à ce stade, l’intelligence artificielle, à peine capable de générer un vêtement aux formes humaines, rebondit Antoine Bordes. « On ne parle pas de la difficulté de faire des robots aux yeux bleus crédibles, balaye Tim Berners-Lee. On parle de l’impact de l’IA sur l’humanité, de l’IA dans nos maisons, de l’IA dans nos emplois. Il y a déjà des jobs que seul l’IA peut faire, comme le trading à haute fréquence sur les marchés financiers. »

Il redoute un monde régi par des règles d’optimisation calculées de manière algorithmique par des machines, au détriment de critères humains. « Méfiance, les entreprises qui survivront parce qu’elles seront gérées par des IA seront impitoyables, paieront leurs vendeurs à la commission, leurs patrons à la commission. Et vous savez quoi ? Le ver est déjà dans la pomme », alerte le créateur du Web.