Le président américain, Barack Obama, le 11 octobre. | JIM WATSON / AFP

C’est une interview hors du commun qu’a donnée Barack Obama au magazine américain Wired, spécialisé dans les nouvelles technologies. Dans un long entretien publié mercredi 12 octobre, le président américain livre sa vision de l’intelligence artificielle (IA), de ses enjeux et de la façon dont le gouvernement devrait s’impliquer dans ce domaine. Le même jour, la Maison Blanche a publié un rapport sur l’état de l’IA et établi une vingtaine de recommandations. « Si l’on s’en sert correctement, l’IA peut générer énormément d’occasions et de prospérité », estime Barack Obama. « Mais il peut aussi y avoir de mauvais côtés, et il va falloir régler ça notamment pour préserver l’emploi. L’IA pourrait accroître les inégalités ».

Car, comme le souligne le président américain, « la plupart des gens ne s’inquiètent pas » d’une forme de super-intelligence artificielle digne des films de science-fiction, « mais ils se demandent “alors, est-ce que je vais être remplacé au travail par une machine ?” ». Pourtant, Barack Obama n’est pas en mesure de leur apporter une réponse claire : « il va falloir que nous ayons une discussion dans notre société sur comment gérer cela ».

Le président craint aussi que l’IA ne « désavantage certaines personnes ou certains groupes de personnes ». Le rapport de la Maison Blanche souligne ainsi que ces technologies reproduisent des biais parfois racistes. Par exemple, un logiciel d’apprentissage censé aider des DRH à choisir des candidats pourrait se fonder sur des données biaisées : si les décisions prises précédemment par les humains étaient racistes, le logiciel pourrait les imiter, « plutôt que de prendre en considération les meilleurs candidats parmi toute la diversité des postulants ».

Réticent à réguler

Le président s’étend longuement sur le rôle que devrait jouer le gouvernement dans le développement de l’intelligence artificielle. Si Barack Obama prône davantage d’investissements publics dans la recherche, il se montre réticent à l’idée de réguler ces travaux :

« Si vous parlez à Larry Page [le cofondateur de Google] et les autres, leur réaction en général, et on peut les comprendre, c’est “la dernière chose que nous voulons c’est que des bureaucrates viennent nous ralentir pendant que nous chassons la licorne”. »

Le rapport de la Maison Blanche ne dit pas autre chose, mais prône néanmoins une utilisation accrue de l’intelligence artificielle par les agences gouvernementales, pour améliorer leur efficacité et diminuer leur coût. La Maison Blanche souhaiterait dans cette logique qu’elles développent l’« open data », qui consiste à rendre ses données gratuitement accessibles à tous dans un format exploitable par une machine. Objectif : permettre à des chercheurs en intelligence artificielle d’appliquer leurs techniques aux données publiques afin de « s’attaquer aux problèmes sociaux ».

Le texte laisse aussi entendre que les agences gouvernementales manquent de personnel compétent sur ces technologies et estime qu’elles devraient « prendre des mesures pour recruter ces talents techniques indispensables ». Le gouvernement lui-même devrait aussi resserrer ses liens avec l’industrie « pour rester informé des progrès de l’IA » et devrait « surveiller l’état de l’IA dans les autres pays ».

Vers des engagements internationaux ?

Car les menaces en termes de sécurité sont prises au sérieux par la Maison Blanche, qu’il s’agisse de la question des armes autonomes ou de cybersécurité, domaine dans lequel l’intelligence artificielle prend une importance grandissante. « Il ne fait aucun doute que le développement de normes internationales, de protocoles et de mécanismes de vérification dans la cybersécurité en général et dans l’IA en particulier n’en est qu’à ses balbutiements », reconnaît Barack Obama. Le rapport de la Maison Blanche souhaite que le gouvernement américain lance des discussions à ce sujet sur la scène internationale afin d’aboutir à des « engagements internationaux ». Sur la question des armes, le rapport recommande une clarification des règles : « le gouvernement américain devrait définir une politique à ce sujet, compatible avec les règles humanitaires internationales, sur les armes autonomes et semi-autonomes ».

Si les propos de Barack Obama et les recommandations de la Maison Blanche ne sont pas révolutionnaires et manquent souvent de concret, ils marquent néanmoins l’intérêt du gouvernement américain pour ces questions. Jusqu’ici, les autorités américaines, mais aussi internationales, ne s’étaient jamais vraiment mêlées, du moins publiquement, des questions d’intelligence artificielle, d’éthique, et de leur impact sur la société. Ces derniers mois marquent un tournant à ce sujet, mais principalement issu d’initiatives privées : pressés par les récents progrès de l’IA et les inquiétudes qu’elles suscitent, des comités d’éthique ont vu le jour dans certaines entreprises et groupes de recherche et l’entrepreneur Elon Musk a lancé un centre de recherche sur l’IA pour, dit-il, que cela « bénéficie à l’humanité ». Plus récemment, Google, Facebook, Microsoft et Amazon, entreprises parmi les plus avancées de la planète en ce qui concerne l’IA, ont conclu un partenariat visant à définir de « bonnes pratiques », notamment sur les questions éthiques.