« Cette technologie offre aux gouvernements la capacité inédite de traquer qui nous sommes, où nous allons, ce que nous faisons et qui nous fréquentons. » Mardi 15 janvier, quatre-vingt-cinq organisations non gouvernementales (ONG) américaines, menées par la puissante ACLU (Union américaine pour les libertés civiles), ont adressé trois lettres à Amazon, Microsoft et Google. Leur demande : que ces entreprises s’engagent à ne pas mettre leurs technologies de reconnaissance faciale à disposition des gouvernements.

Ces dernières années, ces systèmes se sont considérablement améliorés, notamment grâce aux progrès de l’apprentissage profond, ce qui inquiète ces quatre-vingt-cinq organisations. Elles écrivent :

« Avec ce pouvoir, il est désormais possible de repérer et de cibler des migrants, des minorités religieuses et des personnes de couleur. (…) Dans un monde de surveillance fondé sur la reconnaissance faciale, les gens craindront d’être repérés et ciblés par le gouvernement s’ils participent à une manifestation, se rassemblent hors des lieux de culte, ou simplement vivent leur vie. »

« Amazon menace la sécurité des citoyens »

Le débat sur les dangers de la reconnaissance faciale commence à prendre de l’ampleur dans le secteur. En décembre, Google s’était engagé à ne pas mettre en vente sa technologie de reconnaissance faciale « tant que d’importantes questions de réglementations ne [seraient] pas réglées ». Dans leur lettre, les quatre-vingt-cinq organisations lui demandent de s’engager plus précisément, en affirmant sa volonté de ne pas fournir ce type de technologie à des gouvernements.

De son côté, le président de Microsoft, Brad Smith, avait publié un long message fin 2018 sur les questions éthiques liées à la reconnaissance faciale. Il avait alors appelé les gouvernements à réguler cette technologie et énoncé plusieurs principes auxquels Microsoft, qui commercialise le logiciel Face API, comptait se tenir – comme interdire l’usage de ses outils pour discriminer, ou se montrer transparent sur leurs capacités par exemple. Ce qui ne suffit pas, selon les quatre-vingt-cinq organisations : « Microsoft doit s’assurer qu’un véritable débat sur la surveillance faciale ait lieu avant qu’elle ne soit entre les mains du gouvernement. »

Enfin, Amazon reste très discret sur la question, alors que sa technologie Rekognition a déjà été utilisée par les forces de l’ordre américaines, avait révélé l’ACLU l’an dernier. Des employés de la firme avaient demandé au PDG d’Amazon, Jeff Bezos, de cesser de vendre ce logiciel aux autorités. « En continuant à vendre ce produit de surveillance faciale aux gouvernements, Amazon menace gravement la sécurité des citoyens, ignore les protestations de ses propres employés et perd la confiance que lui porte le public », déplorent les quatre-vingt-cinq ONG dans leur lettre.