Un aperçu de Rekognition, le service d’Amazon appliqué à l’espace public. / Capture d’écran YouTube Amazon Web Services Korea

Dans une lettre adressée au fondateur et dirigeant d’Amazon, Jeff Bezos, une trentaine d’organisations emmenées par l’American Civil Liberties Union (ACLU) ont, mardi 22 mai, exhorté le grand groupe américain à cesser de fournir sa technologie de reconnaissance faciale à la police américaine, estimant que cet outil appelé « Rekognition » lui conférait « un dangereux pouvoir de surveillance ».

« Mis entre les mains des gouvernements, Amazon Rekognition se prête à tous les abus », écrivent-elles. « Ce service représente une grave menace pour les communautés, dont les personnes noires et les immigrés, et menace la confiance et le respect qu’Amazon a construits. »

Cette mobilisation collective fait suite à la découverte de nouveaux éléments par l’ACLU, une puissante association de défense des libertés, lui permettant d’affirmer que la firme américaine « ne commercialise pas seulement » ce service appelé Rekognition, « mais aide activement les gouvernements à le déployer ».

Identifier des personnes en temps réel

L’ACLU a obtenu des documents faisant état de correspondances entre Amazon et les départements de la police de Floride, de l’Arizona et d’autres Etats au sujet de Rekognition, un service d’Amazon Web Services (AWS) lancé en novembre 2016. Rekognition est par ailleurs utilisé par des services commerciaux, comme Pinterest, pour la reconnaissance et l’analyse d’objets. Plus récemment, la chaîne de télévision britannique Sky News y a recouru pour identifier les invités au mariage royal, explique par exemple The Verge.

En s’appuyant sur la communication d’Amazon, l’ACLU rappelle que « grâce à l’intelligence artificielle, Rekognition peut identifier, suivre et analyser les personnes en temps réel et reconnaître jusqu’à 100 personnes dans une seule image. Il peut rapidement analyser les informations qu’il recueille sur des bases de données comportant des dizaines de millions de visages ».

Dans un communiqué, l’association de défense des libertés rappelle que le comté de Washington, client depuis 2017, a construit une base de données d’au moins 300 000 portraits que le shérif peut utiliser en coordination avec Rekognition. A Orlando, la police peut recourir à la reconnaissance faciale en temps réel sur un réseau de caméras dans toute la ville. Un exemple mis en avant par Amazon pour faire la promotion de ses services, comme dans cette vidéo réalisée au sommet AWS de Séoul au début du mois.

Image & Video Rekognition based on AWS - Ranju Das, GM of Amazon Rekognition, AWS
Durée : 40:02

De nombreux biais dénoncés

Les systèmes de reconnaissance faciale faisant appel à l’intelligence artificielle sont aussi régulièrement décriés pour leurs biais. Des études ont montré que de tels programmes étaient susceptibles de faire des erreurs, en particulier lorsqu’il s’agit d’identifier des personnes non blanches. Les militants arguent en outre que ces systèmes permettent de constituer une importante base de données d’informations biométriques qui peuvent être utilisées de façon abusive.

« La population devrait être libre de marcher dans la rue sans être surveillée par le gouvernement », défendent les organisations dans leur lettre :

« La reconnaissance faciale menace la liberté des communautés américaines (…). Le gouvernement fédéral pourrait utiliser la technologie de reconnaissance faciale pour traquer continuellement les immigrés. »

En réaction à cette lettre, Amazon s’est défendu dans un communiqué cité par The Verge : « En tant que technologie, Amazon Rekognition a de nombreuses applications utiles dans le monde réel. Notre qualité de vie serait bien pire aujourd’hui si nous interdisions une nouvelle technologie parce que certaines personnes pourraient choisir d’en abuser. »