Netflix se base-t-il sur la couleur de peau de ses utilisateurs pour les cibler et pour affiner ses recommandations de film et de série ? C’est ce que dénoncent des clients américains du populaire service de vidéo à la demande, après avoir observé des biais raciaux dans la manière de présenter les vidéos disponibles, rapportent The Guardian et Wired.

Depuis décembre 2017, Netflix personnalise les vignettes de sélection des films et séries visibles sur la page d’accueil du service en fonction des goûts supposés de ses utilisateurs. Par exemple, pour mettre en avant une ambiance de mystère ou de romance, si les algorithmes de Netflix ont perçu de telles tendances dans ce que regarde l’abonné concerné.

« Traités différemment »

Or, plusieurs utilisateurs afro-américains ont relevé que la firme de Los Gatos mettait en avant des acteurs afro-américains, y compris lorsque ceux-ci jouaient un rôle mineur dans le film ou la série. The Guardian donne l’exemple de la comédie romantique Love Actually, dans laquelle Hugh Grant, Emma Thompson et Colin Firth jouent les premiers rôles, mais pour laquelle Netflix met en avant les acteurs Chiwetel Ejiofor et Keira Knightley, aux rôles pourtant secondaires.

Deux affiches différentes du film Tel père (Like father en VO) en fonction de l’historique de visionnage de l’utilisateur. / Kelly Quantrill (@codetrill)/Stacia Brown (@slb79)

Si Netflix est connu pour sa politique de personnalisation algorithmique de l’offre, que celle-ci soit basée sur l’identité des utilisateurs marque un pas supplémentaire. Comme le relève un programmeur sur Twitter, « les gens n’aiment généralement pas être traités différemment en fonction de leur couleur de peau, et tout particulièrement quand ils sont tranquillement chez eux en train de regarder un film ».

D’autres, comme le réalisateur new-yorkais Tobi Aremu, ont estimé que le système pouvait être une bonne chose pour les utilisateurs sensibles à l’inclusivité. Mais dans le Guardian, il critique aussi le fait que Netflix puisse berner ses clients en mettant en avant sur les vignettes de film des acteurs qui n’ont qu’un rôle mineur dans le scénario, où les personnages principaux restent blancs.

Contacté par Wired, Netflix s’est défendu de toute exploitation commerciale de la couleur de peau de ses abonnés. « Il est faux de dire que nous personnalisons les affiches en nous basant sur des statistiques démographiques. Nous ne demandons pas à nos membres leur race, leur sexe ou leur ethnie, donc nous ne pouvons pas utiliser ces informations pour personnaliser individuellement leur expérience de Netflix. La seule information que nous utilisons, c’est leur historique de consultation. » Qui, traité par les algorithmes d’apprentissage automatisé de la firme, est parfois bien plus précis que des données déclaratives.