Sur le tube Chandelier de la chanteuse Sia, une Française d’une douzaine d’années improvise une chorégraphie en tutu immaculé. Postée sur YouTube en 2015, la vidéo tremblante et de mauvaise qualité cumule pourtant plusieurs milliers de vues. Une autre, dans laquelle elle fait de la gym avec une amie, approche le million de visionnages. Plutôt curieux pour une petite chaîne, celle d’une enfant qui semble partager innocemment sa passion, et qui n’atteint pas les 4 000 abonnés.

Dans les commentaires visibles sous la vidéo, un message vieux de deux mois, « Comment t’es sexy et putain de bonne », laisse deviner la nature du succès de cette vidéo et de nombreuses autres. Gymnastique, natation, danse, mais aussi scènes de la vie quotidienne... Des milliers d’enregistrements postés naïvement par des enfants attirent l’attention de pédophiles qui sévissent dans les commentaires, sauvegardent les vidéos et les rediffusent. Vivement et régulièrement critiquée sur le sujet depuis 2006, YouTube peine à enrayer le phénomène.

Des vidéos recommandées par YouTube

Dans ces vidéos, des enfants, souvent de petites filles, s’amusent à faire des cabrioles ou reproduisent des étirements chez eux face caméra. Dans la hâte, certaines sont publiées avec un titre enfantin, d’autres sans intitulé et sont alors répertoriées sous des labels générés automatiquement comme « webcam video from » ou la seule date de publication. Parfois, ce sont des parents qui filment ces vidéos en russe, thaï ou même français. Certains les monétisent avec de la publicité et ne prennent pas la peine de modérer les commentaires licencieux.

Pour retrouver les contenus que les prédateurs affectionnent, nul besoin d’être connaisseur. Il suffit de taper quelques mots-clés comme « gym » ou « webcam video from » pour les repérer, puis cliquer sur les vidéos similaires recommandées automatiquement par YouTube. L’algorithme de la plate-forme génère en effet de nouvelles suggestions basées sur ce que le spectateur a déjà regardé. Celui-ci n’a donc pas à fournir d’effort pour trouver des contenus qui se proposent sans fin.

Rapidement, lorsqu’on regarde des vidéos de gymnastique, YouTube ne recommande plus que des vidéos du même type, elles aussi commentées par des prédateurs sexuels. Au fil de la navigation, les photos en sous-vêtements se multiplient. / Capture d'écran

Dans les commentaires, des prédateurs partagent ainsi le minutage de la vidéo qui laisse entrevoir une culotte ou un torse dénudé. D’autres tentent d’entrer en contact avec les auteurs de la vidéo pour leur parler, leur demander où ils habitent, ou de « mieux » se filmer. Certains conçoivent des compilations ou des playlists de contenus qu’ils intitulent de titres explicites, comme « pédophilie enfant nu ». Ces vidéos sont aussi partagées sur des forums pédophiles accessibles via le navigateur Tor. Les prédateurs font ainsi en sorte d’effectuer et échanger des copies des vidéos, afin qu’elles restent accessibles même en cas de suppression par YouTube.

Les vidéos de danse ou de gymnastique n’ont « pas de caractère illicite en soi », note le commissaire François-Xavier Masson, à la tête de l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication (OCLCTIC). Mais les commentaires, eux, peuvent en avoir un. Certains s’apparentent ainsi à de l’apologie de la pédopornographie, un délit passible de cinq ans d’emprisonnement et 45 000 euros d’amende. En cas de propositions sexuelles adressées au titulaire mineur de la chaîne, le commentaire relève d’une infraction pénale (article 227-22-1 du code pénal).

Sous cette vidéo d’une enfant, filmée par un parent alors qu’elle regarde la télévision, des internautes s’échangent des minutages de vidéo. Ils correspondent aux moments où l’on voit sous la jupe de la jeune fille. / Capture d'écran

La modération critiquée

YouTube n’ignore pas le phénomène. Ses règles indiquent depuis plusieurs années que « mettre en ligne des vidéos qui sexualisent des mineurs, y ajouter des commentaires ou s’impliquer dans n’importe quelle activité de ce type entraîne la clôture immédiate du compte concerné ». C’est le rôle des modérateurs, qui agissent le plus souvent après signalement d’internautes. L’entreprise assurait d’ailleurs en novembre 2017 :

« Nous avons depuis toujours eu recours à une combinaison de systèmes automatisés et de moyens humains de repérage et de vérification pour supprimer les commentaires sexuels déplacés ou abusifs sur des vidéos impliquant des mineurs. »

YouTube collabore aussi sur le sujet avec des associations de protection de l’enfance. Justine Atlan, directrice de l’association française e-Enfance, confirme :

« Les plates-formes et réseaux sociaux sont en général très réactifs sur la question de la lutte contre la pédopornographie ; c’est un sujet consensuel et ils n’auraient aucun intérêt juridique ou économique à laisser ces comportements proliférer. »

Pourtant, YouTube se voit reprocher un certain laxisme en matière de modération de ce type de commentaires depuis de nombreuses années. Dénoncée dès ses débuts en 2006 par Rob Taylor, un blogueur conservateur américain, la présence de pédophiles sur la plate-forme détenue par Google a été rappelée à plusieurs reprises. En 2016, des internautes ont fait ressurgir des commentaires problématiques sur le forum Reddit. Leurs allégations ont été reprises par plusieurs youtubeurs, dont Le Roi des rats, un Français qui a encore récemment soulevé le problème et a invité les internautes à se mobiliser avec le mot-clé #YouTubeWakeUp. En novembre 2017, des annonceurs avaient annoncé un boycott de YouTube après avoir été avertis de commentaires pédophiles sous des vidéos où apparaissent leurs publicités.

Fin 2017, face à l’afflux de critiques concernant la violence des contenus visibles par les enfants, YouTube finit par revoir sa copie et étendre ses règles, pour pouvoir retirer un contenu « impliquant des mineurs et susceptible de le mettre en danger, même si cela n’était pas l’intention de la personne qui a mis la vidéo en ligne ». Six mois après, elle précise dans un communiqué :

« Nous avons depuis désactivé les commentaires sur des milliers de vidéos que nous avons identifiées comme susceptibles d’intéresser les prédateurs sexuels, et nous avons fermé des centaines de comptes émettant des commentaires pédophiles. »

Des commentaires vieux de plusieurs années

Ces mesures ont été relativement efficaces à première vue : on ne trouve par exemple presque plus de vidéos titrées « webcam video from » et la plupart des vidéos restantes voient, en majorité, leur espace de commentaires désactivé. Mais des lacunes semblent persister.

Sans pousser trop loin les recherches, il est encore possible de retrouver des vidéos contenants des commentaires de prédateurs postés depuis plusieurs années à l’instar d’un « fapfapfap », onomatopée simulant un acte de masturbation, resté trois ans sous une vidéo de tutoriel de massage thérapeutique sur un enfant. Signalée par Le Monde à YouTube, la vidéo a été depuis supprimée.

Sous cette vidéo qui explique comment masser un enfant, des commentaires de prédateurs étaient en ligne depuis plusieurs années. Signalée à YouTube, la vidéo a depuis été supprimée.

Sur une même chaîne, il arrive qu’une vidéo voie désormais ses commentaires bloqués tandis qu’une autre de la même teneur reste ouverte aux messages. De même, des comptes qui partageaient ces vidéos à des fins sexuelles ne se voyaient pas forcément bannis alors que leurs vidéos, elles, étaient supprimées, semblant contredire la politique de YouTube. La plate-forme n’a pas indiqué si les vidéos repérées pour des commentaires problématiques étaient retirées des suggestions automatiques ni si elle parvenait à lutter contre les copies de vidéos d’enfants exploitées par d’autres chaînes.

Dans ses recommandations, YouTube finit par nous suggérer des vidéos de petites filles, dont les miniatures sont parfois problématiques.

Par ailleurs, un grand nombre de vignettes d’aperçu des vidéos d’enfants montrent des mineurs prépubères jambes écartées, torse nu, en sous-vêtements. Ces miniatures semblent choisies de manière à sexualiser les enfants, ce que YouTube interdit pourtant.

Selon le commissaire François-Xavier Masson, il appartient à YouTube de mener une modération « le plus en amont possible » contre ce phénomène. Fin 2017, celui-ci se souvient avoir reçu « une dizaine » de signalements concernant des propos pédophiles sur YouTube, mais cela resterait « très rare » selon lui. En effet, les internautes peuvent signaler aux autorités françaises de tels contenus via la plate-forme d’alerte Pharos. Il admet en revanche manquer de moyens pour mener des recherches proactives. Son équipe, soupire-t-il, est déjà dépassée par les cas de pédophilie.