« En ce moment c’est la rentrée du harcèlement. Le début de la saison haute. » Samuel Comblez connaît la triste routine qui s’opère à chaque nouvelle année scolaire : après « une première phase d’observation », en septembre, les groupes se forment dans les classes, les leaders émergent et les bouc émissaires avec. Au retour des vacances de la Toussaint, les cas de harcèlement explosent.

Le travail de M. Comblez consiste à venir en aide aux victimes. Au sein de l’association e-Enfance, consacrée à la lutte contre les violences en ligne, il dirige la plate-forme Net Ecoute, que les jeunes peuvent contacter en cas de problème. Dans ce petit bureau blanc du centre de Paris, ils sont cinq, en cette soirée du 7 novembre, à répondre aux questions des personnes qui les sollicitent.

Les téléphones sonnent, avec au bout du fil des adolescents en pleurs, victimes de campagnes de harcèlement en ligne. Les notifications Facebook Messenger clignotent, avec de l’autre côté de l’écran des inquiétudes sur une usurpation d’identité. Et les messages s’accumulent sur le tchat de Net Ecoute, avec le désespoir de jeunes menacés de « revenge porn » (vengeance pornographique).

« Le cas classique, raconte Samuel Comblez, c’est une jeune fille qui tombe amoureuse d’un garçon, lui envoie des images sexys, puis sexuelles. Et puis elle met fin à la relation, le garçon ne le supporte pas et la menace de publier les images. Pour elle, c’est compliqué d’en parler aux parents, aux amis, aux professeurs… Elle se retrouve seule au monde. La pression monte, et elle finit par se tourner vers nous. »

Des captures d’écran en guise de preuves

Dans ce cas, comme dans la plupart de ceux que doit gérer Net Ecoute, il faut travailler avec les grandes plates-formes comme Facebook, Snapchat, YouTube et les autres, où se concentrent la majorité des publications problématiques. Première étape : conseiller aux victimes d’effectuer, elles-mêmes, un signalement auprès du réseau social concerné. « On ne peut pas devenir le chargé de transmission de la France entière, justifie M. Comblez. Alors on leur explique comment le faire correctement. » Parmi les conseils, il faut se montrer très succinct :

« Facebook doit comprendre le problème immédiatement, et pour ça il n’y a pas besoin de deux cents captures d’écran, c’est même contreproductif car ça noie l’interlocuteur. Il faut toutefois apporter des preuves de ce que l’on avance, avec quelques pièces jointes. »

C’est alors au réseau social de gérer ce signalement, et de décider d’agir ou non. La demande est traitée parmi toutes les autres que reçoit la plate-forme, par des équipes de modération dont la composition et le fonctionnement restent aujourd’hui encore très opaques. Il faut dire que la question de la modération est une des principales épines dans le pied de sites comme Facebook ou Twitter, accusées de laisser proliférer sur leur plate-forme messages de haine et campagnes de harcèlement.

Depuis plusieurs années, les grandes entreprises du Web multiplient les annonces pour montrer leurs efforts : augmentation de leurs effectifs de modération, amélioration des outils de signalement ou soutien à des projets. Facebook a par exemple lancé, mardi 6 novembre, en France, un fonds d’un million d’euros pour « financer des projets qui innovent dans la promotion de comportements responsables en ligne ».

Snapchat, le bon élève

« Les réseaux sociaux ont fait des avancées pour protéger leurs utilisateurs, convient Samuel Comblez, mais ils peuvent sûrement progresser sur la rapidité et la prise en compte du contexte. »

« Ils ont parfois tendance à considérer qu’il n’y a pas de problème, alors que si on prend les messages dans leur contexte, il y en a un. Ils peuvent alors refuser la demande de la victime. Pour elle, c’est un deuxième coup de massue. Et c’est là qu’on entre en action. »

Avantage : l’association dispose de relations privilégiées avec les plates-formes, nouées au fil des années. « On connaît les personnes qu’il y a derrière, on vient chez eux, ils viennent chez nous », se réjouit M. Comblez. « S’il y a un vrai problème avec YouTube par exemple, je peux appeler quelqu’un de chez eux, là, tout de suite », déclare-t-il en brandissant son téléphone.

La procédure la plus classique consiste, pour l’association, à signaler un cas sur une adresse e-mail spécialisée que leur fournissent les plates-formes.

« Ce que nous avons, et que les réseaux sociaux n’ont pas, c’est du temps : nous, on peut prendre le temps de comprendre, d’estimer si une personne dit vrai ou pas. Donc si on écrit aux réseaux sociaux ils savent que c’est vrai. On profite de la confiance qu’on a auprès d’eux. Et la majorité de nos signalements obtiennent gain de cause. »

Une dizaine de messages de ce type sont transmis par jour. Ceux-ci sont envoyés, en anglais, aux équipes de modération – différentes de leurs contacts habituels chez ces plates-formes. « Ensuite, le chemin est flou. On ne sait pas où sont les modérateurs par exemple, précise-t-il. Mais nos demandes bénéficient d’un routage prioritaire, elles ne sont pas noyées dans la masse. » Résultat, la modération va « très vite ». Moins de douze heures dans la majorité des cas et « jamais plus de vingt-quatre heures ». Le meilleur « élève » est selon lui Snapchat, « qui réagit parfois en moins de cinq minutes, ou en quelques heures, tout au plus ».

« C’est normal qu’ils nous financent »

La collaboration entre e-Enfance et les plates-formes ne se limite pas à la gestion des signalements. Facebook et Google financent en partie l’association. Quant à Twitter et Snapchat, ils lui offrent de la visibilité, avec des espaces publicitaires gratuits, par exemple.

« C’est normal qu’ils nous financent, vu qu’on gère les problèmes sur leurs plates-formes, estime Justine Atlan, directrice de l’association. Certes, ces entreprises, avec leur logique économique, ont un fonctionnement très critiquable. Mais des utilisateurs détournent leurs outils d’une manière qu’ils n’imaginent pas, et ce sont des choses que, nous, on voit. Ils comptent sur nous pour leur faire remonter des informations, avant que cela ne devienne de gros problèmes et que cela nuise à leur image. »

Un réseau d’échange d’informations existe entre l’association, ces réseaux sociaux ou encore la plate-forme gouvernementale Pharos (qui permet aux internautes de signaler des contenus suspects), afin de repérer au plus vite les tendances problématiques. E-Enfance a par exemple reçu à la rentrée un message de Pharos, l’informant d’une rumeur selon laquelle une jeune Argentine se serait suicidée à cause d’un prétendu jeu macabre sur WhatsApp, le « Momo challenge ». « Ils voulaient savoir si nous avions des cas » en France, se souvient Samuel Comblez.

« On a aussitôt contacté Facebook, qui était déjà en alerte, et on s’est mis en lien avec le ministère de l’éducation nationale. Chaque réseau social nous a répondu, en nous disant ce qu’ils savaient, ce qu’ils faisaient, le vrai du faux… Bref, très vite, il y avait tout un dispositif prêt à se mettre en œuvre à tout moment, si tout à coup on se retrouvait avec cent cinquante cas dans la semaine. »

Ce qui n’est jamais arrivé. Jusqu’ici, aucune preuve n’a formellement attesté d’un lien entre des suicides et ce jeu, dont l’existence elle-même reste sujette à caution. Seul le suicide d’un adolescent de 14 ans, à la mi-octobre, en Bretagne, a été associé au Momo Challenge par le père de la victime. Il a déposé plainte contre YouTube, WhatsApp et un site de rencontres pour adolescents, tout en indiquant ne pas avoir de preuve que la mort de son fils était liée au Momo Challenge.

« On n’est pas des faire-valoir »

Aujourd’hui, en plus de former les membres de ces associations à leur politique de modération, les réseaux sociaux comme Facebook les invitent parfois à participer à la conception de leurs outils. « Par exemple, ils nous ont montré la version française de YouTube Kids avant qu’elle ne sorte, et ils ont pris en compte certaines de nos remarques. »

Ce partenariat avec e-Enfance, les plates-formes les brandissent fièrement. Une manière de polisser une image plus qu’écornée ? « On n’est pas les faire-valoir des réseaux sociaux, assume M. Comblez, mais on n’est pas dupes non plus, ils ont intérêt à communiquer sur leur travail avec nous. »

En somme, un échange de bons procédés : « Nous avons intérêt à ce que cela fonctionne bien avec eux pour rendre service au public. De leur côté, ils ont intérêt à ce que leurs utilisateurs se sentent en sécurité. »