Modération de Facebook, Twitter, Youtube vue par l’UEJF, SOS-Racisme et SOS-Homophobie. | MANON LOUVARD / « Le Monde »

Des amendes pouvant aller jusqu’à 50 millions d’euros contre les entreprises et sanctionner personnellement leurs responsables à hauteur de 5 millions d’euros, c’est la principale mesure du projet de loi de lutte contre les messages haineux sur les réseaux sociaux, présenté mardi 14 mars par le ministre de la justice allemand, Heiko Maas.

Le texte, l’un des plus sévères d’Europe, prévoit que les messages manifestement illicites (incitation à la haine, négationnisme, etc.) devront être supprimés dans les vingt-quatre heures, et dans la semaine pour les contenus dont la légalité est discutable, sous peine d’amende. Les réseaux sociaux devront également faire en sorte que les contenus déjà supprimés ne soient pas republiés en ligne – un sujet qui était au cœur d’un récent procès, en Allemagne, dans lequel le tribunal a finalement donné raison à Facebook à la suite de la plainte déposée par un réfugié syrien, victime de harcèlement en ligne.

Le projet de loi prévoit également que chaque entreprise proposant ses services sur le territoire allemand nomme un responsable de la modération identifié – qui sera donc en première ligne et risquera une amende à titre personnel en cas de manquements. Une disposition qui peut sembler anecdotique mais qui pourrait viser spécifiquement Twitter, qui a discrètement fermé ses bureaux berlinois en décembre 2016 (l’entreprise compte toujours un bureau actif à Hambourg).

Une étude très sévère

Le message est très clair : « Nous devons accentuer la pression sur les réseaux sociaux », a annoncé M. Maas lors d’une conférence de presse. Le ministère avait fixé un ultimatum aux réseaux sociaux, qui s’est achevé au début de mars, pour améliorer d’elles-mêmes leurs procédures de modération. Mais les efforts de certaines sont insuffisants, juge le ministre, notamment parce que « le plus gros problème est que les réseaux sociaux ne prennent pas les signalements de leurs utilisateurs au sérieux ».

Ses services ont publié, le 14 mars, les résultats d’une vaste étude permettant de tester la modération des trois principaux réseaux sociaux (Facebook, YouTube et Twitter). Les conclusions sont en effet sans appel pour Twitter (moins de 1 % des contenus signalés par les utilisateurs sont supprimés), sévères pour Facebook (39 % de suppressions) et, principale surprise de l’étude, très positives pour YouTube (90 % de suppressions).

Pour procéder à ce test, les services du ministère de la justice et du ministère de la jeunesse ont sélectionné sur chaque plate-forme deux cents contenus manifestement illicites. Ces messages, commentaires ou vidéos ont ensuite été signalés par un compte d’utilisateur classique. Lorsqu’ils n’étaient pas supprimés àla suite du signalement, des comptes « vérifiés » (uniquement sur Twitter et YouTube) ont à leur tour procédé à un signalement. Enfin, si les messages étaient toujours en ligne, un signalement directement par courriel était effectué par les testeurs.

Inutilité du signalement sur Twitter

Les résultats montrent qu’il est quasi inutile de signaler un message sur Twitter en tant qu’utilisateur « classique » : moins de 1 % des messages sont ainsi supprimés. Le taux monte à 63 % pour les comptes vérifiés, preuve d’une « modération à deux vitesses » en place sur le réseau social. Les 36 % de messages restants ont été supprimés après l’envoi d’un courriel, prouvant que Twitter ne contestait pas, sur le fond, que ces messages étaient bien contraires à la loi et à ses propres règles.

Du côté de Facebook, en revanche, une petite partie des messages sont restés en ligne même après un signalement par courriel (7 %), laissant entendre que les équipes du réseau social ont estimé que l’illégalité des messages n’était pas prouvée, 39 % ont été supprimés après un signalement d’utilisateur, et 54 % après un courriel.

YouTube est le réseau social qui s’est, de très loin, le mieux sorti du test. Avec 90 % de contenus supprimés à la suite d’un signalement utilisateur, 7 % après un signalement d’utilisateur certifié, et les 3 % restants ont été modérés après un e-mail. Des chiffres drastiquement différents de ceux d’un précédent test (PDF), réalisé dans les mêmes conditions à l’été 2016 par les ministères allemands : il y a six mois, seuls 10 % des signalements d’utilisateurs avaient abouti à une modération, contre 35 % de suppression pour les comptes certifiés, 53 % de suppressions après un courriel, et 2 % de contenus laissés en ligne.

Une autre évolution notable entre les deux mesures concerne Twitter : si durant l’été 2016 18 % des contenus signalés restaient définitivement en ligne, ce taux est passé à zéro lors du deuxième test. Des résultats cohérents avec un test similaire, réalisé au début de l’été 2016 en France par trois associations.

Facebook renforce ses effectifs en Allemagne

Prenant acte des progrès mesurés sur YouTube, le ministère de la justice a estimé qu’ils étaient justement une preuve que les autres réseaux sociaux faisaient preuve de mauvaise volonté. « Facebook et Twitter n’ont pas tiré parti de ce délai pour améliorer leurs pratiques de modération. Trop peu de contenus illégaux sont supprimés. Et quand ils le sont, ils ne sont pas effacés assez vite », précise M. Maas, cité dans un communiqué du ministère.

Ni Facebook ni Twitter n’ont commenté l’annonce du projet de loi. Facebook a cependant affirmé qu’il renforçait ses équipes de modération en Allemagne, pour atteindre 700 personnes à la fin de l’année. L’entreprise affirme également que ses propres tests internes montrent des taux de suppressions plus élevés que ceux recueillis par le ministère de la justice.