Après l’attentat de Christchurch, la première ministre néo-zélandaise, Jacinda Ardern, et le président français, Emmanuel Macron, ont décidé d’une action commune contre le terrorisme en ligne. / PHILIPPE WOJAZER / REUTERS

Comment mieux lutter contre les contenus à caractère terroriste en ligne ? Cette question hante les autorités de nombreux pays et les états-majors des principaux réseaux sociaux depuis 2015 et la série d’attentats de l’organisation Etat islamique en Europe.

L’attentat antimusulman de Christchurch, en Nouvelle-Zélande, le 15 mars, lors duquel 51 personnes ont été tuées dans deux mosquées, a remis la question sur le devant de la scène : le terroriste, imprégné de la rhétorique de l’extrême droite en ligne, a conçu son attaque pour un maximum de viralité.

Un appel général non contraignant

Dans les jours qui ont suivi le drame, la première ministre néo-zélandaise, Jacinda Ardern, et le président français, Emmanuel Macron, ont décidé d’une action commune. Paris et Wellington ont donc travaillé sur « l’appel de Christchurch », un texte de trois pages détaillant les engagements des gouvernements et des entreprises de l’Internet dans la lutte contre les contenus terroristes, qui a été présenté mercredi 15 mai à Paris.

Cet appel se veut de portée générale, contre toutes les formes de « contenus terroristes et extrémistes violents » et ne fait pas de distinction entre terrorisme djihadiste, contre lequel les principaux réseaux sociaux ont mis en place des mesures depuis plusieurs années, et d’autres formes d’actions violentes. S’il a été inspiré par l’attentat de Christchurch, auquel il fait implicitement référence, le texte ne désigne ainsi aucune idéologie en particulier.

Cet appel se veut dans la lignée de l’appel de Paris pour la paix dans le cyberespace : non contraignant et pouvant être adopté à la fois par des Etats, des entreprises privées ou des organisations. « L’innovation dans les usages [d’Internet] crée sans cesse de nouvelles menaces : il faut s’adapter, cesser d’être dans la réaction et faire dans l’anticipation », justifie-t-on à l’Elysée.

Facebook, Microsoft, Google et Twitter figurent parmi les entreprises ayant adopté l’appel. Côté Etats, outre la France et la Nouvelle-Zélande, le Royaume-Uni, l’Irlande ou le Sénégal, entre autres, figurent parmi les premiers noms. Il n’y aura pas de signataires à proprement parler, fait-on savoir à l’Elysée, mais il sera possible aux Etats et aux entreprises d’y apporter leur « soutien ».

Dans ce texte, les gouvernements s’engagent à tout faire pour que leurs sociétés « résiste[nt] aux idéologies terroristes et extrémistes violentes » ; à appliquer les lois existantes en matière de retrait de contenus terroristes sur Internet ; à encourager les médias à ne pas amplifier l’idéologie terroriste lors de leur couverture des attentats ; à aider les entreprises de l’Internet, quelle que soit leur taille, à éradiquer les contenus terroristes en ligne.

L’appel enjoint aussi les Etats à travailler avec les entreprises d’Internet pour développer les outils technologiques susceptibles de bloquer les messages à caractère terroriste. Le texte prévoit également que les gouvernements et les entreprises soutenant cet appel aident les plus petites plates-formes dans leur lutte contre ce type de contenu, et mettent en place des mécanismes pour répondre en cas d’événement terroriste s’accompagnant d’une diffusion sur les réseaux sociaux.

Pour les réseaux sociaux, des engagements consensuels

Les engagements prévus du côté des entreprises sont, pour l’essentiel, déjà respectés par les principaux réseaux sociaux. « L’appel de Christchurch » les somme de prendre concrètement des mesures pour supprimer de leur(s) réseau(x) les contenus terroristes, et empêcher qu’ils y soient republiés.

L’appel cite, par exemple, l’amélioration et la généralisation de bases de données communes de contenus prohibés. Cette base de données partagée par les géants du numérique a été créée en 2016 sous l’égide de la Commission européenne et compte aujourd’hui plus de 100 000 contenus qui sont automatiquement détectés comme étant de la propagande terroriste.

Le texte incite aussi les plates-formes sociales à davantage de transparence dans leurs règles qui délimitent ce que les utilisateurs peuvent ou non poster sur leurs services, notamment ce qu’ils risquent à partager du contenu violent ou terroriste, mais aussi à appliquer ces règles en priorité aux contenus terroristes.

L’appel réclame enfin des entreprises du numérique qu’elles donnent des chiffres sur la quantité de contenus terroristes supprimés. Un décompte que tiennent déjà les principaux réseaux sociaux : Facebook a par exemple récemment expliqué que les contenus terroristes sont pour 99 % d’entre eux détectés par ses propres outils, et que la moitié d’entre eux restent en ligne moins de deux minutes. Twitter, pour sa part, a annoncé avoir supprimé, lors du second semestre 2018, plus de 160 000 comptes pour « terrorisme », dont 91 % sans signalement extérieur. Une écrasante majorité de ces contenus sont liés au terrorisme djihadiste.

De fait, la plupart des experts s’accordent à dire que les grands réseaux sociaux ont considérablement compliqué l’existence des groupes terroristes djihadistes sur leurs services. En décembre 2018, la Commission européenne, en pointe sur ces questions, saluait leurs « progrès » dans la lutte contre le terrorisme en ligne. « Il y a eu pas mal de progrès et une prise de conscience par les entreprises de ce qu’elles devaient faire », reconnaît-on aussi à l’Elysée.

Nouveaux phénomènes

Deux nouvelles dynamiques interrogent aujourd’hui autorités et responsables des entreprises du Web. D’une part l’arrivée des organisations terroristes sur des plates-formes de moindre ampleur (des sites d’hébergement de fichiers comme Mega ou Mediafire), qui ne disposent pas des moyens financiers et technologiques des grandes plates-formes pour y faire face. « L’appel de Christchurch » mentionne ainsi à plusieurs reprises l’aide à apporter à ce type d’acteurs.

D’autre part, le terrorisme d’extrême droite, dont l’attentat de Christchurch a rappelé qu’elle disposait de très solides assises sur les réseaux sociaux traditionnels et pouvait, elle aussi, être extrêmement dangereuse. Deux éléments de l’appel font indirectement référence à l’attentat survenu en Nouvelle-Zélande :

• Le texte réclame d’abord des « mesures efficaces et immédiates » pour « atténuer les risques particuliers de diffusion de contenus terroristes et extrémistes violents dans le cadre de flux en direct », alors que la plupart des réseaux sociaux proposent à leurs utilisateurs des moyens encore accessibles à tous de diffuser des vidéos en direct. Le terroriste de Christchurch avait justement diffusé son acte en direct sur Facebook. A l’occasion de « l’appel de Christchurch », Facebook a annoncé une limitation, marginale, de cette fonctionnalité.
• L’appel se penche aussi sur l’épineuse question du rôle des algorithmes des réseaux sociaux dans les processus de radicalisation. Un débat brûlant : dans la foulée de l’attentat de Christchurch, il a été reproché aux plates-formes de promouvoir mécaniquement certaines rhétoriques extrémistes débouchant parfois sur des actes violents. Dans le texte, les plates-formes s’engagent à « examiner les formules des algorithmes et les autres processus pouvant orienter les utilisateurs vers des contenus terroristes et extrémistes violents et/ou amplifier ces contenus ».

Le soutien des Etats-Unis reste timide

Malgré ces références implicites, « l’appel de Christchurch » ne mentionne pas directement le terrorisme d’extrême droite, pourtant à l’œuvre dans l’attentat qui lui a donné son nom. C’est au prix d’une intense pression politique, et en nommant l’ennemi djihadiste, que les pays occidentaux, et en premier lieu la France, avaient pourtant contraint les entreprises de la Silicon Valley à prendre au sérieux la question.

« L’appel de Christchurch » ne semble pas devoir s’engager dans un tel rapport de force en ce qui concerne le terrorisme d’extrême droite. Le poids des réseaux sociaux dans son existence est pourtant réel. Au-delà de l’attentat en Nouvelle-Zélande, de plus en plus d’experts pointent la responsabilité des grands réseaux sociaux dans la propagation d’une rhétorique xénophobe, homophobe et violente. Et face à cela, les actions des plates-formes sont encore timides.

Le terrorisme d’extrême droite est, en ligne, plus difficile à combattre que le terrorisme islamiste : d’une part, il ne procède pas d’organisations structurées comparables à l’organisation Etat islamique ou Al-Qaida ; d’autre part, sa matrice idéologique profite de la protection de la liberté d’expression offerte par la Constitution des Etats-Unis, où siègent les principales plates-formes. Si la place des contenus issus de l’extrême droite violente sur les réseaux sociaux fait débat aux Etats-Unis, il est de fait délicat de mentionner dans un texte diplomatique de portée générale une distinction nette et systématique entre le corpus idéologique et les appels clairs à l’action violente.

Une mention plus claire de l’idéologie d’extrême droite, dont Donald Trump est proche, aurait en outre obéré le ralliement de Washington à cet appel. Les Etats-Unis ne font pas partie des premiers soutiens du texte, et participeront à sa présentation en tant que simples observateurs, fait savoir l’Elysée.

Cette question se posera également lors de la réunion des ministres du numérique des pays du G7, qui se réunissent également cette semaine à Paris. Ils y négocieront une charte pour lutter contre les contenus violents, dans une définition plus large que « l’appel de Christchurch ». Cette charte devrait insister sur la transparence et les obligations de moyens du côté des grandes plates-formes et inciter à davantage de prévention et d’éducation, explique-t-on au gouvernement.

La France espère trouver une définition commune des contenus dont Internet doit être débarrassé, mais les négociations se heurtent déjà aux clivages culturels avec les pays anglo-saxons. Paris n’exclut d’ailleurs pas que les Etats-Unis refusent de se rallier à cette charte. « Nous préférerons renoncer à l’unanimité qu’avoir un texte vide », fait-on valoir au secrétariat d’état au numérique.