Le gouvernement britannique lance un logiciel pour détecter les vidéos djihadistes
Le gouvernement britannique lance un logiciel pour détecter les vidéos djihadistes
Par Perrine Signoret
L’outil, financé par le Royaume-Uni, a été pensé pour détecter les vidéos problématiques, et ainsi faciliter le travail des modérateurs de certains sites.
Pour lutter contre la diffusion en ligne de vidéos de propagande de l’organisation djihadiste Etat islamique (EI), le gouvernement britannique a financé le développement d’un algorithme censé les détecter, a annoncé mardi 13 février le ministère de l’intérieur dans un communiqué. Objectif : le mettre à disposition de sites qui n’ont pas les moyens de créer leurs propres outils de détection.
Le ministère ne précise toutefois pas quelles conditions sont nécessaires pour accéder à cet outil. « Cette technologie sera mise à disposition gratuitement à toute plateforme qui en aura besoin », annonce de son côté, sans donner plus de détails, l’entreprise ASI Data Science.
C’est elle qui a été missionnée pour mettre au point ce programme, avec 600 000 livres (674 000 euros) de fonds publics. Cette petite entreprise londonienne vante les prouesses de son programme, capable, selon elle, de détecter 94 % des contenus de propagande de l’EI. Elle estime le taux d’erreur, c’est-à-dire le nombre de vidéos identifiées à tort comme étant problématiques, à environ 0,005 %.
Pour fonctionner, le programme d’intelligence artificielle a analysé un millier de vidéos de propagande de l’EI afin d’apprendre à les reconnaître. Il se base notamment sur plusieurs critères pour les détecter. Certains renvoient à des éléments audio ou visuels, comme des logos ou des symboles utilisés par l’EI. D’autres concernent, eux, le contenu des métadonnées, c’est-à-dire les informations liées à la vidéo. Par exemple : de quel pays a été mise en ligne une vidéo.
Les petites plates-formes « de plus en plus ciblées »
Les entreprises de plus grande taille, comme Facebook et YouTube, ne sont pas la cible de ce logiciel, mais l’ont en partie inspiré, explique le ministère :
« Beaucoup des grandes entreprises tech ont développé leur propre technologie pour leur plate-forme et ont affirmé que cela faisait une différence dans leur combat contre le contenu terroriste. Les plus petites plates-formes, en revanche, sont de plus en plus ciblées par l’EI et ses soutiens, et n’ont pas souvent le même niveau de ressources pour développer ces technologies. »
Les autorités britanniques ont pourtant régulièrement critiqué ces grandes entreprises, les accusant de ne pas filtrer avec assez d’efficacité les contenus de propagande. En avril 2017, plusieurs ministres britanniques avaient ainsi jugé dans un rapport « honteux » le travail de Google (qui détient YouTube), Facebook et Twitter à ce sujet.
Quelques mois plus tard, en décembre, YouTube annonçait avoir supprimé plus de 150 000 vidéos faisant la promotion de l’extrémisme et de la violence depuis juin. Sa présidente-directrice générale, Susan Wojcicki, avait aussi annoncé que 98 % d’entre elles avaient été repérées grâce à des algorithmes. A la fin de novembre, Facebook estimait que ce pourcentage s’élevait chez elle à 99 %.
