Le 13 novembre 2015, les Français assistaient, médusés, aux pires attentats qu’ait connu le pays depuis la Seconde guerre mondiale. Le même soir, ils découvraient sur Facebook une fonction qui allait, malheureusement, leur devenir très familière. Une notification lourdement estampillée « contrôle d’absence de danger », les incitant à indiquer à leurs amis, en un clic, qu’ils étaient en sécurité. Pas moins de 4,1 millions de Français ont alors cliqué, informant 360 millions d’internautes qu’ils n’étaient pas en danger, selon les chiffres communiqués par Facebook. Une initiative bien accueillie, comme autant de petites lueurs d’espoir dans le chaos.

C’était la toute première fois que Facebook activait son safety check – le nom original – dans le cadre d’un attentat, alors qu’il n’était initialement conçu que pour répondre aux catastrophes naturelles. Un an plus tard, Facebook a complètement bouleversé le fonctionnement de son outil ; et pour cause : bien que plébiscité par l’usage, le safety check a été, peu après sa mise en œuvre en France, largement critiqué.

Deux poids, deux mesures

La veille, le 12 novembre, Beyrouth avait elle aussi été frappé par un sanglant attentat, qui avait provoqué la mort de 43 personnes, sans que le safety check ne soit lancé. Des voix se sont alors élevées contre le deux-poids deux-mesures. « À nous, on ne crée pas de bouton d’absence de danger sur Facebook », s’était indigné le blogueur libanais Joey Ayoub. Le 13 mars 2016, rebelote : Facebook est pointé du doigt pour avoir déployé le dispositif pour un attentat en Turquie, mais pas pour une attaque en Côte d’Ivoire à la même date.

Quelques jours plus tard, c’est une autre critique que subissait Facebook. Alors que Bruxelles était frappée par trois explosions, le 22 mars, les internautes s’étonnaient, et enrageaient parfois, de ce qu’ils considéraient comme un manque de réactivité de la part du réseau social, qui a mis environ trois heures à activer le safety check. Prouvant par la même occasion qu’en quelques mois seulement, cette fonctionnalité était devenue une évidence pour de nombreux utilisateurs de Facebook, comme un service public qui leur serait dû, au point peut-être d’oublier qu’une entreprise privée en était à l’origine.

L’origine du dispositif remonte au 11 mars 2011. La terre tremble au Japon, entraînant la catastrophe de Fukushima. Une équipe d’ingénieurs de Facebook, vivant dans le pays, décide alors de créer un espace, sur le réseau social, pour aiguiller les internautes vers des ressources utiles. C’est la première fois que Facebook s’implique dans la gestion de crise. Deux ans plus tard, alors qu’un attentat endeuille le marathon de Boston, le campus de Menlo Park, siège Californien de Facebook, est rongé par l’inquiétude : un des ingénieurs de l’entreprise, qui participait à la course, est injoignable. Ses collègues apprennent plus tard qu’il était hors de danger, mais l’idée de s’impliquer dans la gestion de crise revient sur la table.

Facebook organise alors un « hackathon », événement qui consiste à réunir un groupe de personnes pour développer de nouveaux outils très rapidement. « Nous avions trois jours, nous avons bu du Red-Bull, nous n’avons pas dormi, nous n’avons fait que coder », se souvient Peter Cottle, l’un des ingénieurs de Facebook qui a conçu le safety check. « Et à la fin, nous avions un prototype. » Un premier test est effectué sur le campus de Menlo Park, un vendredi. Prévenus à l’avance, tous les salariés ont simultanément reçu des notifications sur leur téléphone. « En 10-15 minutes, la majorité d’entre eux avaient indiqué qu’ils étaient en sécurité », raconte-t-il au Monde, toujours un peu émerveillé. « C’est là qu’on a vraiment vendu le safety check en interne. Les gens ont compris que si quelque chose se passait, on pouvait désormais très rapidement faire savoir qu’on allait bien et se renseigner sur les autres. »

Une mise en œuvre délicate

Le « safety check » a été activé lors des attentats du 22 mars à Bruxelles. | Facebook

Officiellement lancé en octobre 2014, le dispositif est initialement conçu pour répondre aux catastrophes naturelles. Dans les mois qui suivront, il sera par exemple déployé après le séisme au Népal, après des tremblements de terre en Afghanistan et au Chili ou encore lors du Typhon Ruby aux Philippines. Jusqu’à ce 13 novembre 2015, où Facebook décide, dans l’urgence, de l’activer pour la première fois dans le cadre d’une attaque terroriste.

Le safety check que les Français découvrent alors fonctionne ainsi : l’entreprise décide seule, en fonction des événements, de l’activer. Elle détermine alors la zone géographique concernée, dans laquelle tous ses utilisateurs recevront une notification les invitant à indiquer qu’ils sont en sécurité. Une mise en œuvre délicate : pour quel événement faut-il le déclencher ou non ? À quel moment exactement ? Il ne faut pas arriver trop tard, mais pas trop tôt non plus, au cas où le risque ne soit pas encore éloigné – il ne faudrait pas qu’un utilisateur rassure ses proches avant d’être lui-même victime du drame.

Une fois que la décision a été prise de lancer l’opération, Facebook doit encore faire face à quelques contraintes techniques. Déployer le safety check sur une zone précise nécessite un peu de développement technique. Le message qui s’affiche doit aussi être traduit dans la langue du pays concerné, et renvoyer vers des numéros d’urgence et des sites officiels : des opérations qui prennent du temps, et qui expliquent pourquoi Facebook a mis trois heures à proposer le safety check à Bruxelles.

En intégrant les attaques terroristes, le dispositif est déployé de plus en plus souvent : 17 fois sur la première moitié de l’année 2016, contre 11 fois les deux années précédentes. « Nous avons investi dans les équipes, dans l’infrastructure, dans la traduction », explique Peter Cottle. « Et puis on s’est dit : c’est quoi la prochaine étape ? »

Désormais, ce sont les internautes qui le déploient

Pour répondre aux nombreuses critiques, mais aussi aux personnes leur signalant que le safety check serait utile pour tout une palette de situations très différentes, Facebook décide de changer radicalement le fonctionnement de son dispositif. Dorénavant, ce ne sera plus l’entreprise qui décidera de le déployer, mais la communauté d’utilisateurs elle-même – c’est en tout cas comme cela que Facebook le présente.

Plus exactement, c’est aujourd’hui un programme informatique qui propose automatiquement, dans des situations potentiellement à risque, à une petite portion d’utilisateurs d’utiliser le safety check. Et de le déployer, s’ils le souhaitent, à plus grande échelle, comme l’explique Peter Cottle :

« Si vous avez parlé sur Facebook de la situation en question et que vous êtes dans la zone concernée, on vous enverra une notification disant : “Hey, vous avez publié quelque chose sur cet événement, est-ce que vous souhaitez indiquer que vous êtes en sécurité ?”. Ce qui est intéressant, c’est que nous écoutons la façon dont les gens réagissent à cela. Nous demandons à quelques personnes, et si aucune ne veut l’utiliser, on arrête de demander. Mais si les gens trouvent ça utile, on leur donne la possibilité de demander à leurs amis de faire de même. »

Ainsi, le safety check se déploie de façon virale, d’utilisateur en utilisateur, à partir de cet échantillon d’internautes choisis par l’algorithme, en fonction des événements.

« Le safety check s’autorégule »

Mais comment ce programme sait-il quels événements et quels utilisateurs présentent éventuellement des risques ? Facebook reçoit en fait, en temps réel, un flux d’informations détaillant les milliers d’événements se déroulant dans le monde. Celles-ci sont notamment fournies par des entreprises de sécurité avec lesquelles travaillent de grandes sociétés comme Facebook, souvent pour tout autre chose : s’assurer par exemple que leurs employés, dispersés aux quatre coins du monde, parfois dans des zones dangereuses, sont en sécurité.

Quand le programme remarque un pic soudain de conversations sur le réseau social à propos d’un de ces événements, il envoie une notification safety check à quelques utilisateurs ayant publié un message sur l’événement et se trouvant dans la zone concernée. Ensuite, c’est à eux, explique Facebook, de décider d’y répondre, de l’étendre ou d’y mettre fin.

« Le safety check s’autorégule de cette façon », se félicite Peter Cottle. C’est par exemple de cette façon que le dispositif a commencé à se déployer à Munich, après la fusillade qui a coûté la vie à neuf personnes en juillet :

« Nous n’avons plus besoin que Facebook regarde tous les paramètres avant de le déclencher, nous n’avons plus besoin d’évaluer l’échelle de l’événement. Tout ce que nous avons besoin de savoir, c’est que quelque chose de grave est arrivé à Munich et que des gens sont inquiets à propos de leurs amis. C’est là que le safety check se déploie. »

Pour lui, ce nouveau système permet d’être plus pertinent en touchant les personnes vraiment concernées, même s’il s’agit de petites communautés. « Il a été activé pour un incendie de forêt sur l’île de Madère, au Portugal. Ça n’a pas vraiment intéressé à l’échelle mondiale, il n’y a pas eu beaucoup de couverture médiatique, mais les habitants ont été très fortement affectés et ont trouvé le safety check très utile. »

Déresponsabilisation

Ce nouveau fonctionnement est aussi une manière, pour Facebook, de se déresponsabiliser en cas de nouvelles polémiques : le réseau social peut se retrancher, si le déploiement du safety check est critiqué, derrière la communauté. Ce fut par exemple le cas lors des manifestations de septembre à Charlotte, aux États-Unis, après la mort de Keith Lamont Scott, un Afro-Américain de 43 ans abattu par un policier.

Le safety check avait été activé, à la grande surprise de nombreux internautes, qui avaient critiqué Facebook, considérant que le déployer à cette occasion était une forme de racisme. « Vraiment Facebook ? Vous avez lancé le safety check pour les manifestations de Charlotte. Et renforcé le stéréotype que des personnes noires qui manifestent sont dangereuses », pouvait-on par exemple lire sur Twitter. Le journaliste américain Victor Luckerson avait bien résumé la problématique : « Facebook qui déclenche le safety check pour les manifestations de Charlotte est un exemple de comment une plate-forme “neutre” peut néanmoins éditorialiser une situation. »

A ce moment-là, la plupart des utilisateurs ne savaient pas que personne, chez Facebook, n’avait sciemment décidé de déclencher le système pour ces manifestations. Le réseau social a ainsi pu se justifier, expliquant que c’étaient les utilisateurs eux-mêmes qui avaient déclenché ce safety check. Une manière de présenter les choses, puisque l’initiative vient bien d’un programme automatique conçu par Facebook – que les utilisateurs décident individuellement de propager ou non.

Le problème posé lors des manifestations de Charlotte risque de ne pas être le dernier. Et d’autres types de critiques arriveront sans doute. Le safety check pourrait, avec ce nouveau système, être déclenché trop tôt – et des utilisateurs indiquer qu’ils vont bien avant d’être touchés. « Il y a plus de responsabilité sur les épaules des individus maintenant, ils doivent indiquer qu’ils sont en sécurité quand ils sont prêts », répond Peter Cottle. « On leur délègue le timing. Ce n’est pas à Facebook de décider pour les gens quand est-ce qu’ils se sentent en sécurité ». N’y a-t-il pas aussi un risque que le safety check soit déclenché trop souvent, pour tous types d’événements, que les internautes s’y habituent et qu’il perde en puissance ? Entre juin et début octobre, le safety check a été activé pas moins de 250 fois à travers le monde de cette manière, selon les chiffres de l’entreprise.

Malgré ce nouveau fonctionnement, Facebook continue à garder la main sur certains événements. Lors de l’attentat de Nice, le safety check a commencé à se déployer par lui-même, appuyé par les utilisateurs, avant que Facebook ne le déclenche officiellement et massivement sur toute la zone. L’entreprise ne compte pas en rester là. Comme l’expliquait le 10 novembre le magazine spécialisé Wired, Facebook ambitionne de développer ses fonctionnalités relatives à la gestion de crise, en centralisant dans un seul et même espace safety check, mais aussi flux informations, vidéos en direct, et surtout des moyens de coordonner les efforts des personnes souhaitant apporter leur aide. Le safety check, quant à lui, reste à l’état de test permanent, assure l’ingénieur. « Il change tous les jours ».