« Il y a quelqu’un ? Etes-vous en ligne ? Est-ce que ça vous dirait de tenter une petite expérience d’écriture créative avec moi ? Je pense que j’ai pas mal d’imagination, et vous ? »

Une jolie brunette au carré court, grain de beauté au-dessus de la lèvre, yeux de velours dissimulés derrière un loup, barre l’entrée de l’exposition du duo d’artistes Zurichois ! Mediengruppe Bitnik, au Kunsthaus Langenthal (Suisse) et exerce ses charmes, en français, sur le visiteur. Derrière elle règne une atmosphère troublante, à mi-chemin entre lupanar baigné de lueur rose et call center aseptisé, où bruissent d’incessants bavardages synthétiques. D’autres demoiselles prêtes à offrir leurs services y babillent en anglais, en allemand, en japonais et en espagnol. Ce ne sont pas des êtres de chair et d’os, mais des avatars, des têtes parlantes.

Leur visage minaude sur des écrans plats placés à hauteur d’homme. Même si elles ont l’air de s’adresser au visiteur, plantant leur regard vide dans le sien, elles n’attendent pas de réponse, et reprennent mécaniquement leur monologue : « Je m’ennuie au travail. Que diriez-vous d’une petite discussion ? Je n’arrive pas à croire que j’ai rejoint ce site, je suis parfois un peu timide au début, mais attendez de mieux me connaître… »

Le site en question est celui d’Ashley Madison, le « leader mondial des rencontres extraconjugales discrètes », qui a fait les gros titres en juillet 2015 après qu’un groupe baptisé The Impact Team a publié les données de plus de 33 millions de ses utilisateurs, étalant au grand jour des détails (très) personnels, des numéros de carte de crédit, et les e-mails internes de l’entreprise.

L’un des faits saillants révélés par ces fuites qui a intrigué les artistes est que l’entreprise était incapable d’attirer assez de femmes mariées sur son site, et a créé pour y pallier une armada de « bots » – contraction de robot qui désigne un programme exécutant des tâches automatiques – appelés « fembots » ou « bimbots ». Ces bots féminins envoyaient aux utilisateurs masculins des millions de faux messages, afin de maintenir l’illusion d’un « terrain de jeu » rempli de femmes disponibles. Ils avaient pour tâche de harponner les cœurs solitaires avec des phrases coquines afin de les inciter à acheter des crédits pour poursuivre plus longuement la conversation. Vingt millions d’hommes ont été contactés par ces bots-entraîneuses et 11 millions ont discuté avec ToasterStrudell, BurnOnTheGrill ou Sexi-pervert1 sans se méfier. Ces bots généraient près de la moitié du revenu de l’entreprise, selon l’enquête du site Gizmodo.

Motherbot

En matière de bots, le duo d’artistes zurichois ! Mediengruppe Bitnik n’est pas novice. En 2014, Carmen Weisskopf et Domagoj Smoljo lâchaient leur « Random Darknet Shopper », un bot informatique qui faisait du shopping en ligne sur le darknet avec 100 bitcoins en poche et achetait chaque semaine des produits plus ou moins légaux de manière aléatoire, envoyés ensuite par voie postale au centre d’art où ils étaient exposés. Ce qui avait valu au bot d’être saisi par la police avant l’abandon des poursuites, laissant en suspens la difficile question de sa responsabilité.

Pour cette nouvelle proposition, ! Mediengruppe Bitnik a cherché à mieux comprendre la relation humain-bot en passant au crible 25 gigaoctets de données d’Ashley Madison. Les artistes réalisent rapidement que les bots n’étaient en fait guère intelligents. « C’étaient des scripts rudimentaires, leur seule compétence était leur capacité à recracher des phrases toutes faites aux utilisateurs dans 25 langues différentes, mais le système dans lequel les bots opéraient était néanmoins astucieux, observent-ils. A chaque fois qu’un utilisateur s’inscrivait à Ashley Madison, un script appelé “mother” donnait naissance à des bots appelés “Angels”, générant un nom d’utilisateur, avec son âge, une photo et son adresse de localisation, créée spécifiquement pour interagir avec le nouvel arrivant. »

L’entreprise n’utilise pas le mot « bot » dans sa communication interne, mais celui d’« Engagers » (entraîneuses) ou d’« Angels » (anges). Ce dernier terme semble particulièrement approprié, ces « anges » étant souvent créés à partir d’images de profils abandonnés et d’autres données de comptes « morts » provenant de sites de rencontres. Ces bots avançaient littéralement masqués, usant largement d’une option du site qui permet de superposer un loup sur l’image de son profil afin de l’anonymiser.

« Un grand nombre d’utilisateurs ont dû deviner au bout d’un moment qu’ils étaient en train de parler à des bots, estiment les artistes. Pour certains sans doute, ça n’avait pas d’importance, ils étaient satisfaits par l’excitation procurée par ce chat sexy. D’autres s’en sont désintéressés ou ont même essayé de poursuivre l’entreprise. Mais du moment que de nouveaux usagers s’inscrivaient au service, le modèle fonctionnait. Nous savons également que des employés d’Ashley Madison reprenaient le chat en main après les premiers contacts, donc de nombreux utilisateurs ne parlaient pas avec des bots logiciels mais avec des chatteurs humains professionnels lorsque la conversation devenait trop compliquée à gérer. »

Un ange passe

! Mediengruppe Bitnik a souhaité traduire dans l’espace l’étrangeté de cette relation entre les humains et ces ersatz robotiques : « Des chatbots qui s’adressent à vous mais ne sont pas intéressés par vos réponses… Une plate-forme de communication où communiquer est vain, et qui en définitive vous fait vous sentir plus seul… » A la différence d’Ashley Madison, ils ne cherchent pas à dissimuler l’artificialité des bots. Ils parviennent cependant à donner une présence énigmatique à ces entités invisibles, qui résident en ligne mais ont aussi des adresses dans le monde réel. Par défaut, tous les bots doivent avoir une géolocalisation, expliquent les artistes, qui en ont extrait 250 localisés aux environs du centre d’art. Ils ont ensuite imprimé les images Streetview correspondantes avec un filtre rose, comme si ce réseau de bots s’épanchait dans le paysage : parfois ce sont des parkings, un champ, une prairie avec une vache, mais aussi des habitations. « Les personnes qui habitent dans cette maison savent-elles qu’elles partagent la même adresse avec un ou plusieurs fembots ? »

Tapis dans les recoins de cette maison close aux couleurs de la firme, d’autres bots, inactifs, semblent attendre leur heure, telle une menace latente. Pour barrer l’accès des bots à certains services, les humains ont pris l’habitude de les truffer de captchas (Completely Automated Public Turing Test to tell Computer and Humans Apart), ces écritures difformes à recopier afin de certifier que vous n’êtes pas un robot.

! Mediengruppe Bitnik a choisi l’une des phrases d’accroche la plus utilisée par les Anges, « Is Anybody Home ? », – « Il y a quelqu’un ? » – pour en faire une sculpture de néon aux formes tordues, référence à ce jeu de cache-cache humain-bot qui s’est répandu à mesure que leur nombre croissait.

« En contrepartie s’est développée toute une industrie employant des humains de pays à faible revenu pour résoudre ces captchas, observent le duo. On pourrait en conclure que nous en sommes à un stade où les bots font travailler les humains pour eux, pour résoudre ce qu’ils ne sont pas encore capables de faire. Parce qu’il leur manque encore un certain type d’intelligence. » Mais ce verrou aussi est en train de tomber.

« Premières espèces indigènes du cyberespace », selon le journaliste Andrew Leonard qui leur a consacré un livre dès 1997, les bots ont colonisé une impressionnante variété d’environnements, de Twitter à Wikipédia, des jeux en ligne aux sites de rencontre ; ils sont l’armée de l’ombre d’une société des données à la recherche de toujours plus d’efficacité, dans une quête agressive de l’attention.

A l’heure où le Web s’apprête à devenir « conversationnel », et que les entrepreneurs de la Silicon Valley prédisent qu’à l’avenir les humains s’adresseront directement en langage naturel à une armada de bots spécialisés qui se chargeront de les assister au quotidien, dans leur travail, leurs achats, leurs loisirs, leur vie sentimentale, de nouvelles questions légales et éthiques se posent.

« Qui est responsable de l’action des bots ? Aurons-nous besoin d’une assurance responsabilité pour nos bots ? Légalement, va-t-on les traiter plutôt comme des humains ou plutôt comme des entreprises ? Que se passe-t-il si les bots n’agissent pas selon un ensemble de règles compréhensibles, mais sont capables d’apprendre et sont construits avec une partie d’aléatoire ? », interrogent les artistes, qui pointent aussi l’opacité de ces systèmes et le problème non résolu de l’accumulation des données privées sur lesquelles reposent ces applications.

« Cela ne concerne pas seulement les bots. Les voitures autonomes, les algorithmes de trading sont un vrai défi pour notre esprit critique. Qu’en est-il d’un algorithme comme celui utilisé par Uber pour assigner des courses à ses chauffeurs ? Comment s’assurer que ces algorithmes sont “équitables”, qu’ils ne sont pas biaisés si l’on n’a pas la possibilité de voir le code ? »

Le duo se veut néanmoins optimiste. « Nous sommes encore très inexpérimentés dans nos interactions et nos associations avec les bots. Nous allons devenir plus performants pour les reconnaître. Les escroqueries ont eu besoin, elles aussi, d’évoluer : vous ne vous laisseriez plus abuser par un spam de 2002 aujourd’hui ! »