«Comment fait-on pour que les hommes cessent de violer ? » De nombreux comptes de militantes féministes ont été suspendus le week-end dernier pour avoir posé cette question sur Twitter. Le réseau social « m’a forcée à supprimer le tweet et m’a sanctionnée pour l’avoir écrit, en me privant d’accès à mon compte pendant douze heures. Pourtant ce message ne contenait ni propos insultants ou outranciers, ni appels à la violence », s’est indignée Mélusine, très engagée dans la cause féministe et antiraciste.

Comme elle, plusieurs comptes de militantes ont été suspendus, juste pour avoir relayé ces quelques mots. De nombreux internautes, indignés, ont alors lancé le hashtag #CommentFaitOnPourQueLesHommesCessentDeVioler, repris par des personnalités comme l’autrice Mona Chollet ou la dessinatrice Pénélope Bagieu. Interpellé par plusieurs médias, Twitter a finalement reconnu « une erreur ». « Bien que nous nous efforcions d’assurer la cohérence de nos systèmes, il peut arriver que le contexte apporté habituellement par nos équipes manque, nous amenant à commettre des erreurs. Lorsque nous en avons connaissance, nous revenons sur notre décision », a expliqué Twitter France à 20 Minutes.

De nouvelles suspensions de comptes

Toutes les militantes avaient reçu un message automatique de Twitter précisant que leur message avait enfreint « les règles relatives aux conduites haineuses ». « Des réseaux sociaux comme Facebook et Twitter sont obligés d’avoir des systèmes automatiques de modération vu la volumétrie des messages à modérer. Ils utilisent des systèmes d’intelligence artificielle (IA) basés sur des systèmes statistiques. Quand ils repèrent des tweets qui contiennent certains mots-clés qui font habituellement l’objet d’une modération humaine, les algorithmes reproduisent le même modèle. Même si ces messages – qui reprennent ces mots-clés - ont pour but de dénoncer ce qu’ils véhiculent ( racisme, homophobie…). Ce sont malheureusement les limites des IA », explique Jean-Marc Royer, fondateur de Netino, société spécialisée dans la modération en ligne.

Après la mise au point de Twitter, tout semblait donc être rentré dans l’ordre en début de semaine… Jusqu’à ce que d’autres comptes soient à nouveau suspendus, et des tweets supprimés, toujours pour la même raison. Les comptes des écrivaines Chloé Delaume et Pauline Harmange ont ainsi été temporairement suspendus ce mercredi 27 janvier pour avoir de nouveau partagé la fameuse question, a relevé le site Numerama. Et ce n’était probablement pas les seuls à avoir ainsi été suspendus…

« Modifier un algorithme, c’est techniquement compliqué, et ça peut prendre du temps »

Le fait que de nouveaux comptes aient été bloqués cette semaine, après la mise au point de Twitter, est probablement dû à la difficulté de modifier l’algorithme. « Ce n’est pas juste une case à cocher. Un algorithme, c’est très compliqué et long à faire évoluer. Je ne serai pas étonné qu’il faille des jours, voire même des semaines à Twitter pour alimenter leur algorithme d’un certain nombre d’informations pour qu’il s’habitue à ne pas modérer certains messages dans des situations particulières. Ce n’est pas comme un humain à qui on peut donner de nouvelles consignes, c’est techniquement très long. Et il est assez difficile de trouver le bon équilibre », explique Jean-Marc Royer.

« Nous utilisons une combinaison de vérification humaine et de technologie pour nous aider à appliquer nos règles. En tant que plateforme ouverte avec des centaines de millions de tweets partagés quotidiennement, la technologie est essentielle pour nous aider à répondre aux abus et au harcèlement à grande échelle, et à améliorer l’expérience de chacun sur la plate-forme, et nous continuons à investir en conséquence », a confirmé Twitter France, précisant que « les comptes suspendus en milieu de semaine ont été rétablis et sont à présent actifs sur la plateforme ».

Une « censure » des comptes féministes et LGBT ?

Ce n’est pas la première fois que des militantes et militants féministes, mais aussi LGBT, se plaignent des règles de modération de Twitter. « Ce n’est malheureusement pas nouveau. C’est même assez récurrent. J’ai vu nettement plus de comptes de militantes féministes et LGBT+ se faire suspendre sans aucune raison légitime par rapport aux CGU [conditions générales d’utilisation] que des comptes LGBTphobes ou racistes que j’ai signalés », explique Maxime Haes, militant LGBT, très actif sur les réseaux sociaux. « Le problème avec Twitter, c’est que le réseau social fonctionne en vase clos. On ne sait pas quelles sont leurs règles de gestion en matière de modération, et quel est vraiment leur algorithme ».

Certains estiment que ces suspensions régulières de comptes pourraient aussi être le résultat de signalements en masse. « Est-ce que ça vient de l’algorithme seulement ? Ça me paraîtrait étrange que l’algo fasse un scan de tous les serveurs de Twitter », s’interroge Maxime Haes, qui pointe également du doigt les campagnes coordonnées ou raids qui se multiplient sur les réseaux sociaux. Des utilisateurs se coordonnent parfois, en effet, pour signaler un contenu. Les algorithmes de modération sont alors trompés par la masse de signalement et suspendent ainsi le compte, sans que ce dernier ne contrevienne aux CGU. « Un petit groupe privé s’est ainsi mis en tête de signaler tous les tweets avec les mots "pédés" et "gouines" », détaille Maxime Haes. Résultat : de nombreux militants et militantes LGBT sont régulièrement « censurés ». L’activiste lesbienne Gwen Fauchois a dénoncé fin décembre « cette forme de censure » et réclamé que le réseau social mette davantage de moyens pour la modération humaine…