La modération des réseaux sociaux différentes selon les personnes

La modération des réseaux sociaux différentes selon les personnes

La question de la modération des réseaux sociaux est maintenant un marronnier qui a plusieurs années, et qui revient à chaque fois qu’une nouvelle crise agite la société. On a ainsi vu récemment Facebook démanteler une opération de désinformation sur les vaccins, alors que le même réseau social avait dû faire face à la survenue au pouvoir des Talibans en Afghanistan, à qui il a coupé l’accès de ses différentes applications. Pour autant, le géant du secteur n’appliquerait pas la même rigueur à tous les acteurs présents sur ses applications, si l’on en croit les informations que vient de publier le Wall Street Journal.

En effet, le journal américain explique que de nombreuses célébrités ayant un compte sur Facebook ou Instagram sont intégrées au sein d’un programme du nom de « Crosscheck », ou « XCheck », appliquant une modération différente – et beaucoup moins dure – de celle s’appliquant normalement aux utilisateurs de base.

XCheck comprenait l’an dernier 5,8 millions de personnes, et a laissé passer des Fake News tel que la couverture par Hillary Clinton de réseaux pédophiles, ou a permis à Neymar de mettre en ligne durant une journée la photo nue d’une femme l’ayant accusé de viol. Ce sont au total 16,4 milliards de publication qui ont été protégées par ce programme l’an dernier.

Un manque de transparence pointé du doigt

Le groupe aurait par ailleurs laissé certains comptes partager des affirmations jugées fausses par les fact checkers de Facebook, y compris que les vaccins tuent, qu’Hillary Clinton a couvert de prétendus réseaux pédophiles ou que l’ex-président Donald Trump a qualifié d’« animaux » tous les demandeurs d’asile. Pour le conseil de surveillance de l’entreprise, la mise en place de mesures spéciales sur la modération des contenus est gênante.

Cet organisme « a exprimé à plusieurs reprises son inquiétude quant au manque de transparence dans les processus de modération de contenus de Facebook, en particulier en ce qui concerne la gestion incohérente par l’entreprise des comptes les plus en vue », a déclaré le porte-parole de cette instance, censée être indépendante mais financée par le groupe. Dans un message datant d’il y a trois ans, l’entreprise assurait que le fait de vérifier certains contenus une deuxième fois n’empêchait pas le compte, la page ou le message d’être retiré, mais permettait de s’assurer que toute décision faite en ce sens était « prise correctement ».

5,8 millions de célébrités concernées

Ainsi, seules 10% des publications concernées par le programme XCheck auraient été réellement examinées par des modérateurs, rapporte le Wall Street Journal. Le reste aurait simplement été ignoré par Facebook. Selon l’enquête, les 5,8 millions de personnalités “influentes” concernées par XCheck compteraient notamment l’ancien président des États-Unis Donald Trump, mais aussi la sénatrice Elizabeth Warren, ou encore la commentatrice politique Candace Owens. La star du football Neymar aurait elle aussi bénéficié de plusieurs passe-droits, notamment en 2019 lorsqu’il avait publié plusieurs photos de revenge porn d’une jeune femme qui l’avait accusé de viol, avant de finalement supprimer sa publication. Aucune sanction n’avait été appliqué par Facebook, alors même que le footballeur aurait logiquement du voir son compte supprimé. Interrogé sur ces passe-droits, Facebook a indiqué qu’il avait déjà identifié “certains problèmes”, et qu’il s’était depuis efforcé de les résoudre. Le GAFAM a également justifié son choix en indiquant que XCheck permettait d’appliquer plus précisément son règlement à propos de “contenus qui nécessitent davantage de compréhension”.

Eviter les incendies avec les relations publiques

Pourtant, Facebook a ces dernières années été pointé du doigt à de nombreuses reprises et a eu maintes fois l’occasion d’assainir ses pratiques. Ce sera peut-être encore le cas sur ce sujet précis dans les mois à venir, le Wall Street Journal ayant transmis preuves et documents au gendarme des marchés financiers américain, la SEC, ainsi qu’au Congrès. « Les documents comprennent des rapports de recherche, des discussions en ligne avec les employés et des ébauches de présentations à la haute direction, y compris à M. Zuckerberg […] Ils offrent peut-être l’image la plus claire à ce jour de l’étendue de la connaissance des problèmes de Facebook au sein de l’entreprise, jusqu’au PDG lui-même ».

Pour en revenir à la différence de traitement entre les comptes XCheck et les autres, le quotidien économique parle d’un côté d’une justice grossière, automatisée, sans examen humain ou presque, en proie à une marge d’erreur de l’ordre de 10 %, quand de l’autre la modération est plus personnalisée, réalisée avec la volonté de ne « pas allumer d’incendies dans les relations publiques ». Là où, pour l’utilisateur lambda, le contenu est supprimé sans ménagement, il est laissé en ligne jusqu’à ce que des examens complémentaires soient menés pour les VIP.

Facebook est conscient des problèmes engendrés par son système

Ce programme secret a laissé des célébrités, des politiciens, des athlètes, des militants et des journalistes médiatisés publier des contenus à l’encontre de la réglementation en vigueur sur Facebook. Par exemple, certaines personnalités, comme Donald Trump pendant un temps, ont pu partager des informations qui ont été identifiées comme des fake news. Dans le cadre de cette liste blanche, Facebook a aussi laissé le footballeur brésilien Neymar publier des photos d’une femme qui l’accusait de viol. Dans un second temps, les clichés ont été effacés de la plateforme.

“Pour quelques membres sélectionnés de notre communauté, nous n’appliquons pas nos politiques et nos normes. Contrairement au reste de notre communauté, ces personnes peuvent violer nos normes sans aucune conséquence”, explique un rapport interne de Facebook. L’audit précise que “nous ne faisons pas réellement ce que nous disons publiquement”.

Néanmoins, le réseau social laisse entendre que ce système d’exemption est utilisé dans une poignée réduite de décisions. Facebook est visiblement conscient des problèmes potentiels générés par ce système. Les listes blanches “posent de nombreux risques juridiques, de conformité et de légitimité pour l’entreprise et nuisent à notre communauté”, avance d’ailleurs un rapport interne.

Des risques documentés, qui explosent aujourd’hui

L’an dernier, devant le Congrès, Mark Zuckerberg avait témoigné son intention de « ne pas arbitrer la vérité ». L’histoire nous montre que les belles formules sont, comme souvent, rattrapées par des biais sévères chez Facebook. Ainsi, XCheck, cette solution imaginée pour « réduire les faux positifs et la charge de travail humaine » est en train de se retourner contre l’entreprise qui l’a imaginée.

Pourtant, en 2019, le rapport interne évoqué plus haut prévenait les responsables de Facebook : « Les listes blanches posent de nombreux risques juridiques, de conformité et de légitimité pour l’entreprise et nuisent à notre communauté ». Désormais, Facebook ne pourra plus se voiler la face.

Boris NAULLEAU

Boris NAULLEAU

Il est un ancien journaliste de presse nationale. Il est spécialisé dans les articles d’actualités locales. Boris NAULLEAU est un expert des questions relatives aux collectivités.