Les papiers de Facebookune série d’articles publiés depuis vendredi par un consortium de 17 sites d’information américains, jettent un nouvel éclairage sur l’état d’esprit de l’entreprise qui a conduit à ses actions avant l’émeute du 6 janvier au Capitole et sur sa capacité à se défendre contre les discours de haine dans des langues autres que l’anglais.
Les actions de Facebook ont légèrement augmenté lundi en début de séance après que les médias ont publié leurs articles basés sur des documents ayant fait l’objet d’une fuite. La société doit également publier ses résultats trimestriels après la clôture des marchés lundi.
Les documents ont été fournis aux agences de presse par Frances Haugen, une ancienne employée de Facebook qui a pris des dizaines de milliers de pages de recherches internes avant son départ. Elle a depuis fourni les documents au Congrès et à la Securities and Exchange Commission et demande le statut de dénonciateur.
« Au cœur de ces histoires se trouve une hypothèse qui est fausse », a déclaré un porte-parole de Facebook en réponse à l’avalanche de rapports. « Oui, nous sommes une entreprise et nous faisons des bénéfices, mais l’idée que nous le faisons au détriment de la sécurité ou du bien-être des personnes ne tient pas compte de nos propres intérêts commerciaux. La vérité est que nous avons investi 13 milliards de dollars et que plus de 40 000 personnes font un seul travail : assurer la sécurité des personnes sur Facebook. »
Voici quelques-uns des principaux thèmes qui Papiers Facebook ont été explorées jusqu’à présent :
Le 6 janvier.
Les documents révèlent une frustration dans les rangs de Facebook quant à la capacité de l’entreprise à maîtriser la diffusion de contenus potentiellement incitatifs à la violence.
« N’avons-nous pas eu assez de temps pour trouver comment contrôler le discours sans favoriser la violence ? » a écrit un membre du personnel sur un tableau d’affichage interne pendant les émeutes du 6 janvier devant le Capitole des États-Unis, selon l’Associated Press. « Nous attisons ce feu depuis longtemps, et nous ne devrions pas être surpris qu’il soit maintenant hors de contrôle ».
En prévision de l’élection de 2020, Facebook a mis en place des mesures d’urgence supplémentaires pour arrêter la diffusion de contenus violents ou dangereux si nécessaire. Mais pas moins de 22 de ces mesures ont été mises en attente après l’élection et avant le 6 janvier, selon des documents internes examinés par l’AP.
Un porte-parole de Facebook a déclaré que les mesures ont été appliquées sur la base de signaux provenant de sa propre plateforme et des forces de l’ordre.
Barrières linguistiques
Certains des rapports ont montré comment les systèmes de modération de contenu de Facebook peuvent échouer lorsqu’ils sont confrontés à des langues autres que l’anglais.
Selon l’AP, l’arabe représente une tâche particulièrement difficile pour les modérateurs de contenu. Les utilisateurs arabophones ont appris à utiliser des symboles ou des espaces supplémentaires dans les mots susceptibles de déclencher des avertissements dans les systèmes de Facebook, tels que les noms de groupes militants.
Si ces méthodes sont destinées par certains à empêcher un système de modération de contenu trop zélé, l’AP rapporte que certaines de ces mesures ont permis d’éviter les censeurs de discours haineux de Facebook.
« Nous avons indûment fait la promotion de contenus antiterroristes en arabe », indique un document interne de Facebook, selon l’AP. Elle indique également que le système « empêche les utilisateurs de participer à des discours politiques, entravant ainsi leur droit à la liberté d’expression. »
Facebook a déclaré à l’AP qu’il consacrait davantage de ressources au recrutement d’experts locaux en matière de dialectes et de sujets et qu’il étudiait les moyens d’améliorer ses systèmes.
Inde
D’autres rapports suggèrent que certains employés de Facebook étaient préoccupés par le traitement de la désinformation par la société en Inde et pensaient que la direction avait pris cette décision pour éviter de contrarier le gouvernement indien.
Les préoccupations concernant les discours de haine dans la région ont été aggravées par des problèmes de barrière linguistique similaires à ceux du Moyen-Orient. Selon l’AP, Facebook a ajouté des classificateurs de discours de haine en hindi en 2018 et en bengali en 2020.
L’un des chercheurs, qui a créé un compte en 2019 en tant qu’utilisateur indien, a constaté qu’il avait vu « plus de photos de personnes décédées dans le fil d’actualité au cours des trois dernières semaines que je n’en ai vu dans toute ma vie combinée », selon le New York Times, sur la base des recommandations de l’algorithme de Facebook.
Un porte-parole de Facebook a déclaré au Times que les discours de haine à l’encontre des groupes marginalisés sont en augmentation en Inde et ailleurs, et que Facebook « s’engage à mettre à jour ses politiques à mesure que les discours de haine évoluent en ligne ».
Rétention des utilisateurs
D’autres rapports ont montré les problèmes existentiels auxquels l’entreprise sera confrontée si elle ne parvient pas à retenir suffisamment de jeunes utilisateurs.
La plateforme constate déjà une baisse de l’engagement chez les adolescents, a rapporté The Verge sur la base de documents internes.
« La plupart des jeunes adultes considèrent Facebook comme un lieu réservé aux personnes âgées de 40 à 50 ans », selon une présentation faite en mars par une équipe de data scientists, selon The Verge. « Les jeunes adultes perçoivent le contenu comme ennuyeux, trompeur et négatif. Ils doivent souvent se frayer un chemin à travers un contenu non pertinent pour arriver à ce qui est important. »
Les documents révèlent que Facebook prévoit de tester plusieurs idées pour accroître l’engagement des adolescents, comme demander aux jeunes utilisateurs de mettre à jour leurs connexions et ajuster l’algorithme du fil d’actualité pour montrer aux utilisateurs les publications en dehors de leur propre réseau.
Un porte-parole de Facebook a déclaré à The Verge que la plateforme n’est « pas différente » des autres sites de médias sociaux qui souhaitent que les adolescents utilisent leurs services.
