Facebook a-t-il finalement échappé au contrôle de ses créateurs?

De nouvelles fuites de documents internes prouvent que Facebook a ignoré des alertes de ses employés concernant la modération du réseau social. Les contenus haineux ou incitations à la haine se retrouvent régulièrement mis en avant par les algorithmes, et le géant du numérique manque de personnel humain pour les réguler.

Facebook a-t-il échappé à ses créateurs? Les nouveaux éléments fournis par la lanceuse d'alerte Frances Haugen, publiés mardi par plusieurs médias internationaux, semblent étayer cette hypothèse. L'entreprise semble en effet dépassée lorsqu'il s'agit de lutter contre les propos haineux ou les fausses informations.

La faille principale concerne les contenus dans différentes langues. Car sur 2,9 milliards d'utilisateurs et utilisatrices, la majorité publie ou commente des contenus dans une autre langue que l'anglais.

Régulation insuffisante en langues étrangères

"Je suis profondément préoccupée par leur manque d'investissement dans des langues autre que l'anglais et par la façon dont ils induisent le public en erreur en leur disant qu'ils s'en occupent", dénonce Frances Haugen. Selon la lanceuse d'alerte, Facebook prétend prendre en charge 50 langues alors qu'en réalité la plupart d'entre elles ne reçoivent qu'une infime fraction des systèmes de sécurité dont dispose l'anglais.

Or, cette faille peut présenter un danger tout particulier dans certains pays. En Inde, qui compte 340 millions de comptes inscrits, les contenus appelant à la haine raciale ou religieuse fleurissent et alimentent parfois les violences inter-communautaires. Dans l'Etat du Bengale, une note interne de Facebook révèle que sur un échantillon de personnes publiant beaucoup de contenus politiques, 40% étaient en réalité de faux profils.

"Facebook cause des divisions dans beaucoup d'espaces", confirme Brian Boland, également ex-employé du groupe, qui souligne un manque de volonté de combattre ce phénomène. "Si vous faites la balance entre réduire les contenus blessant ou réduire le temps des gens sur la plateforme, vous choisissez de maintenir les gens sur la plateforme", témoigne-t-il.

Défaillance structurelle

Ce manque de volonté est essentiellement lié au modèle économique du groupe, explique Joëlle Toledano, professeure émérite d'économie à l'université Paris-Dauphine et spécialiste de la régulation du numérique. Selon elle, les critiques qui estiment que l'algorithme est "hors de contrôle" font fausse route. Car Facebook contrôle parfaitement sa rentabilité.

"En général, chez les économistes, on dit que pour chaque objectif, il y a un outil. L'algorithme de Facebook n'est pas fait pour contrôler les messages haineux, il est fait pour améliorer la rentabilité. Donc il est sous contrôle, même s'il y a des effets pas toujours voulus", indique-t-elle dans Forum mardi.

Dès le début, les rails étaient posés pour qu'on en arrive là aujourd'hui, sans que personne n'ait jamais tiré le frein.

Anna Jobin, chercheuse en éthique des algorithmes et en gouvernance de la numérisation
Ces problématiques sont structurelles au réseau, abonde Anna Jobin, chercheuse au Alexander von Humboldt Institute de Berlin et présidente de la Commission fédérale des médias.

"Facebook a, dès l'origine, été construit très grand, avec un système d'auto-apprentissage. C'est-à-dire qu'il y a constamment des données en temps réel de nos interactions qui influencent le chemin vers lesquels les utilisateurs sont menés. Ainsi dès le début, les rails étaient posés pour qu'on en arrive là aujourd'hui, sans que personne n'ait jamais tiré le frein", explique-t-elle.

Des bénéfices au beau fixe

En résumé, Facebook a tout intérêt à avoir un maximum de contenus polémiques, ceux qui génèrent le plus d'interactions, et permettent à la plateforme d'attirer les annonceurs. Et ces annonceurs, eux, ne sont pas vraiment dérangés par les affaires.

Car si les révélations sur les défaillances du réseau social s'accumulent ces derniers mois, sa santé économique semble pour le moment intacte. Facebook a engrangé un bénéfice de près de 9 milliards de francs au troisième trimestre 2021.