Facebook précise ses techniques de lutte contre le terrorisme

Comment lutter contre les contenus terroristes sur les réseaux sociaux ? Les Etats et les gouvernements demandent régulièrement aux géants du net des efforts sur ce plan. Dans un texte publié ce mercredi 29 novembre et repris par nos confrères du Monde, deux dirigeants de Facebook racontent comment ils procèdent. Ils utilisent des algorithmes.

De la même manière que ces plateformes ciblent nos envies et nos besoins de simples consommateurs, c’est l’intelligence artificielle qui permet de déceler la propagande terroriste au milieu de milliards de données échangées.

Il s’agit d'abord de nourrir la machine avec du texte, de lui soumettre une grande quantité de littérature jihadistes. Les algorithmes de Facebook essayant ensuite de rediriger les contenus problématiques sur des équipes de modérateurs.

Deuxième outil : la correspondance image-vidéos qui permet déjà d’éliminer les contenus pédopornographiques, via une empreinte, une sorte de coup de tampon permettant d’étiqueter la propagande jihadiste.

« Le processus vise à identifier des contenus des messages et des images par des mécanismes de reconnaissance faciale. C'est-à-dire on nourrit un algorithme de tout ce qui a déjà été diffusé par l’Etat islamique ou équivalent, et on lui dit : " si tu vois ça apparaître, à ce moment-là il faut le bloquer " », explique Alain Bauer, professeur de criminologie au Conservatoire des arts et métiers

Des techniques de blocage qui sont pour l’instant cantonnées aux contenus publiés par al-Qaïda et l’organisation Etat islamique, mais que Facebook espère voir appliquer prochainement à d’autres groupes terroristes.