L'algorithme de Facebook facilite la diffusion de contenus à caractère pédophile

Réseau social le plus populaire au monde, Facebook est pourtant impliqué dans un scandale malgré lui. Certains internautes l’utiliseraient afin de partager et de propager des images à caractère pédophile. Et le responsable de ce problème n’est autre que l’un de ses algorithmes.

Que ce soit pour retrouver des amis, partager ses passions ou tout simplement communiquer, Facebook est un outil formidable devenu indispensable à de nombreux utilisateurs. Si ces derniers ne postent généralement pas de contenus choquants, l’arrivée d’un nouvel algorithme a changé la donne et a engendré une dangereuse dérive : le partage de contenus pédophiles, et ce, sans que son créateur ne puisse agir.

Une enquête qui a commencé en Suède

Le scandale a éclaté en Suède, pays très impliqué dans le lutte contre les réseaux pédophiles. Deux médias du pays, SvD et Aftonbladet, ont décidé de travailler ensemble afin de réaliser une enquête sur les dérives pratiquées par certains utilisateurs. Ayant appris que des contenus à caractère pédophile circulaient librement sur des plateformes ouvertes, les deux médias ont fouillé Facebook pour voir si le réseau social était lui aussi impliqué.

Leurs recherches leur a permis de découvrir des pages et des groupes aux noms ambigus où les membres partageaient en mode public et sans aucun scrupule des photos d’enfants. L’une des photos trouvées montrait même un mineur violé par un adulte. Les photos étaient d’ailleurs souvent accompagnées de commentaires douteux et de liens vers des forums.

Pourquoi l’algorithme aide-t-il au partage de contenus pédophiles ?

Contrairement à l’Homme, l’algorithme a une valeur neutre. De base, il ne fait aucune différence entre ce qui est légal et ce qui ne l’est pas. Il est simplement programmé pour faciliter aux internautes l’accès au contenu de leur choix. Un algorithme est donc incapable de juger une recherche, et c’est bien ça le problème.

Dans le cadre de leur enquête, SvD et Aftonbladet ont créé un faux profil afin de voir comment réagissaient les algorithmes de Facebook à certaines requêtes. Ils ont alors créé une fausse identité et ont indiqué dans leurs centres d’intérêt les mots « enfant » et « pornographie infantile ». Une fois les informations transmises, l’algorithme de Facebook les a envoyés vers des groupes pédophiles qui, par la suite, ont envoyé des invitations au profil en question.

Comment le problème peut-il être résolu ?

A l’heure actuelle, rien ne peut empêcher la diffusion de ce type de contenus. Néanmoins, les équipes de Marc Zuckerberg travaillent activement à une solution visant à éviter que ce problème ne se reproduise. Les chercheurs mettent au point une intelligence artificielle capable d’analyser leur contenu et de définir, selon un degré de moralité, si elle peut être partagée ou non. Si elle n’est pas encore opérationnelle, cette IA incarne toutefois une solution fiable pour éviter la diffusion d’images pédopornographiques sur Facebook mais plus généralement de tous les contenus choquants.