L’algorithme de YouTube est une aubaine pour les pédophiles… et la plateforme ne compte rien changer

Plus de 37 millions de Français se rendent sur YouTube chaque mois, et des milliards de vidéos sont visionnées chaque jour à travers le monde. Le site d’hébergement de vidéos est plus populaire que jamais, et c’est à cette occasion que le New York Times a décidé de tirer la sonnette d’alarme sur les dérives de l’algorithme de recommandation de vidéos. Ce dernier favoriserait la pédophilie. Cependant, YouTube ne souhaite pas y toucher.

Les recommandations YouTube, une invitation aux pédophiles

Il y a quelque temps, nous vous racontions avec enthousiasme les diverses initiatives du service d’hébergement vidéo en ligne qui s’attaquait enfin au problème de la pédophilie. À l’époque, c’était surtout parce que plusieurs marques avaient retiré leur sponsorisation de plusieurs vidéos, ce qui avait entraîné une perte d’argent pour YouTube. Des mesures avaient été prises, mais le géant du net, propriété de Google, n’était pas allé assez loin.

Aujourd’hui, ce sont plusieurs chercheurs indépendants qui se sont intéressés à l’algorithme de YouTube, et qui ont pu prouver que ce dernier facilite grandement la diffusion des vidéos d’enfants dans des cercles de prédateurs sexuels. Ce système génère pourtant la plupart des milliards de vues sur la plateforme, en vous suggérant intuitivement de voir une liste de vidéos que l’algorithme va sélectionner pour vous.

Malheureusement, des dérives apparaissent rapidement avec ce genre de système. La mère d’une fille de 10 ans, Christiane C, raconte son histoire au New York Times. Quand elle a mis une vidéo de sa fille en maillot de bain dans une piscine, elle n’imaginait pas l’ampleur que cela allait prendre. Au bout de quelques jours seulement, la vidéo a été vue par des milliers de personnes, et très peu de temps après, plus de 400 000 vues étaient recensées. Sa fille n’était pourtant qu’en maillot de bain, avec une amie, et jouait de manière innocente. Une équipe de chercheurs s’est intéressée à la croissance de popularité de cette vidéo est a déterminé que cette dernière était entrée dans le système de recommandation de vidéos de plusieurs utilisateurs, habitués à regarder des contenus présentant des enfants très légèrement vêtus. Ce genre de public cherche, selon les experts, à établir un catalogue de vidéos qui sexualisent les enfants.

YouTube ne compte pas régler le problème

Toujours selon le journal américain, YouTube ne compte pas du tout régler le problème malgré les craintes de plusieurs chercheurs. Selon eux, cela nuirait “aux créateurs” qui bénéficient en premier lieu de ces recommandations de vidéos. Un responsable de la firme a déclaré au journal américain que les équipes YouTube s’attacheront davantage à “limiter les recommandations sur les vidéos qu’elles considèrent comme mettant les enfants en danger”.

Pour le moment, comme nous vous en parlions il y a quelques mois, YouTube a décidé de fermer la section des commentaires sur plusieurs vidéos présentant des enfants en maillot de bain. Auparavant, les commentaires s’apparentaient très rapidement à de la pédophilie, et des conversations entières sexualisaient totalement des enfants pourtant innocents.

Lundi dernier, YouTube a publié sur son blog un billet qui détaillait de nouvelles informations sur la stratégie actuelle afin de lutter contre ce genre de comportement. YouTube explique alors ils ont réduit un grand nombre des commentaires jugés comme pédophiles, qu’il est interdit de réaliser une diffusion en direct sans que l’enfant ne soit accompagné d’un adulte, mais également que l’algorithme n’aura plus à diffuser des vidéos où les enfants seront en une. De plus, YouTube annonce supprimer des milliers de comptes par semaine qui appartiennent à des enfants de moins de 13 ans (l’âge à partir duquel un individu peut s’inscrire sur la plateforme).

Globalement, YouTube répète son intention de protéger ses créateurs et dans le même temps de vouloir lutter contre les prédateurs sexuels. On peut se demander à quel point peut-on concilier ces deux luttes, puisque les mesures prises par le géant de l’hébergement de vidéos sur Internet demeurent très problématiques, d’après les experts. On espère tout de même que les mesures prises ce lundi seront efficaces, et certains de nos confrères se demandent “pourquoi de telles vidéos sont encore présentes sur le site”.