L'algorithme de Facebook confond des personnes noires avec des primates...

C’est un scandale retentissant pour Facebook, l’un de ses algorithmes a confondu des hommes de couleur noire avec des primates. Suite à cette gaffe raciste, Facebook a officiellement présenté ses excuses et a décidé de désactiver la fonctionnalité à l’origine de ce problème.

Facebook a décidé de présenter ses excuses après que l’une de ses intelligences artificielles a apposé l’étiquette de « primates » pour décrire une vidéo représentant des hommes noirs, a rapporté le New York Times. La vidéo avait notamment été publiée par le tabloïd britannique Daily Mail au mois juin, et montrait des hommes noirs en altercation avec des civils blancs et des policiers. A la fin de la vidéo, un message automatique est apparu disant « continuez de voir des vidéos sur les primates ». Bien évidemment, il n’y avait aucun signe sur la vidéo. Ce malheureux évènement avait été signalé pour la première fois par Darci Groves, une ancienne designer de Facebook.

Cet étiquetage qui sous-tend un grave problème de racisme a déclenché l’indignation des internautes, et face au scandale, Facebook n’a pas tardé à s’excuser. « C’était clairement une erreur inacceptable et nous avons désactivé toute la fonction de recommandation de sujet dès que nous avons réalisé que cela se produisait afin que nous puissions enquêter sur la cause et empêcher que cela ne se reproduise », a déclaré Dani Lever, le porte-parole de Facebook, dans une déclaration communiquée à USA Today. « Nous nous excusons auprès de tous ceux qui ont pu voir ces recommandations offensantes », a-t-il ajouté.

Notons que ce n’est pas la première fois que ce genre d’évènement sur les préjugés raciaux par les IA se produit. En 2015, Google s’est excusé après que son application Photos a identifié par erreur les Noirs comme étant des « gorilles ».

Par Gabrielle Andriamanjatoson, le 13 septembre 2021