Les biais racistes de la reconnaissance faciale poussent IBM à renoncer à cette technologie

IBM, la grande firme multinationale d’informatique, a annoncé qu’elle renonçait à sa technologie de reconnaissance faciale. En cause, les biais racistes que contiennent ces technologies qui, mal utilisées, peuvent conduire à des drames et des violences policières.

Une volonté de lutter contre le racisme

IMB, par la voix de son PDG, Arvind Krishna, annonce qu’elle ne développera plus de technologies de reconnaissance faciale. Dans une lettre adressée au Congrès, la firme annonce qu’« IBM s’oppose fermement, et elle ne fermera pas les yeux, à l’utilisation de technologies, incluant la reconnaissance faciale, pour la surveillance de masse, le contrôle au faciès, les violations des droits et des libertés humaines (…) ». Elle appelle à l’ouverture « d’un dialogue national sur comment la technologie de reconnaissance faciale peut être utilisée par les forces de l’ordre – et si elle doit l’être« .

« Les morts tragiques et horribles de George Floyd, Ahmaud Arbery, Breonna Taylor, et bien d’autres, nous rappellent que le combat contre le racisme est plus urgent que jamais », poursuit le PDG. Ces outils de reconnaissance faciale, qu’ils soient issus d’IBM, de Microsoft ou d’Amazon, sont critiqués pour leur fiabilité qui n’est pas opérationnelle à 100 %, et peut engendrer des biais racistes. Ainsi, ces algorithmes reconnaissent très facilement les hommes blancs, mais se trompent beaucoup sur les Noirs, en particulier les femmes. Cela peut engendrer des « malentendus » racistes, conduisant à la violence policière que l’on dénonce actuellement.

La nécessité d’encadrer ces politiques de reconnaissance faciale

Après IBM, Amazon a à son tour annoncé suspendre Rekognition, son outil de reconnaissance faciale. L’entreprise de livraison a annoncé un moratoire d’un an sur l’utilisation par la police de son outil de reconnaissance faciale. Le système de reconnaissance faciale d’Amazon avait déjà été épinglé en 2018 par l’American Civil Liberties Union (ACLU) qui avait constaté que le système avait par erreur fait coïncider les visages de 28 membres du Congrès à 25 000 photos publiques, par exemple.

Le cas de Clearview Al est également emblématique, puisque son outil de reconnaissance faciale était utilisé par la police et les entreprises privées, à partir de photos issues de réseaux sociaux. De même, Facebook a fait l’objet d’un recours collectif pour son utilisation illégale de la technologie de la reconnaissance faciale.

Ailleurs dans le monde, la reconnaissance continue de faire débat. En Chine, elle est une véritable arme entre les mains du pouvoir, permettant aux autorités « d’afficher » les « bons » et les « mauvais » citoyens. En France, elle fait l’objet d’âpres débats, avec un test lors du carnaval de Nice en 2019 qui ne s’était pas révélé concluant, et une volonté de mettre des sas de reconnaissance faciale dans les lycées, qui n’a pas convaincu non plus. La CNIL, comme le rappelle Sciences et Avenir, avait demandé un débat en novembre 2019 sur le sujet. Reste à voir quand et si ce débat aura bien lieu, et ce que cela donnera.