IBM, la grande firme multinationale d’informatique, a annoncé qu’elle renonçait à sa technologie de reconnaissance faciale. En cause, les biais racistes que contiennent ces technologies qui, mal utilisées, peuvent conduire à des drames et des violences policières.

Une volonté de lutter contre le racisme

IMB, par la voix de son PDG, Arvind Krishna, annonce qu’elle ne développera plus de technologies de reconnaissance faciale. Dans une lettre adressée au Congrès, la firme annonce qu’« IBM s’oppose fermement, et elle ne fermera pas les yeux, à l’utilisation de technologies, incluant la reconnaissance faciale, pour la surveillance de masse, le contrôle au faciès, les violations des droits et des libertés humaines (…) ». Elle appelle à l’ouverture « d’un dialogue national sur comment la technologie de reconnaissance faciale peut être utilisée par les forces de l’ordre – et si elle doit l’être« .

« Les morts tragiques et horribles de George Floyd, Ahmaud Arbery, Breonna Taylor, et bien d’autres, nous rappellent que le combat contre le racisme est plus urgent que jamais », poursuit le PDG. Ces outils de reconnaissance faciale, qu’ils soient issus d’IBM, de Microsoft ou d’Amazon, sont critiqués pour leur fiabilité qui n’est pas opérationnelle à 100 %, et peut engendrer des biais racistes. Ainsi, ces algorithmes reconnaissent très facilement les hommes blancs, mais se trompent beaucoup sur les Noirs, en particulier les femmes. Cela peut engendrer des « malentendus » racistes, conduisant à la violence policière que l’on dénonce actuellement.

— MONOPOLY919/Shutterstock.com

La nécessité d’encadrer ces politiques de reconnaissance faciale

Après IBM, Amazon a à son tour annoncé suspendre Rekognition, son outil de reconnaissance faciale. L’entreprise de livraison a annoncé un moratoire d’un an sur l’utilisation par la police de son outil de reconnaissance faciale. Le système de reconnaissance faciale d’Amazon avait déjà été épinglé en 2018 par l’American Civil Liberties Union (ACLU) qui avait constaté que le système avait par erreur fait coïncider les visages de 28 membres du Congrès à 25 000 photos publiques, par exemple.

Le cas de Clearview Al est également emblématique, puisque son outil de reconnaissance faciale était utilisé par la police et les entreprises privées, à partir de photos issues de réseaux sociaux. De même, Facebook a fait l’objet d’un recours collectif pour son utilisation illégale de la technologie de la reconnaissance faciale.

Ailleurs dans le monde, la reconnaissance continue de faire débat. En Chine, elle est une véritable arme entre les mains du pouvoir, permettant aux autorités « d’afficher » les « bons » et les « mauvais » citoyens. En France, elle fait l’objet d’âpres débats, avec un test lors du carnaval de Nice en 2019 qui ne s’était pas révélé concluant, et une volonté de mettre des sas de reconnaissance faciale dans les lycées, qui n’a pas convaincu non plus. La CNIL, comme le rappelle Sciences et Avenir, avait demandé un débat en novembre 2019 sur le sujet. Reste à voir quand et si ce débat aura bien lieu, et ce que cela donnera.

1
COMMENTEZ

connectez-vous pour commenter
avatar
1 Fils de commentaires
0 Réponses de fil
0 Abonnés
 
Commentaire avec le plus de réactions
Le plus populaire des commentaires
1 Auteurs du commentaire
de simple bon sens ! Auteurs de commentaires récents
  S’abonner  
plus récent plus ancien Le plus populaire
Notifier de
de simple bon sens !
Invité
de simple bon sens !

IBM … des crétins en mouvements …. rassurez-vous …d’autres firmes se chargeront du « travail » … et ainsi on aura perdu la possibilité de contrôler et limiter les dérives possibles …. et « tout cela » pour la fameuse et fumeuse « bonne cause » ! C’est comme supprimer la recherche sous prétexte de risques… Lire la suite »