En août dernier, Apple et Goldman Sachs ont collaboré pour déployer l’Apple Card aux Etats-Unis. Cette carte de crédit, initialement prévue pour être utilisée sur Apple Pay, est dotée d’algorithmes. Mais ces derniers seraient au cœur d’une affaire de discrimination.
Il semblerait que les algorithmes de la carte de crédit n’accordent pas la même limite de crédit en fonction du sexe de l’utilisateur. Par exemple, David Heinemeier Hansson, un entrepreneur danois résidant en Californie et concepteur du célèbre langage de codage informatique Ruby on Rails, a écrit sur Twitter : « Mon épouse et moi avons produit des déclarations de revenus communes, vivons dans un état de propriété commune et sommes mariés depuis longtemps. Pourtant, l’algorithme de la carte de crédit d’Apple estime que je mérite 20 fois plus la limite de crédit qu’elle a. »
Et Hansson et son épouse ne sont pas des cas isolés. Steve Wozniak, le cofondateur d’Apple a répondu au tweet de Hansson en déclarant : « La même chose nous est arrivée. J’ai 10 fois la limite de crédit. Nous n’avons pas de comptes bancaires ou de cartes de crédit distincts ni d’actifs distincts. »
Alors que ces personnalités haussent le ton et accusent l’algorithme de sexisme, Andrew Williams, un porte-parole de Goldman Sachs, a expliqué à un représentant d’Apple : « Nos décisions en matière de crédit reposent sur la solvabilité du client et non sur des facteurs tels que le sexe, la race, l’âge, l’orientation sexuelle ou toute autre base interdite par la loi. »
Néanmoins, le département des services financiers (DFS) de l’Etat de New York n’a pas tardé à réagir et examine dès à présent les critères utilisés par l’Apple Card pour augmenter ou non la limite de crédit d’un utilisateur ou d’une utilisatrice. Dans un communiqué, le département se déclare « troublé d’apprendre un traitement discriminatoire potentiel en ce qui concerne les décisions de limite de crédit qui auraient été prises par un algorithme d’Apple Card. Le département mènera une enquête pour déterminer si la loi de New York a été violée et garantir que tous les consommateurs soient traités sur un pied d’égalité, sans distinction de sexe », cite The New York Times.
Un représentant de l’agence a également déclaré dans la soirée du samedi 9 novembre 2019 que « tout algorithme entraînant intentionnellement ou non un traitement discriminatoire à l’égard des femmes ou de toute autre classe protégée viole la loi de New York ».
