Une grande banque fait actuellement l'objet d'une enquête à la suite d'allégations selon lesquelles les algorithmes utilisés pour fixer les limites de crédit de la carte Apple sont sexistes.
L'enquête contre Goldman Sachs intervient après qu'un entrepreneur en technologies de l'information ait prétendu qu'on lui avait offert une limite de crédit 20 fois supérieure à celle de sa femme, même si sa cote de crédit était supérieure.
David Heinemeier Hansson a accusé les algorithmes de la carte Apple d'être "sexistes" et a déclaré qu'ils avaient une expérience "exaspérante" avec les services à la clientèle car ils étaient incapables de faire appel de la décision.
Apple Card lancée aux États-Unis en août
Après avoir écrit un fil de discussion viral sur son expérience sur Twitter, Hansson a déclaré que la limite de crédit de son épouse avait été augmentée sans aucune demande de documentation supplémentaire.
Le département des services financiers de New York a maintenant confirmé qu'une enquête était en cours "afin de déterminer si la loi de New York avait été violée et de veiller à ce que tous les clients soient traités de manière égale, sans distinction de sexe".
Une porte-parole a ajouté: "Tout algorithme qui, intentionnellement ou non, entraîne un traitement discriminatoire des femmes ou de toute autre classe protégée viole la loi de New York."
Andrew Williams, un porte-parole de Goldman Sachs, a refusé de préciser si Hansson avait contacté la banque d'investissement au sujet des allégations.
Cependant, il a déclaré à Bloomberg: "Nos décisions en matière de crédit reposent sur la solvabilité du client et non sur des facteurs tels que le sexe, la race, l'âge, l'orientation sexuelle ou toute autre base interdite par la loi."
La carte Apple a été lancée aux États-Unis en août et a été construite en partenariat avec Goldman Sachs et Mastercard.
Ce n'est pas la première enquête que les régulateurs de New York ont lancée sur un algorithme potentiellement discriminatoire.
Le mois dernier, les responsables ont commencé à analyser un algorithme qui aurait sous-estimé les besoins des patients noirs en matière de santé.
