Apple Card fait l'objet d'une enquête pour discrimination présumée à l'égard des femmes

Lorsque la Apple Card a été lancée enAoût 2019, il visait à amener une transition en douceur vers un «une vie financière plus saine.» Cependant, la carte peut rencontrer des problèmes imprévus et très inquiétants dans la façon dont sont gérés certains systèmes automatisés pour les décisions telles que les limites de crédit et les approbations. Récemment, la Apple Card a fait l'objet d'une enquête pour discrimination perçue à l'égard des femmes.

Le problème a été mis en lumière pour la première fois le 7 novembre 2019 par le développeur de logiciels David Heinemeier Hansson.sur son Twitter personnel. Hansson s'est plaint qu'Apple Card avait déterminé qu'il méritait une limite de crédit plus élevée que sa femme, avec qui il partage des responsabilités financières telles que la déclaration conjointe des impôts.

"La Apple Card est un programme tellement sexiste", a écrit Hansson. « Ma femme et moi avons déposé des déclarations de revenus communes, vivons dans un État de propriété communautaire et sommes mariés depuis longtemps. Pourtant, l'algorithme de la boîte noire d'Apple pense que je mérite 20 fois la limite de crédit qu'elle accorde. Aucun appel ne fonctionne.

C'était la première de ses frustrations, mais pas la dernière, et cela a finalement amené le Département des services financiers de l'État de New York à déclarer qu'il commenceraitenquête sur la cartepour violation de la loi de New York.

L’expérience du service client est également exaspérante. Ils réagissent rapidement, mais personne n'est autorisé à discuter du processus d'évaluation du crédit. Aucune possibilité de présenter des preuves. Juste un « désolé, votre femme est considérée comme valant 1/20e de votre crédit, vérifiez à nouveau dans 6 mois ! »

-DHH (@dhh)7 novembre 2019

Hansson a été rejoint par d'autres clients Apple, dont le moindre n'était pasSteve Wozniak, co-fondateur d'Apple, qui a partagé l'expérience de Hansson, qui avait apparemment reçu une limite de crédit beaucoup plus élevée que celle de son épouse et était incapable d'obtenir une réponse non automatisée dans ses efforts pour la corriger. Dans unentretien avec Bloomberg, Wozniak a estimé que le recours continu à des algorithmes défectueux crée un système dans lequel ces problèmes imprévus sont non seulement possibles, mais également difficiles à résoudre.

« Ce genre d’injustice me dérange et va à l’encontre du principe de vérité. Nous n'avons pas de transparence sur la manière dont ces entreprises mettent en place et fonctionnent », a déclaré Wozniak. « Notre gouvernement n'est pas assez fort sur les questions de réglementation… Un grand nombre de personnes diraient : 'Nous aimons notre technologie mais nous n'en avons plus le contrôle.' Je pense que c'est le cas.

Malgré des plaintes très médiatisées et l'ouverture d'une enquête, l'émetteur de cartes Apple Goldman Sachs nie toute existence de discrimination fondée sur le sexe dans aucun de ses processus. Le porte-parole Andrew Williams a affirmé que les décisions concernant toute approbation ou modification de crédit étaient prises de manière indépendante et pouvaient être très différentes, même entre personnes mariées, mais « dans tous les cas, nous n'avons pas pris et ne prendrons pas de décisions basées sur des facteurs tels que le sexe ».

Nous voulions répondre à quelques questions récentes concernant la#CarteAppleprocessus de décision de crédit.pic.twitter.com/TNZJTUZv36

– Assistance de la banque GS (@gsbanksupport)11 novembre 2019

Quoi qu'il en soit, alors que les algorithmes continuent d'être confiés à la prise de décision à grande échelle, il semblerait qu'il existe des problèmes précis qui ne peuvent être ignorés, qu'ils soient consciemment ou inconsciemment installés dans divers systèmes. Shacknews continuera de suivre cette histoire au fur et à mesure de son développement.