Apple Card jest badane pod kątem twierdzeń, że daje kobietom niższe limity kredytowe

Kategoria: Sztuczna inteligencja Opublikowany 11 listopada

Algorytm określający limit kredytowy dla użytkowników nowej karty kredytowej Apple, który został uruchomiony w USA w sierpniu, czeka na dochodzenie, ponieważ wydaje się, że przyznaje mężczyznom wyższe limity niż kobietom.

Wiadomości: 7 listopada przedsiębiorca internetowy David Heinemeier Hansson opublikowała teraz wirusowy tweet mówiąc, że Apple Card dała mu 20-krotność limitu kredytowego jego żony. Stało się tak pomimo faktu, że złożyli wspólne zeznania podatkowe i że po dochodzeniu jego żona miała lepszą zdolność kredytową niż on. Współzałożyciel Apple Steve Wozniak odpowiedział do tweeta i powiedział, że on również otrzymał 10-krotność limitu kredytowego swojej żony, mimo że nie mają oddzielnych aktywów ani kont bankowych.

Wynik: Teraz nowojorski Departament Usług Finansowych wszczyna śledztwo w sprawie Goldman Sachs, która zarządza kartą. Jego nadzorca, Linda Lacewell, powiedział w poście na blogu że organ nadzorczy zbada, czy algorytm użyty do podejmowania decyzji o limicie kredytowym narusza prawa stanowe, które zabraniają dyskryminacji ze względu na płeć. Regulator już niedawno otworzył dochodzenie do raportów, że algorytm spowodował, że pacjenci rasy czarnej otrzymywali mniej kompleksową opiekę niż pacjenci rasy białej.

Szerszy problem: Goldman Sachs opublikował w weekend na Twitterze oświadczenie, w którym stwierdził, że płeć nie jest brana pod uwagę przy określaniu zdolności kredytowej. Ale niewytłumaczalna dysproporcja w limitach kredytowych karty jest kolejnym przykładem tego, jak można niechcący stworzyć błąd algorytmiczny. Algorytmy używane do oceny zdolności kredytowej są szkolone na wieloletnich danych historycznych, a stronniczość może wpłynąć na proces na wiele różnych sposobów .