Przejdź do treści

News & analizy

Stronniczość algorytmu kredytowego: jak ją wykryć i czym mierzyć

Zaktualizowano: Autor: Andrzej Niemiec11 min czytania

Czy model kredytowy banku traktuje klientów równo? Nie rozstrzyga tego deklaracja o etycznej AI, tylko pomiar na historycznych decyzjach. Audyt stronniczości obejmuje co najmniej wskaźnik akceptacji, odsetek błędów pierwszego i drugiego rodzaju, kalibrację, equal opportunity, disparate impact, stabilność w czasie oraz grupy przecięcia, takie jak płeć i region [1]. Bez tych liczb ocena fairness pozostaje opinią, a klient dowiaduje się o problemie przy odmowie kredytu.
Stronniczość algorytmu kredytowego: jak ją wykryć i czym mierzyć
Spis treści
  1. Czy algorytm scoringowy może faworyzować jedną grupę klientów?
  2. Czym scoring kredytowy różni się od systemu AI?
  3. Jakie metryki fairness powinien objąć audyt modelu?
  4. Czy usunięcie kodu pocztowego wystarczy, żeby usunąć stronniczość?
  5. Czy AI Act obejmuje model oceny zdolności kredytowej?
  6. Co może zrobić klient, który nie zgadza się z decyzją?
  7. Jak przygotować audyt krok po kroku?
  8. Najczęstsze pytania
  9. Źródła

Czy algorytm scoringowy może faworyzować jedną grupę klientów?

Tak, i nie wymaga to wpisania zakazanej cechy do kodu. Model uczy się na wcześniejszych decyzjach, a te zawierają skutki dawnych polityk kredytowych. Usunięcie zmiennej geograficznej nie usuwa problemu, bo inne pola, na przykład adres korespondencyjny, typ umowy czy historia produktów, działają jak zmienne proxy [1]. Dlatego test porównuje klientów o podobnym ryzyku, a nie surowe średnie dla grup.

Czym scoring kredytowy różni się od systemu AI?

Scoring nie musi być uczeniem maszynowym. Opiera się na klasycznych modelach statystycznych, regułach i danych z biur informacji gospodarczej. Ocena zdolności kredytowej uwzględnia między innymi dochody, koszty, zobowiązania i historię kredytową, a bank może stosować własne kryteria [5]. To rozróżnienie ma znaczenie prawne i praktyczne: audyt dotyczy konkretnego modelu i konkretnej decyzji, a nie całej kategorii AI w banku.

Przykład Pekao pokazuje skalę zagadnienia. Bank opisuje zastosowania AI w analizie opinii klientów, automatycznym przetwarzaniu dokumentów, rozpoznawaniu mowy i wykrywaniu oszustw, z zasadą, że AI wspiera pracownika, a ostateczną decyzję podejmuje człowiek [2]. Strategia na lata 2025–2027 zapowiada centrum kompetencji AI i ponad dwukrotne zwiększenie liczby wdrożonych rozwiązań [3]. Starsze źródła branżowe podają, że Pekao korzystało z systemu scoringowego, w którym pozytywna decyzja systemowa wymagała zgody pracownika [4]. To nie dowodzi żadnego incydentu, ale pokazuje układ odpowiedzialności: model proponuje, człowiek zatwierdza, a audyt musi objąć oba etapy.

Jakie metryki fairness powinien objąć audyt modelu?

Sam wskaźnik akceptacji nie wystarcza. Model może akceptować podobny odsetek wniosków w każdej grupie, a jednocześnie częściej mylić się w jedną stronę. Audyt porównuje więc kilka warstw: zdolność rozdzielania klientów dobrych od złych, kalibrację prawdopodobieństwa, równość szans przy tej samej jakości oraz stabilność w kolejnych kohortach czasowych [1].

PodejścieCo porównujeCzego nie wychwyci
Różnica wskaźników akceptacjiodsetek pozytywnych decyzji w grupachbłędów modelu wewnątrz grup
Equal opportunityczułość modelu przy podobnym ryzykuróżnic w kalibracji progów
Disparate impactproporcję akceptacji między grupamiprzyczyny różnicy
Test kontrfaktycznyzmianę decyzji po zmianie jednej cechywpływu zmiennych proxy

Tabela pokazuje, dlaczego audyt opiera się na kilku metrykach jednocześnie. Każda odpowiada na inne pytanie, a wnioski bywają sprzeczne. Wybór metryki nadrzędnej to decyzja zarządcza, nie techniczna.

Czy usunięcie kodu pocztowego wystarczy, żeby usunąć stronniczość?

Nie. Kod pocztowy jest tylko jednym z nośników informacji o miejscu zamieszkania. Model odtworzy ją z innych danych, na przykład z nazwy pracodawcy, rodzaju umowy albo historii produktów [1]. Dlatego audyt sprawdza grupy przecięcia, na przykład płeć i region razem, a nie osobno.

Drugi warunek to precyzja porównania. Identyczne parametry finansowe trzeba zdefiniować i udokumentować: czy identyczne były dochód, zadłużenie, historia spłat, rodzaj zatrudnienia, kwota i okres kredytu. Bez tego różnica procentowa między grupami jest liczbą nieweryfikowalną, bo nie wiadomo, co właściwie porównano.

Czy AI Act obejmuje model oceny zdolności kredytowej?

Tak, jako system wysokiego ryzyka. Rozporządzenie wymienia systemy oceniające wiarygodność kredytową osoby fizycznej lub ustalające jej scoring w załączniku III, z wyjątkiem systemów wykrywania oszustw [6]. W praktyce oznacza to obowiązki w zakresie zarządzania ryzykiem, dokumentacji i nadzoru, a nie tylko testów fairness.

Zmienił się natomiast termin. Skonsolidowany tekst wskazuje, po zmianie rozporządzeniem 2026/1744, że zasadnicze obowiązki dla systemów wysokiego ryzyka z załącznika III mają zastosowanie od 2 grudnia 2027 roku, a nie od 2 sierpnia 2026 roku [6]. To przesunięcie wydłuża okres przygotowań, ale nie znosi wymagań. Warto sprawdzić własny model w załączniku III, zanim harmonogram zostanie ponownie zmieniony [8].

Co może zrobić klient, który nie zgadza się z decyzją?

Może zażądać wyjaśnienia i zakwestionować automatyczną ocenę. W sprawie C-634/21 SCHUFA z 7 grudnia 2023 roku Trybunał Sprawiedliwości UE uznał, że automatyczne ustalenie scoringu może stanowić zautomatyzowane podejmowanie decyzji z artykułu 22 RODO, gdy podmiot trzeci w istotny sposób opiera na nim decyzję wobec osoby [7]. AI Act dodaje prawo do jasnego i użytecznego wyjaśnienia roli systemu oraz głównych elementów decyzji [8].

Dla banku to wymóg projektowy. System musi umieć wskazać, które dane wpłynęły na wynik, a procedura reklamacyjna musi prowadzić do ponownej oceny przez człowieka. Model bez takiej ścieżki jest niezgodny niezależnie od tego, jak dobre ma metryki.

Jak przygotować audyt krok po kroku?

  1. Spisz inwentarz modeli, które wpływają na decyzje o klientach, i wskaż te objęte załącznikiem III [6].
  2. Zdefiniuj grupy porównawcze oraz progi istotności różnic, zanim zobaczysz wyniki.
  3. Zbierz dane o decyzjach, progach i parametrach wejściowych z co najmniej kilku kohort czasowych.
  4. Policz metryki z tabeli powyżej, w tym dla grup przecięcia [1].
  5. Sprawdź, jakie zmienne działają jak proxy cech chronionych.
  6. Udokumentuj wynik, progi akceptacji i plan monitoringu po każdej zmianie modelu.

Punkt pierwszy bywa najtrudniejszy, bo modele rozwijają się poza jednym zespołem. Pomocne bywa podejście z projektów wdrożeniowych, w których kolejne modele przechodzą tę samą bramkę jakościową — podobnie jak w praktyce opisanej w artykule Praktyczne zastosowania AI: od pilotażu do produkcji. Warto też śledzić, jak zmienia się otoczenie regulacyjne wokół polskich projektów AI (Czy Orzeł naprawdę podniesie polską AI z kolan?).

Najczęstsze pytania

Czy audyt fairness wymaga zewnętrznego dostawcy?

Nie, ale wymaga danych i osoby, która rozumie metryki. Bank może policzyć wskaźniki wewnętrznie, jeśli ma dostęp do decyzji, progów i parametrów wejściowych. Zewnętrzny audyt pomaga wtedy, gdy potrzebna jest niezależna ocena dokumentacji i metodologii, a nie tylko wynik liczbowy [1].

Czy wystarczy policzyć różnicę między kobietami i mężczyznami?

Nie. Płeć to jedna z osi. Znaczenie mają też region, wiek i grupy przecięcia, na przykład płeć i region razem. Różnica w jednej osi może zniknąć, podczas gdy w innej pozostaje, bo model inaczej rozkłada błędy [1].

Jak często powtarzać test stronniczości?

Po każdej istotnej zmianie modelu, danych treningowych lub progu decyzyjnego, a także w stałym cyklu monitoringowym. Stabilność w czasie jest jedną z metryk audytu, bo model działający dobrze w jednej kohorcie może tracić jakość w kolejnej [1].

Czy AI Act już obowiązuje model scoringowy banku?

System wysokiego ryzyka jest wskazany w załączniku III, a zasadnicze obowiązki dla tej kategorii mają zastosowanie od 2 grudnia 2027 roku po zmianie z 2026 roku [6]. Do tego czasu działają przepisy RODO i orzecznictwo TSUE dotyczące automatycznych decyzji [7].

Co jest najczęstszym błędem w audycie?

Brak zdefiniowania grup i progów przed analizą oraz porównywanie surowych średnich bez kontroli ryzyka. Drugi błąd to założenie, że usunięcie jednej cechy, na przykład kodu pocztowego, usuwa stronniczość — pozostałe dane nadal działają jak proxy [1].

Źródła

  1. Algorithmic Fairness as a Risk-Management Problem in Banking and Insurance (MDPI Risks, 2026)
  2. Jak sztuczna inteligencja ułatwia bankowanie w Pekao? (Bank Pekao, 2025)
  3. Bank Pekao S.A. „Reaches Beyond the Horizon” and Presents Its New Strategy for 2025-2027 (Bank Pekao, 2025)
  4. Maszyna podejmie decyzję, a ty nie dostaniesz kredytu (rp.pl)
  5. Jak obliczyć swoją zdolność kredytową (Bank Pekao)
  6. EUR-Lex 02024R1689-20260727 — skonsolidowany tekst AI Act (EUR-Lex, 2026)
  7. 88. posiedzenie plenarne EDPB, 12–13 grudnia 2023 (EDPB, 2024)
  8. Regulation (EU) 2024/1689 — AI Act (EUR-Lex)
AN
O autorze
Andrzej Niemiec

Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.

Jak powstają teksty: Polityka AI · O redakcji