Algorytm cię ocenia, a urząd mówi: to nie AI

Autor: Andrzej Albera, Odpowiada za strategię i kierunek rozwoju

Sytuacja. Właściciel małej firmy transportowej składa wniosek o leasing ciągnika. Po trzydziestu sekundach dostaje odmowę. Pyta handlowca, dlaczego. Słyszy: „System tak policzył. To nie jest żadna sztuczna inteligencja, tylko scoring”. Klient nie wie, co zdecydowało, czy ktoś w ogóle spojrzał na jego dokumenty i czy może się odwołać.

Czarna skrzynkaWiadomo, co zdecydowałoScoring bez wyjaśnieniaWniosek: leasing ciągnika420 000 złODMOWADlaczego?System tak policzył. To nie AI.Ocena z wyjaśnieniemWniosek: leasing ciągnika420 000 złHistoria spłatObroty firmyZadłużenieDecyzja: analitykPonowne rozpatrzenieKlient nie wie, co dalej. SkargaKlient wie, co poprawićArt. 22 RODO · prawo do wyjaśnienia i do decyzji człowieka

Co mówią przepisy

Co zrobić

  1. Spisać systemy, które oceniają ludzi. Scoring klientów, filtr CV, typowanie do kontroli, wycena ryzyka. Przy każdym zapisać, czy działa na sztywnych regułach, czy na modelu wyuczonym na danych. To pierwszy dokument, o który zapyta kontroler.
  2. Zostawić ostatnie słowo człowiekowi. Tam, gdzie ocena decyduje o kredycie, pracy czy świadczeniu, system podpowiada, a decyzję podejmuje i podpisuje pracownik, który rozumie, na czym się opiera. Klient musi wiedzieć, jak poprosić o ponowne rozpatrzenie.
  3. Przygotować wyjaśnienie zrozumiałe dla klienta. Jedna strona: jakie dane bierze pod uwagę system, które z nich najbardziej wpływają na wynik i co klient może zrobić, żeby wynik był inny. Takie wyjaśnienie chroni firmę lepiej niż zdanie „to nie jest AI”.

W tym pomaga nasz ekosystem SAIE. W Metodyce CDF klasyfikację ryzyka i zasady nadzoru człowieka opisujemy dla każdego zastosowania osobno, zanim system ruszy. PROXY:AI prowadzi rejestr użycia AI, więc widać, kto, kiedy i do czego korzystał z modeli. Asystenci w TWIN:DESK podpowiadają i podają źródło, a decyzja i podpis zostają przy człowieku. Firma ma gotowy opis systemu na wypadek kontroli.

Najczęstsze pytania

Czy każdy scoring to system AI?

Nie. Program, który liczy punkty wyłącznie według reguł wpisanych przez człowieka, zwykle nim nie jest. Model wyuczony na danych historycznych, który sam ustala, co świadczy o ryzyku, zwykle jest. W razie wątpliwości lepiej opisać system tak, jakby był systemem AI.

Czy firma musi pokazać klientowi swój algorytm?

Nie musi ujawniać kodu ani tajemnicy przedsiębiorstwa. Musi jednak wyjaśnić w zrozumiały sposób, jakie dane i jak wpłynęły na ocenę. Tak orzekł Trybunał Sprawiedliwości UE w 2025 roku.

Co, jeśli decyzję zatwierdza pracownik?

To dobrze, pod warunkiem że naprawdę ją sprawdza. Kliknięcie „zatwierdź” przy setkach wniosków dziennie nie jest nadzorem człowieka. Jak to zmienić, pisaliśmy we wpisie o Human Competence Gate.

Od kiedy grozi kara z AI Act?

Za systemy wysokiego ryzyka od 2 grudnia 2027 roku, do 15 mln euro lub 3% obrotu, dla małych i średnich firm niższa z tych kwot. Za naruszenie RODO kary grożą już dziś, do 20 mln euro lub 4% obrotu.

Czy to dotyczy też małej firmy?

Tak, jeśli korzysta z gotowego narzędzia, które ocenia klientów lub kandydatów do pracy. Obowiązki dotyczą nie tylko twórcy narzędzia, ale też firmy, która go używa.

Szansa

System, który umie wyjaśnić swoją ocenę, odpowiada szybciej i sprawiedliwiej niż człowiek z piętnastoma wnioskami na biurku. Sztucznej inteligencji ufa 41% Polaków wobec 46% na świecie (KPMG). Zaufanie rośnie, gdy człowiek wie, dlaczego zapadła decyzja. Firma, która to pokaże, zyska klienta, a nie skargę.

Źródła