Algorytm cię ocenia, a urząd mówi: to nie AI
Sytuacja. Właściciel małej firmy transportowej składa wniosek o leasing ciągnika. Po trzydziestu sekundach dostaje odmowę. Pyta handlowca, dlaczego. Słyszy: „System tak policzył. To nie jest żadna sztuczna inteligencja, tylko scoring”. Klient nie wie, co zdecydowało, czy ktoś w ogóle spojrzał na jego dokumenty i czy może się odwołać.
Co mówią przepisy
- Czym jest system AI. AI Act uznaje za system AI program, który z danych sam wyprowadza wnioski: prognozy, oceny, rekomendacje lub decyzje. Wytyczne Komisji Europejskiej z lutego 2025 roku wyłączają proste programy, które wykonują wyłącznie reguły ustalone przez człowieka. Model, który nauczył się na danych, kogo uznać za ryzykownego, jest już systemem AI, nawet jeśli w firmie nazywa się „silnikiem reguł”.
- Ocena człowieka to wysokie ryzyko. Ocena zdolności kredytowej, wybór kandydatów do pracy i przyznawanie świadczeń publicznych to obszary wysokiego ryzyka z załącznika III do AI Act. System, który w tych obszarach profiluje ludzi, zawsze jest systemem wysokiego ryzyka (art. 6 ust. 3). Pełne obowiązki dla takich systemów, w tym prawo do wyjaśnienia decyzji (art. 86), zaczną się 2 grudnia 2027 roku. Czy Państwa system jest systemem wysokiego ryzyka, można sprawdzić w naszym klasyfikatorze AI Act.
- RODO działa już dziś. Decyzja oparta wyłącznie na automatycznym przetwarzaniu, która istotnie wpływa na człowieka, wymaga prawa do interwencji człowieka, do przedstawienia własnego stanowiska i do zakwestionowania decyzji (art. 22 RODO). Trybunał Sprawiedliwości UE uznał w sprawie SCHUFA (2023), że sam automatyczny scoring może być taką decyzją, a w sprawie Dun & Bradstreet Austria (2025), że człowiek ma prawo do zrozumiałego wyjaśnienia, jak powstała jego ocena. Bank ma ten obowiązek także z prawa bankowego (art. 70a).
- Państwo też ma ten problem. W maju 2026 roku Sieć Obywatelska Watchdog Polska opublikowała raport o AI w 5480 instytucjach. Użycie AI deklaruje 9% z nich. Według raportu ZUS typuje zwolnienia lekarskie do kontroli modelem predykcyjnym, ale nie uznaje go za system AI w rozumieniu AI Act. Granica definicji jest sporna i właśnie dlatego warto ją wyjaśnić na piśmie.
- Skarga jest już możliwa. Od 28 października każdy może złożyć skargę na system AI do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Więcej o ustawie piszemy na stronie Ustawa o systemach sztucznej inteligencji.
Co zrobić
- Spisać systemy, które oceniają ludzi. Scoring klientów, filtr CV, typowanie do kontroli, wycena ryzyka. Przy każdym zapisać, czy działa na sztywnych regułach, czy na modelu wyuczonym na danych. To pierwszy dokument, o który zapyta kontroler.
- Zostawić ostatnie słowo człowiekowi. Tam, gdzie ocena decyduje o kredycie, pracy czy świadczeniu, system podpowiada, a decyzję podejmuje i podpisuje pracownik, który rozumie, na czym się opiera. Klient musi wiedzieć, jak poprosić o ponowne rozpatrzenie.
- Przygotować wyjaśnienie zrozumiałe dla klienta. Jedna strona: jakie dane bierze pod uwagę system, które z nich najbardziej wpływają na wynik i co klient może zrobić, żeby wynik był inny. Takie wyjaśnienie chroni firmę lepiej niż zdanie „to nie jest AI”.
W tym pomaga nasz ekosystem SAIE. W Metodyce CDF klasyfikację ryzyka i zasady nadzoru człowieka opisujemy dla każdego zastosowania osobno, zanim system ruszy. PROXY:AI prowadzi rejestr użycia AI, więc widać, kto, kiedy i do czego korzystał z modeli. Asystenci w TWIN:DESK podpowiadają i podają źródło, a decyzja i podpis zostają przy człowieku. Firma ma gotowy opis systemu na wypadek kontroli.
Najczęstsze pytania
Czy każdy scoring to system AI?
Nie. Program, który liczy punkty wyłącznie według reguł wpisanych przez człowieka, zwykle nim nie jest. Model wyuczony na danych historycznych, który sam ustala, co świadczy o ryzyku, zwykle jest. W razie wątpliwości lepiej opisać system tak, jakby był systemem AI.
Czy firma musi pokazać klientowi swój algorytm?
Nie musi ujawniać kodu ani tajemnicy przedsiębiorstwa. Musi jednak wyjaśnić w zrozumiały sposób, jakie dane i jak wpłynęły na ocenę. Tak orzekł Trybunał Sprawiedliwości UE w 2025 roku.
Co, jeśli decyzję zatwierdza pracownik?
To dobrze, pod warunkiem że naprawdę ją sprawdza. Kliknięcie „zatwierdź” przy setkach wniosków dziennie nie jest nadzorem człowieka. Jak to zmienić, pisaliśmy we wpisie o Human Competence Gate.
Od kiedy grozi kara z AI Act?
Za systemy wysokiego ryzyka od 2 grudnia 2027 roku, do 15 mln euro lub 3% obrotu, dla małych i średnich firm niższa z tych kwot. Za naruszenie RODO kary grożą już dziś, do 20 mln euro lub 4% obrotu.
Czy to dotyczy też małej firmy?
Tak, jeśli korzysta z gotowego narzędzia, które ocenia klientów lub kandydatów do pracy. Obowiązki dotyczą nie tylko twórcy narzędzia, ale też firmy, która go używa.
Szansa
System, który umie wyjaśnić swoją ocenę, odpowiada szybciej i sprawiedliwiej niż człowiek z piętnastoma wnioskami na biurku. Sztucznej inteligencji ufa 41% Polaków wobec 46% na świecie (KPMG). Zaufanie rośnie, gdy człowiek wie, dlaczego zapadła decyzja. Firma, która to pokaże, zyska klienta, a nie skargę.
