Human Competence Gate: gdy AI sprawdza, czy naprawdę rozumiesz, co zatwierdzasz. Problem: „OK” bez zrozumienia
Systemy AI coraz częściej wspierają ludzi w podejmowaniu decyzji: analizują dokumenty, oceniają ryzyko i rekomendują działania. Ludzie pełnią funkcję nadzorczą: widzą rekomendację i klikają „Zatwierdź”. Tyle teoria.
W praktyce istnieje poważna luka. Rekomendacje AI opierają się na setkach zmiennych, dziesiątkach dokumentów i złożonych zależnościach prawnych lub finansowych. Ludzie widzą wynik końcowy - proponowaną decyzję - lecz nie zawsze rozumieją, dlaczego AI ją zaproponowała i jakie są konsekwencje jej zatwierdzenia.
Tworzy to trzy konkretne zagrożenia:
- Iluzja nadzoru - użytkownik formalnie pozostaje „w pętli”, ale w rzeczywistości zatwierdza coś, czego nie potrafi ocenić. Przycisk OK staje się odruchem, a nie decyzją.
- Luka audytowa - w razie błędu nie da się udowodnić, czy użytkownik rzeczywiście rozumiał zagadnienie. Dziennik zdarzeń pokazuje jedynie, że ktoś kliknął „Zatwierdź” o 2:32 po południu.
- Brak mechanizmu weryfikacji - istniejące systemy kontroli (RBAC, role, uprawnienia) sprawdzają, czy użytkownik ma prawo zatwierdzić decyzję, ale nie weryfikują, czy rozumie, co zatwierdza.
AI Act wymaga skutecznego nadzoru człowieka nad systemami wysokiego ryzyka. Sam mechanizm „human-in-the-loop” tego nie gwarantuje, jeżeli człowiek w pętli nie rozumie, w czym uczestniczy.
Metoda: Human Competence Gate (HCG)
Human Competence Gate to mechanizm, w którym system AI, zanim odblokuje użytkownikowi możliwość zatwierdzenia decyzji, zadaje mu serię kontekstowych pytań „Tak/Nie”, aby sprawdzić jego zrozumienie kluczowych faktów, konsekwencji i ograniczeń związanych z konkretną sprawą.
Jak to działa
AI generuje rekomendację, lecz przycisk zatwierdzania pozostaje zablokowany. Zamiast niego użytkownik widzi kilka pytań generowanych dynamicznie na podstawie treści sprawy: dokumentów, podstawy prawnej, reguł biznesowych i kontekstu decyzji.
Pytania obejmują trzy obszary:
- Fakty - np. „Czy wiesz, że wnioskodawca przekroczył dopuszczalny wskaźnik zadłużenia?”
- Konsekwencje - np. „Czy zatwierdzenie tej decyzji wiąże się z zobowiązaniem finansowym na 5 lat?”
- Ograniczenia i wyjątki - np. „Czy od tej decyzji można się odwołać w ciągu 14 dni?”
Walidacja i wynik
System porównuje odpowiedzi użytkownika ze stanem faktycznym. Jeżeli odpowiedzi są prawidłowe, przycisk OK zostaje odblokowany. Jeśli użytkownik nieprawidłowo odpowie na kluczowe pytania, system blokuje zatwierdzenie i może zaproponować jedno z trzech działań:
- ponowne przejrzenie dokumentów sprawy,
- przekazanie decyzji osobie z wyższymi uprawnieniami,
- skierowanie użytkownika do modułu szkoleniowego.
Ścieżka audytowa
Każda sesja HCG jest w pełni rejestrowana: treść pytań, odpowiedzi użytkownika, wynik walidacji, czas, wersja modelu i ostateczna decyzja. Oznacza to, że podczas audytu można odtworzyć nie tylko, co użytkownik zatwierdził, lecz także czy rozumiał to, co zatwierdzał.
Potencjał: AI, która rozwija ludzi
HCG rozwiązuje problem nadzoru, ale jego prawdziwa wartość leży gdzie indziej.
Koniec z automatycznym zatwierdzaniem decyzji
Bez wsparcia AI ludzie również podejmują decyzje na podstawie intuicji, przyzwyczajenia lub pobieżnej lektury dokumentów. Nikt ich nie sprawdza, nikt nie pyta: „Czy na pewno rozumiesz?”. HCG zmienia każdą decyzję w mikroegzamin - zmusza do refleksji nad konsekwencjami, zanim palec dotknie przycisku.
Edukacja wbudowana w proces
Pytania HCG służą nie tylko weryfikacji - pełnią też funkcję edukacyjną. Użytkownicy regularnie przechodzący przez bramę kompetencyjną uczą się faktów, regulacji i zależności, które wcześniej pomijali. System gromadzi dane o błędnych odpowiedziach i może kierować użytkowników na ukierunkowane szkolenia - dokładnie w tych obszarach, w których ich wiedza jest najsłabsza.
Mierzalny wzrost kompetencji
Tradycyjne szkolenia kończą się certyfikatem, po czym zostają zapomniane. HCG tworzy ciągły, mierzalny profil kompetencyjny każdego użytkownika: ile decyzji zatwierdził, jaki odsetek poprawnych odpowiedzi uzyskał, w jakich obszarach popełnia błędy i jak jego skuteczność zmienia się w czasie. Takich danych nie zapewnia dziś żaden system szkoleniowy.
Odpowiedź na zarzut, że „AI odbiera kompetencje”
Jednym z najczęstszych zarzutów wobec systemów AI jest to, że odbierają ludziom umiejętności: delegujemy myślenie i tracimy sprawczość. HCG odwraca ten argument. Zamiast zastępować ludzi, AI staje się mechanizmem, który wymusza i rozwija kompetencje. Paradoksalnie im częściej AI jest wykorzystywana w procesie, tym bardziej kompetentna staje się korzystająca z niej osoba.
Nowy standard nadzoru
HCG nie służy wyłącznie zabezpieczeniu procesu. Jest nowym standardem tego, co powinno oznaczać „human-in-the-loop”: nie obecność człowieka w pętli, lecz udowodnione kompetencje człowieka w pętli.
:::closing *Model Human Competence Gate (HCG) jest gotowy do wdrożenia jako element architektury AI Governance w systemach wspomagania decyzji w bankowości, administracji publicznej, HR i medycynie.*