Zmyślone wyroki. Kto odpowiada, gdy AI się pomyli?
Autor: Andrzej Albera, Odpowiada za strategię i kierunek rozwoju
Sytuacja. Specjalistka do spraw zamówień w firmie budowlanej ma do jutra przygotować odwołanie do Krajowej Izby Odwoławczej. Prosi czat AI o orzeczenia na poparcie swojego argumentu. Dostaje trzy sygnatury, każdą z krótkim streszczeniem, które brzmi jak z podręcznika. Pismo wychodzi. Na rozprawie pełnomocnik zamawiającego spokojnie zauważa, że żadne z tych orzeczeń nie mówi tego, co mu przypisano, a jednego w ogóle nie ma w bazie.
Co mówią przepisy
- To już dzieje się w polskich sądach. 23 czerwca 2026 roku Naczelny Sąd Administracyjny oddalił zażalenie przedsiębiorcy z Łodzi w sporze o ponad 211 tys. zł podatku VAT. Pełnomocnik powołał trzy orzeczenia, które nie zawierały przypisanych im tez, a sąd bardzo krytycznie ocenił bezrefleksyjne korzystanie z AI przez zawodowego pełnomocnika (sygn. I FZ 104/26). 31 sierpnia NSA sprawdził siedem orzeczeń z innej skargi kasacyjnej: część miała złe daty albo dotyczyła innych spraw, a części nigdy nie zarejestrowano (sygn. I OSK 590/26).
- Na świecie to ponad 1300 spraw. Tyle przypadków zmyślonych lub przekręconych orzeczeń w pismach sądowych zebrała do kwietnia 2026 roku baza prowadzona przez Damiena Charlotina z HEC Paris. W Australii Deloitte oddał część wynagrodzenia za raport dla rządu, w którym znalazły się nieistniejące źródła.
- Odpowiada firma, nie dostawca czatu. Wobec klienta firma odpowiada za źle wykonaną umowę na zwykłych zasadach (art. 471 Kodeksu cywilnego). Za szkodę, którą pracownik wyrządził osobie trzeciej przy wykonywaniu obowiązków, odpowiada pracodawca (art. 120 Kodeksu pracy). Pracownik, który działał nieumyślnie, odpowiada wobec firmy najwyżej do wysokości trzech pensji (art. 119). Zawodowym pełnomocnikom grozi dodatkowo odpowiedzialność dyscyplinarna.
- Przepisy unijne tego nie zmieniają. Komisja Europejska wycofała projekt dyrektywy o odpowiedzialności za AI. Nowa dyrektywa o odpowiedzialności za produkty obejmie oprogramowanie i AI od 9 grudnia 2026 roku, ale chroni przed szkodami na osobie, w prywatnym mieniu i danych, a nie przed stratą firmy z powodu źle przygotowanego pisma.
- AI Act wymaga umiejętności. Firma ma dbać o to, żeby jej ludzie umieli korzystać z AI (art. 4). Pracownik, który nie wie, że czat potrafi zmyślić sygnaturę, tej umiejętności jeszcze nie ma.
Co zrobić
- Przyjąć zasadę: odpowiedź AI nie jest źródłem. Sygnatura, numer przepisu, liczba czy nazwisko z odpowiedzi AI trafiają do dokumentu dopiero po sprawdzeniu w źródle: w bazie orzeczeń, w Dzienniku Ustaw, w dokumencie firmy. Wystarczy dopisać jedno zdanie do zasad korzystania z AI, o których pisaliśmy we wpisie Od 28 października kontrole i kary za AI.
- Wskazać, kto podpisuje. Każdy dokument, który wychodzi z firmy, ma autora, który go sprawdził i za niego odpowiada. To on, a nie narzędzie, odpowiada przed klientem, sądem lub urzędem.
- Dać ludziom narzędzie, które pokazuje źródło. Ogólny czat odpowiada z pamięci modelu i dlatego potrafi zmyślać. Asystent, który odpowiada na podstawie dokumentów firmy i przy każdej odpowiedzi podaje źródło, pozwala sprawdzić wynik w kilka sekund.
Tak działa nasz ekosystem SAIE. TWIN:DESK to Cyfrowe biurko AI, w którym asystenci odpowiadają na podstawie wiedzy firmy i podają źródło każdej odpowiedzi, więc sprawdzenie sygnatury czy zapisu umowy to jedno kliknięcie. PROXY:AI prowadzi rejestr użycia AI, więc przy reklamacji widać, kto, kiedy i o co pytał model. Metodyka CDF wprowadza Human Competence Gate: człowiek zatwierdza wynik AI dopiero wtedy, gdy pokaże, że go rozumie.
Najczęstsze pytania
Czy można pozwać dostawcę czatu za zmyśloną odpowiedź?
W praktyce trudno. Regulaminy popularnych narzędzi zastrzegają, że odpowiedzi mogą zawierać błędy i trzeba je sprawdzać. Odpowiedzialność wobec klienta zostaje po stronie firmy.
Czy pracownik zapłaci za błąd AI?
Wobec klienta odpowiada firma. Pracownik, który działał nieumyślnie, odpowiada wobec pracodawcy najwyżej do wysokości trzech pensji. Skuteczniejszy od kary jest jasny obowiązek sprawdzania i narzędzie, które to ułatwia.
Dlaczego AI zmyśla?
Model językowy układa najbardziej prawdopodobny ciąg słów. Sygnatura w poprawnym formacie wygląda wiarygodnie, nawet jeśli w tej sprawie zapadło coś zupełnie innego. Model nie sprawdza bazy orzeczeń, chyba że ktoś mu ją udostępni i każe na nią się powoływać. Jak ograniczamy halucynacje, piszemy na stronie Technologie allclouds.
Czy płatne narzędzia prawnicze nie mają tego problemu?
Mają go rzadziej, bo korzystają z baz orzeczeń, ale nie są od niego wolne. Badanie Uniwersytetu Stanforda z 2024 roku wykazało błędne odpowiedzi w co szóstym lub częstszym zapytaniu do specjalistycznych narzędzi prawniczych. Więcej o AI w kancelariach pisaliśmy we wpisie Czy prawnik potrzebuje suwerennego AI?
Czy wystarczy dopisać, że pismo powstało z pomocą AI?
Nie. Takie oznaczenie nie zdejmuje odpowiedzialności. Sąd i klient oceniają treść, a za treść odpowiada osoba, która dokument podpisała.
Szansa
AI, które podaje źródło, skraca szukanie orzeczeń, przepisów i zapisów umów z godzin do minut. Ten zysk zostaje w firmie tylko wtedy, gdy sprawdzanie jest wbudowane w sposób pracy, a nie pozostawione dobrej woli. Wtedy AI przestaje być ryzykiem i staje się przewagą.