Rozmawiasz z botem? Masz prawo o tym wiedzieć
Autor: Andrzej Albera, Odpowiada za strategię i kierunek rozwoju
Sytuacja. Klientka pisze wieczorem na czacie sklepu internetowego. Odpowiada „pani Ania”: szybko, uprzejmie, bez literówek. Po kwadransie klientka prosi o rozmowę z kierownikiem i dowiaduje się, że „pani Ania” to program. Czuje się oszukana, choć bot pomógł jej dobrze. Następnego dnia sklep dostaje złą opinię, a może też dostać skargę do Komisji.
Co mówią przepisy
- Bot musi się przedstawić. Według art. 50 unijnego AI Act osoba rozmawiająca z systemem AI ma być o tym poinformowana, chyba że jest to oczywiste z kontekstu. Informacja ma być jasna i pojawić się najpóźniej przy pierwszej rozmowie.
- Deepfake trzeba oznaczyć. Obraz, nagranie wideo lub głos wygenerowane albo zmienione przez AI, które przypominają prawdziwe osoby, miejsca czy zdarzenia, muszą być opisane jako treść z AI. Jak to wygląda w praktyce redakcji i agencji, piszemy na stronie Media i komunikacja.
- Teksty w sprawach publicznych także. Tekst z AI publikowany po to, żeby informować o sprawach publicznych, trzeba oznaczyć, chyba że przeszedł redakcję człowieka i ktoś bierze za niego odpowiedzialność.
- Terminy nie zostały przesunięte. Pakiet zmian Digital Omnibus przesunął obowiązki dla systemów wysokiego ryzyka, ale nie art. 50. Obowiązki przejrzystości działają od 2 sierpnia 2026 roku.
- Kary: do 15 mln euro lub 3% światowego obrotu. Małe i średnie firmy płacą niższą z dwóch kwot.
- Skarga: od 28 października każdy klient może złożyć skargę do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Więcej o ustawie i terminach piszemy na stronie Ustawa o systemach sztucznej inteligencji.
Co zrobić
- Spisać miejsca, w których klient spotyka AI. Czat na stronie, infolinia z syntetycznym głosem, automatyczne odpowiedzi na maile, grafiki w reklamach. Często jest ich więcej, niż myśli zarząd.
- Niech bot przedstawi się w pierwszym zdaniu. Na przykład: „Dzień dobry, jestem asystentem AI sklepu. Jeśli woli Pan lub Pani rozmawiać z konsultantem, wystarczy napisać: konsultant”. Droga do człowieka nie jest wymogiem prawa, ale klienci ją doceniają.
- Oznaczać treści z AI. Grafiki, nagrania i głos, które udają prawdziwe osoby, dostają widoczny opis „wygenerowane przez AI”. Teksty publikowane w imieniu firmy przechodzą przez ręce człowieka, który za nie odpowiada.
W tym pomaga nasz ekosystem SAIE. PROXY:AI prowadzi rejestr użycia AI, więc widać w nim wszystkie miejsca, w których firma korzysta z modeli, także te, w których AI rozmawia z klientem. TWIN:DESK to Cyfrowe biurko AI, w którym asystenci odpowiadają na podstawie wiedzy firmy i podają źródło każdej odpowiedzi. Metodyka CDF zaczyna od oceny wstępnej, w której spisujemy miejsca kontaktu klienta z AI.
Najczęstsze pytania
Czy każdy chatbot musi mówić, że jest botem?
Tak, chyba że dla rozsądnego, uważnego człowieka jest to oczywiste z kontekstu. W razie wątpliwości lepiej napisać to wprost. Jedno zdanie kosztuje mniej niż skarga.
Czy trzeba oznaczać każdy mail napisany z pomocą AI?
Nie. Obowiązek oznaczania tekstu dotyczy publikacji w sprawach publicznych i nie dotyczy tekstów, które zredagował i za które odpowiada człowiek. Zwykła korespondencja z klientem nie wymaga oznaczenia, ale nadal obowiązują przy niej zasady ochrony danych.
Czy Digital Omnibus nie przesunął tych terminów?
Nie. Przesunął obowiązki dla systemów wysokiego ryzyka do grudnia 2027 roku. Obowiązek informowania o rozmowie z AI i oznaczania deepfake’ów działa od 2 sierpnia 2026 roku. Dostawcy narzędzi do generowania treści, które były na rynku przed tym dniem, mają czas na techniczne znakowanie do 2 grudnia 2026 roku.
Co grozi za bota, który się nie przedstawia?
Kara do 15 mln euro lub 3% obrotu, dla małych i średnich firm niższa z tych kwot. Wcześniej zwykle przychodzi skarga klienta i kontrola. Jak się do niej przygotować, pisaliśmy we wpisie Od 28 października kontrole i kary za AI.
Czy bot może mieć imię, na przykład „Ania”?
Może, jeśli od początku wiadomo, że to asystent AI. Imię nie jest problemem. Problemem jest udawanie człowieka.
Szansa
Szybka odpowiedź bota o 22:00 bywa dla klienta lepsza niż czekanie do rana na konsultanta. Pod jednym warunkiem: że klient wie, z kim rozmawia. Bot, który mówi wprost, kim jest, i zna wiedzę firmy, staje się jej wizytówką. Bot udający człowieka prowadzi wprost do złej opinii.