EU AI Act i strategia AI NATO a SAVANT-AI i GENESIS-AI

EU AI Act i strategie AI NATO dokładnie opisują to, czego potrzebują instytucje i przedsiębiorstwa o znaczeniu strategicznym: fabryk zgodnych z prawem systemów AI oraz warstwy kognitywno-decyzyjnej zapewniającej wyjaśnialność, audytowalność i kontrolę ryzyka.

GENESIS-AI i SAVANT-AI zostały zaprojektowane właśnie jako taka para produktów — techniczny „silnik” i nadbudowa governance — osadzona bezpośrednio w wymaganiach regulacyjnych UE i NATO.

Trzy filary: EU AI Act, dokumenty Rady i strategie NATO

Fundament dla administracji publicznej opiera się na trzech filarach: samym EU AI Act (rozporządzenie 2024/1689), dokumentach przygotowawczych Parlamentu Europejskiego i Rady oraz strategiach NATO dotyczących AI. Razem tworzą spójny obraz: AI ma być technologią odpowiedzialną, nadzorowaną przez człowieka, testowaną, certyfikowaną i interoperacyjną, z pełnym poszanowaniem praw podstawowych i prawa humanitarnego.

Ilustracja regulowanej i odpowiedzialnej sztucznej inteligencji

EU AI Act wprowadza rygorystyczne wymagania dla systemów wysokiego ryzyka: ciągłe zarządzanie ryzykiem, zarządzanie danymi, dokumentację techniczną, logowanie, przejrzystość, nadzór człowieka, odporność na zakłócenia, błędy i zmiany warunków (robustness), cyberbezpieczeństwo, system jakości oraz monitoring po wprowadzeniu na rynek. Rozporządzenie nakłada obowiązki nie tylko na dostawców, ale również na użytkowników końcowych (deployers), w tym organy publiczne, obejmując określone zastosowania obowiązkową oceną wpływu na prawa podstawowe (FRIA). Dla modeli ogólnego przeznaczenia (GPAI) istnieją osobne obowiązki: dokumentacja, testy warunków skrajnych, zarządzanie ryzykiem, polityka praw autorskich, podsumowanie danych treningowych i udział w kodeksach postępowania.

Strategie NATO podkreślają odpowiedzialne wykorzystanie AI, rozliczalność, human-in-the-loop/over-the-loop, zarządzanie cyklem życia, testowanie, ewaluację, weryfikację i walidację (TEVV), interoperacyjność oraz cyberbezpieczeństwo. Wprost definiują sześć Principles of Responsible Use (PRU): legalność, odpowiedzialność i rozliczalność, wyjaśnialność i identyfikowalność, niezawodność, sterowalność oraz ograniczanie stronniczości.

GENESIS-AI: fabryka systemów AI wysokiego ryzyka

GENESIS-AI jest kompletnym środowiskiem DevSecOps/MLOps, w którym każdy projekt jest domyślnie tworzony „zgodnie” z EU AI Act. W praktyce oznacza to, że kluczowe artykuły rozporządzenia są implementowane jako elementy platformy, a nie jako punktowe „checklisty” odhaczane na końcu projektu.

Kluczowe mechanizmy:

System zarządzania ryzykiem (art. 9): każdy projekt AI jest realizowany w potoku z wbudowanym rejestrem ryzyka, scenariuszami użycia i nadużycia oraz bramkami CI/CD, które blokują wdrożenie, jeśli kryteria ryzyka nie są spełnione.
Data governance (art. 10): fabryka danych zapewnia profile jakości danych, testy reprezentatywności i ograniczania stronniczości, anonimizację oraz generowanie danych syntetycznych dla sandboxów i TEVV.
Dokumentacja i logowanie (art. 11–12): GENESIS automatycznie generuje „pakiet zgodności AI” — dokumentację modelu, wersjonowanie i logi potoku — gotowy do audytu, certyfikacji lub rejestracji w bazie UE.
Przejrzystość i instrukcje użytkowania (art. 13–14): platforma tworzy instrukcje, karty modeli i szablony komunikatów dla deployers w ujednoliconym, wielojęzycznym formacie.
Nadzór człowieka i sterowalność (art. 14 + NATO PRU): wzorce human-in-the-loop/over-the-loop, integracja z systemami akceptacji i pełna ścieżka audytowa nadpisań są wymuszane w architekturze projektu.
Odporność i cyberbezpieczeństwo (art. 15): automatyczne testy odporności — adversarial, data/model poisoning i regresyjne — są częścią standardowego potoku; metryki trafiają do raportów i dashboardów zarządczych.
System zarządzania jakością (QMS) i monitoring po wprowadzeniu na rynek (art. 17): konfigurowalny QMS dla AI — polityki, przepływy pracy, checklisty i szablony raportów — połączony z telemetrią oraz wykrywaniem driftu i incydentów.
Wsparcie FRIA i DPIA (motywy 58b, 58g): procesy FRIA/DPIA są wbudowane w cykl projektu i powiązane z konkretnymi wersjami systemu oraz danymi użytymi do trenowania.
GPAI i modele ryzyka systemowego: „fabryka modeli” rejestruje moc obliczeniową/FLOPs, przeprowadza testy adversarial, generuje podsumowania danych treningowych i wspiera politykę praw autorskich (TDM, kodeksy postępowania).

GENESIS-AI jest zatem nie tyle „zestawem narzędzi”, ile inżynieryjnym odwzorowaniem EU AI Act i NATO PRU w procesach tworzenia i utrzymywania systemów AI.

SAVANT-AI: kognitywna warstwa decyzyjna i governance

SAVANT-AI jest systemem kognitywnym: warstwą nadzoru, wyjaśnialności, audytu i wiedzy regulacyjnej, która „rozumie” zarówno systemy AI tworzone w GENESIS, jak i kontekst prawny ich działania. Jej rolą jest przełożenie wymagań UE AI Act i NATO z poziomu technicznego na poziom decyzyjny — dyrektorów departamentów, inspektorów, lekarzy, kontrolerów i funkcjonariuszy.

Kluczowe funkcje:

XAI i wyjaśnialność: SAVANT dostarcza wyjaśnienia decyzji — reason codes, wpływ cech i scenariusze what-if — zgodnie z wymaganiami NATO PRU dotyczącymi wyjaśnialności i identyfikowalności.
Identyfikowalność i pełna ścieżka audytowa: centralna warstwa wiedzy o systemach AI pozwala odtworzyć, „kto, co, kiedy i na jakiej podstawie” ukierunkował konkretną decyzję.
Nadzór człowieka w praktyce: dedykowane interfejsy „konsoli decyzyjnej” prezentują rekomendacje AI wraz z kontekstem, wskaźnikami jakości, ostrzeżeniami i opcjami zaakceptuj/odrzuć, chroniąc przed automation bias.
Rejestr systemów AI wysokiego ryzyka: SAVANT prowadzi katalog systemów w departamencie, odwzorowany na kategorie EU AI Act, status zgodności, wyniki TEVV i powiązane FRIA.
Asystent FRIA: moduł prowadzący urzędników krok po kroku przez ocenę wpływu na prawa podstawowe, identyfikujący grupy podatne na zagrożenia, ryzyka i możliwe środki zaradcze.
NATO PRU Compliance View: widok zgodności każdej aplikacji z sześcioma zasadami NATO — zidentyfikowane luki, zalecane działania i repozytorium dobrych praktyk.
AI literacy i szkolenia: spersonalizowane ścieżki edukacyjne dla różnych profili — prawnika, zamówień, architekta IT i analityka — oparte na dokumentach UE i NATO oraz rzeczywistych przypadkach użycia z ministerstwa.

SAVANT-AI sprawia, że to, co EU AI Act i NATO określają jako „governance”, staje się częścią codziennej pracy decydentów, a nie teoretycznym dokumentem stojącym na półce.