inLABs — projekty badawcze

„Wynik częściowy lub negatywny będzie prawidłowym rezultatem badań”

„System powinien jasno pokazywać swoje ograniczenia, zamiast zastępować ludzki osąd pozorną pewnością”

„CDT może dostarczać potrzebny kontekst, ale nie podejmuje decyzji i nie zwalnia człowieka z odpowiedzialności”

„Ten opis nie oznacza gotowej integracji, wspólnego środowiska działania ani przepływu danych między tymi rozwiązaniami”

„Ta strona nie ogłasza produktu, programu pilotażowego, dostępności ani harmonogramu komercyjnego”

„Szczegółowe procedury, konfiguracje, dane i wyniki nie są częścią tego publicznego opisu”

CDT (Cognitive Digital Twin, czyli cyfrowy bliźniak poznawczy) to rozwijana w inLABs koncepcja uporządkowania wiedzy związanej z zadaniami i codziennym kontekstem pracy konkretnej osoby. Sprawdzamy, jak taką wiedzę wraz z jej uzasadnieniem i informacją o aktualności można zbierać, porządkować i odpowiedzialnie wykorzystywać. Celem jest wspieranie ciągłości pracy, a nie odtwarzanie tożsamości człowieka ani przejmowanie jego decyzji i odpowiedzialności

Technologia nie ma naśladować człowieka ani przedstawiać niepewnych informacji jako pewnych. Chcemy przede wszystkim uczciwie oddzielić to, co można opisać i przekazać, od wiedzy, która nadal wymaga doświadczenia, rozmowy i praktyki

Dlaczego powstaje

Ważna wiedza w organizacji jest zwykle rozproszona między procedurami, decyzjami, instrukcjami, innymi dokumentami, rozmowami i codzienną praktyką. Kiedy zmienia się rola, skład zespołu albo priorytety, łatwo stracić nie tylko informację o tym, co zrobiono, lecz także powody wyboru danej metody, uwzględnione warunki oraz zastosowane środki ostrożności

Samo zgromadzenie plików nie rozwiązuje problemu. Informacja pozbawiona związku z konkretnym zadaniem, osobą, źródłem i datą powstania może być trudna do znalezienia, nieaktualna albo wykorzystana w niewłaściwy sposób. Z kolei zbyt daleko idące uogólnienie doświadczenia eksperta może dawać fałszywe poczucie pewności, szczególnie w nietypowych sytuacjach wymagających wieloletniej praktyki

Dlatego badamy, jak zachować ciągłość wiedzy bez sprowadzania jej do listy faktów. Dotyczy to m.in. zgody na wykorzystanie informacji, zasad dostępu, własności wiedzy, możliwości jej poprawiania i usuwania, aktualności oraz odpowiedzialnego użycia. System powinien jasno pokazywać swoje ograniczenia, zamiast zastępować ludzki osąd pozorną pewnością

Potencjalne scenariusze zastosowania

Poniższe przykłady pokazują możliwe kierunki badań. Nie opisują gotowych wdrożeń, dostępnych funkcji ani usług

Rola w ekosystemie inLABs

Podejście badawcze

Zakładamy, że użyteczna wiedza musi pozostać powiązana z zadaniem, kontekstem, źródłem, datą powstania i poziomem pewności. System powinien pomagać rozpoznawać nie tylko fakty i procedury, lecz także warunki ich zastosowania, uzasadnienia oraz sygnały wskazujące, że informację trzeba ponownie potwierdzić

Badamy trzy podstawowe możliwości: pozyskiwanie i porządkowanie wiedzy objętej zgodą, wiązanie jej z konkretnym zadaniem oraz przedstawianie jej osobie, która nadal samodzielnie podejmuje decyzję. Rezultatem nie ma być cyfrowa kopia człowieka, lecz jasno oznaczone narzędzie pomocnicze, które wspiera rozumienie, sprawdzanie i przekazywanie wiedzy

Nie każdą wiedzę da się łatwo opisać. Część doświadczenia można zapisać jako fakty i procedury, część wydobyć w rozmowie, a część poznaje się dopiero przez obserwację i praktykę w konkretnej sytuacji. Nie obiecujemy pełnego odtworzenia tej ostatniej kategorii. Uczciwszym rozwiązaniem jest wskazanie, kiedy potrzebny jest kontakt z ekspertem albo praktyczne przygotowanie

Metody badawcze i walidacja

Rozwój CDT wymaga sprawdzania zarówno jakości zgromadzonej wiedzy, jak i zasad jej wykorzystywania. Planujemy kontrolowane przypadki badawcze, przeglądy eksperckie oraz dobrowolne badania z udziałem osób o różnym doświadczeniu, prowadzone z odpowiednią ochroną danych. Będziemy porównywać sposoby opisywania kontekstu, informowania o niepewności i przygotowywania materiałów dla osoby przejmującej zadania

Ocena będzie obejmować m.in. przydatność w konkretnym zadaniu, zgodność ze źródłami, aktualność, jasność ograniczeń i jakość informacji przekazywanej człowiekowi do dalszej oceny. Równolegle badamy zasady dotyczące zgody, dostępu, wskazania autora wiedzy oraz jej poprawiania i usuwania. Szczegółowe procedury, konfiguracje, dane i wyniki nie są częścią tego publicznego opisu

HCG (Human Competence Gate) to sposób sprawdzenia, czy przed zatwierdzeniem decyzji wspieranej przez AI właściwa osoba rozumie sytuację, potrafi ocenić rekomendację i świadomie bierze odpowiedzialność za podjętą decyzję

W wielu procesach organizacja korzysta z rekomendacji AI, ale o dalszym działaniu nadal decyduje człowiek. Podstawy metodyczne HCG są już opracowane, a odpowiadający im etap kontroli opisano w metodyce wdrożeniowej CDF. W ramach inLABs badamy obecnie, jak stosować takie sprawdzenie w konkretnych procesach i jak oceniać jego skuteczność

Dlaczego sama akceptacja nie zawsze wystarcza

Obecność człowieka w procesie nie przesądza jeszcze o jakości nadzoru. Gdy rekomendacje pojawiają się często, a ich treść jest złożona, zatwierdzenie może stać się odruchem. Osoba podejmująca decyzję może nie mieć pełnego obrazu przesłanek, wyjątków lub granic zastosowania rekomendacji. W takim przypadku system ma formalny ślad akceptacji, lecz organizacja wciąż nie wie, czy decyzja została rzeczywiście rozważona

To problem szczególnie ważny tam, gdzie decyzja ma wpływ na klienta, pracownika, bezpieczeństwo operacyjne, zasoby albo ciągłość procesu. Szybkość działania jest cenna, ale nie może prowadzić do sytuacji, w której człowiek podpisuje wynik bez możliwości zrozumienia, co on oznacza w danym przypadku

Drugim wyzwaniem jest różnica między wiedzą ogólną a przygotowaniem do konkretnej decyzji. Kompetentna osoba nie zawsze ma aktualny kontekst sprawy, a osoba znająca jej szczegóły może potrzebować wsparcia w ocenie ograniczeń rekomendacji AI. Organizacja potrzebuje więc podejścia, które nie redukuje odpowiedzialności do obecności użytkownika przy ekranie

HCG odpowiada na pytanie, jak sprawić, aby decyzja człowieka miała rzeczywiste znaczenie: przed zatwierdzeniem działania pozwala upewnić się, że osoba odpowiedzialna rozumie konkretną sprawę i ma kompetencje potrzebne do jej oceny

Ważne jest przy tym zachowanie proporcji: zakres uwagi i wsparcia powinien odpowiadać znaczeniu konkretnej decyzji, a nie tworzyć identycznej przeszkody przy każdym działaniu

Gdzie HCG może mieć znaczenie

Poniższe scenariusze są możliwymi kierunkami zastosowania, a nie opisem wdrożeń ani dostępnych funkcji

W ujęciu metodycznym zatwierdzenie działania może wymagać potwierdzenia, że osoba odpowiedzialna ma odpowiednie kompetencje i rozumie daną sprawę. HCG nie rozstrzyga jednak, jaka decyzja jest właściwa; pozostaje ona po stronie człowieka odpowiedzialnego za proces

Rola w ekosystemie inLABs

Zasada podejścia: od rekomendacji do świadomej decyzji

Punktem wyjścia prac jest prosta hipoteza: formalna akceptacja ma ograniczoną wartość, jeżeli osoba zatwierdzająca nie rozumie, czego dotyczy decyzja i jakie są jej granice. HCG bada, jak przed decyzją można przedstawić elementy wymagające świadomej oceny, tak aby człowiek pozostał rzeczywistym uczestnikiem procesu

Podejście można opisać przez trzy elementy. Pierwszym jest kontekst decyzji: czego ona dotyczy i jakie informacje są ważne. Drugim jest zrozumienie: czy osoba zatwierdzająca potrafi odnieść się do założeń, ograniczeń i możliwych skutków. Trzecim jest odpowiedzialne działanie: zatwierdzenie, konsultacja albo rezygnacja. Taki model nawiązuje do wymagań dotyczących kompetencji i nadzoru człowieka opisanych w AI Act oraz normie ISO/IEC 42001, ale nie jest deklaracją zgodności ani poradą prawną

Nie chodzi o zastąpienie ludzkiego osądu automatyczną oceną. Celem jest taki sposób organizacji decyzji, który pomaga człowiekowi uważnie rozważyć konkretną sprawę. HCG różni się więc od ogólnego szkolenia lub uniwersalnej listy kontrolnej: uwzględnia sytuację, odpowiedzialność przypisaną do roli i ograniczenia danej rekomendacji

Podejście musi pozostać zrozumiałe dla osoby, która z niego korzysta. Badania będą więc dotyczyć nie tylko samego momentu decyzji, lecz także tego, czy przedstawiony kontekst pomaga dostrzec niepewność zamiast pozornie ją usuwać

Badania i walidacja

Dalsze badania nad HCG mogą obejmować analizę różnych sytuacji decyzyjnych, przeglądy eksperckie i porównanie kilku sposobów wspierania człowieka przed zatwierdzeniem działania. Będziemy oceniać m.in. czytelność przedstawionego kontekstu, zasadność dodatkowego sprawdzenia, użyteczność dla osoby podejmującej decyzję oraz możliwość jasnego wyjaśnienia roli człowieka w całym procesie

Trzeba też określić granice tego podejścia. Dodatkowe sprawdzenie powinno poprawiać jakość decyzji, a nie stawać się pustą formalnością lub nadmiernym obciążeniem procesu. Dlatego badania muszą uwzględniać różne role, poziomy ryzyka i rzeczywiste warunki działania organizacji

Ważna będzie ocena, czy sposób wsparcia pozostawia osobie decyzyjnej czytelne podstawy do własnego osądu, zamiast sugerować automatyczną pewność. W zależności od scenariusza potrzebne mogą być zarówno analizy jakościowe, jak i porównania zachowania procesu przed i po wprowadzeniu punktu kontroli

Kolejne prace mogą koncentrować się na rozróżnianiu decyzji, w których ludzki punkt kontroli ma realne uzasadnienie, na sposobach przedstawiania ograniczeń rekomendacji oraz na utrzymaniu jasnej granicy między wsparciem AI a odpowiedzialnością człowieka. Każdy przyszły scenariusz wymaga odrębnej oceny kontekstu, ryzyka i zasad organizacyjnych oraz odpowiedzialnego właściciela decyzji

AICF (AI Compliance Framework) to projekt badawczo-rozwojowy inLABs, dla którego staramy się o dofinansowanie w ramach programu Fundusze Europejskie dla Nowoczesnej Gospodarki. Chcemy zbadać, jak organizacje mogą na bieżąco nadzorować zgodność wykorzystania generatywnej AI z przepisami, normami i własnymi zasadami. Nie chcemy sprowadzać zgodności do jednorazowej listy kontrolnej. Planujemy sprawdzić, jak jasno opisywać wymagania organizacji, odnosić je do konkretnego zadania i zachowywać dowody potrzebne później osobie odpowiedzialnej za ocenę. Prace rozpoczniemy dopiero po przyznaniu dofinansowania; uruchomienie projektu nie jest możliwe bez pozytywnego zakończenia oceny wniosku

Dlaczego te badania są ważne

Generatywna AI coraz częściej wspiera procesy biznesowe, w których zmieniają się dane, decyzje i obowiązki. Polityka lub ocena przygotowana przed wdrożeniem nadal jest potrzebna, ale nie zawsze wyjaśnia, co zrobić po zmianie zadania, modelu, źródła danych, narzędzia lub warunków organizacyjnych. AICF ma się koncentrować właśnie na tej różnicy między zapisanym wymaganiem a rzeczywistym sposobem używania AI

Potencjalne scenariusze zastosowań

Poniższe przykłady pokazują możliwe kierunki badań. Nie opisują wdrożeń u klientów, zobowiązań produktowych ani obecnej dostępności rozwiązania

Rola w ekosystemie inLABs

Od wymagań do weryfikowalnych dowodów

Na poziomie publicznym badania można ująć w prostą relację:

Chcemy sprawdzić, czy wymagania można zapisać tak, aby łatwiej było oceniać działania wspierane przez AI w konkretnym kontekście. Planujemy również zbadać, czy istotne zmiany można sygnalizować bez tworzenia fałszywego poczucia pewności oraz czy zgromadzone dowody pomagają osobie odpowiedzialnej zrozumieć i zakwestionować podstawę decyzji. AICF ma dotyczyć bieżącej kontroli zgodności; nie będzie uniwersalnym narzędziem bezpieczeństwa, opinią prawną ani systemem automatycznie zatwierdzającym decyzje. Ten opis nie stanowi porady prawnej

Szczegółowe mechanizmy, modele danych i procedury decyzyjne pozostają celowo poza tym publicznym opisem. Istotny jest kierunek planowanych badań: kontrola bardziej ciągła, możliwa do zinterpretowania i powiązana z rzeczywistą odpowiedzialnością w organizacji

Metody i walidacja badań

AICF jest projektem badawczo-rozwojowym, którego założenia będą wymagać dowodów, a nie deklaracji, po jego uruchomieniu. Prace mają obejmować ograniczone przypadki testowe, kontrolowane porównania z odpowiednio dobranymi podejściami odniesienia oraz kwalifikowaną ocenę ekspercką. Ocena będzie dotyczyć zrozumiałości, spójności, możliwości prześledzenia i odporności podejścia w określonym kontekście. Uwzględni też sytuacje, w których wymagania się pokrywają, a dostępne informacje są niepełne

Wyniki będą wymagać ostrożnej interpretacji. Pozytywny rezultat w jednym scenariuszu nie ustanowi uniwersalnej zgodności, wystarczalności prawnej ani przydatności dla innej organizacji. Wynik częściowy lub negatywny będzie prawidłowym rezultatem badań: może pokazać, gdzie potrzebna jest weryfikacja przez człowieka, jaśniejsze wymaganie lub inne podejście do kontroli. Szczegółowe materiały badawcze i niepublikowane wyniki nie będą częścią tej strony

SAVANT-AI (Semantic Autonomous Versatile Advanced Network Technology — Artificial Intelligence) to projekt badawczo-rozwojowy inLABs. Badamy, jak połączyć wiedzę organizacji, doświadczenie ekspertów, agentów AI i systemy biznesowe w jednym, kontrolowanym kontekście pracy. Nie chodzi o zastępowanie ludzi ani o zapowiedź gotowego produktu. Chcemy sprawdzić, czy w złożonych organizacjach można lepiej wykorzystywać rozproszone informacje, zachowując odpowiedzialność człowieka, zasady dostępu i możliwość powrotu do źródeł

Dlaczego te badania są potrzebne

Ważna wiedza organizacji powstaje w dokumentach, systemach operacyjnych, rozmowach ekspertów i codziennych decyzjach. Każde źródło pokazuje tylko część sytuacji, często opisując ją innym językiem i z innej perspektywy. Aby odpowiedzieć na jedno istotne pytanie, zespół musi odnaleźć informacje, sprawdzić ich aktualność, ustalić znaczenie i uzgodnić je między działami. To konieczne, ale czasochłonne i podatne na utratę kontekstu

Drugim problemem jest wiedza zależna od konkretnych osób. Gdy doświadczenie nie jest dostrzegalne dla pozostałych zespołów albo nie wiadomo, gdzie szukać właściwego eksperta, organizacja trudniej uczy się na własnych decyzjach i zmianach. Ryzyko rośnie, gdy procesy są złożone, dane wrażliwe, a konsekwencje błędu wykraczają poza jeden dział

Samo wyszukiwanie dokumentów nie wystarczy. Trzeba jeszcze zrozumieć pytanie w kontekście zadania, ostrożnie połączyć informacje, uwzględnić zasady dostępu i umożliwić człowiekowi ocenę otrzymanego wniosku. SAVANT-AI bada tę przestrzeń bez założenia, że każda odpowiedź może lub powinna powstawać automatycznie

Potencjalne scenariusze zastosowania

Poniższe przykłady są kierunkami badań, a nie opisem wdrożeń, dostępnych funkcji ani obietnicą rezultatu

Rola w ekosystemie inLABs

Ogólna zasada podejścia

Punkt wyjścia jest prosty: organizacja może podejmować lepiej uzasadnione decyzje, gdy właściwe źródła, pytanie użytkownika i wiedza ekspertów są analizowane razem, zamiast pozostawać w oddzielnych miejscach. System otrzymuje wyłącznie informacje dopuszczone do użycia oraz pytanie osadzone w konkretnym zadaniu. Następnie pomaga uporządkować kontekst, wskazać niepewność i określić, co trzeba jeszcze sprawdzić. Wynikiem ma być materiał wspierający ocenę człowieka

Różnica względem prostego wyszukiwania polega na badaniu relacji między informacjami, rolami i konsekwencjami użycia wiedzy. Nie oznacza to jednak, że system automatycznie rozumie organizację, podejmuje decyzje albo przesądza o poprawności wniosków. Zakres, wiarygodność i użyteczność odpowiedzi pozostają przedmiotem badań i zależą od jakości źródeł oraz kontekstu zastosowania

Metody badawcze i walidacja

Prace nad SAVANT-AI mogą obejmować porównania z odpowiednio dobranymi podejściami bazowymi, ocenę ekspercką oraz badanie jakościowe i ilościowe w kontrolowanych przypadkach. Analizowane właściwości mogą dotyczyć trafności kontekstu, przydatności dla użytkownika, możliwości odnalezienia podstaw wnioskowania, odporności na zmianę danych oraz granic stosowania rozwiązania

Ważną częścią walidacji jest także sprawdzanie, kiedy odpowiedź nie powinna być traktowana jako wystarczająca: gdy źródła są niepełne, sprzeczne, niedostępne lub wymagają decyzji osoby uprawnionej. Bezpieczeństwo, prywatność i zgodność będą oceniane w odniesieniu do konkretnego środowiska, danych i sposobu użycia, a nie deklarowane jako uniwersalna właściwość. Na tej stronie nie przedstawiamy wyników eksperymentów, benchmarków ani niepublicznych procedur

GENESIS-AI to projekt badawczo-rozwojowy inLABs, dla którego staramy się o dofinansowanie w ramach programu Fundusze Europejskie dla Nowoczesnej Gospodarki. Projekt dotyczy wykorzystania generatywnej AI w inżynierii oprogramowania. Planujemy sprawdzić, jak przejść od zatwierdzonych wymagań biznesowych i technicznych do spójnego pakietu elementów aplikacji, który można przejrzeć i ocenić. Odpowiedzialność za decyzje inżynierskie pozostanie po stronie człowieka

Badania mają obejmować wybrane rodzaje aplikacji webowych. Aplikacje mobilne, desktopowe i systemy czasu rzeczywistego pozostają poza zakresem. Nie chcemy zastępować właściciela produktu, architekta ani zespołu programistycznego. Chcemy sprawdzić, czy lepsze uporządkowanie pracy, regularna weryfikacja i możliwość prześledzenia związku między wymaganiem a rezultatem zwiększają wiarygodność działania wspieranego przez AI. Realizacja zależy od przyznania dofinansowania; uruchomienie projektu nie jest możliwe bez pozytywnego zakończenia oceny wniosku. GENESIS-AI jest projektem badawczo-rozwojowym, a nie zapowiedzią gotowego produktu lub usługi

Dlaczego te badania są potrzebne

Generatywna AI potrafi szybko tworzyć fragmenty oprogramowania. Znacznie trudniej zbudować kompletną aplikację, która nadal odpowiada rzeczywistemu celowi. Dlatego planujemy skoncentrować badania GENESIS-AI na czterech powiązanych problemach, o ile projekt otrzyma dofinansowanie

Możliwe zastosowania

Rola w ekosystemie inLABs

Podejście i zasada działania

GENESIS-AI ma badać związek między trzema poziomami:

Punktem odniesienia mają być zatwierdzone wymagania. Na ich podstawie w kontrolowany sposób miałyby powstawać powiązane elementy aplikacji, które są następnie sprawdzane. Gotowy pakiet trafiałby do osób odpowiedzialnych za ocenę techniczną i decyzję o dalszym rozwoju lub ewentualnym wdrożeniu

To ogólny opis planowanego sposobu pracy, a nie architektury rozwiązania. Chcemy sprawdzić, czy lepsze uporządkowanie wymagań i jawne sprawdzanie rezultatów mogą zmniejszyć różnicę między pierwotnym zamiarem a efektem. Planujemy zbadać też, czy wspólne kryteria oceny dla kodu, testów i dokumentacji prowadzą do bardziej spójnego wyniku niż niezależne tworzenie tych elementów. Są to hipotezy do sprawdzenia dopiero po uruchomieniu projektu; eksperymenty jeszcze się nie rozpoczęły i zależą od przyznania dofinansowania

Metody badawcze i walidacja

Wiarygodność GENESIS-AI ma być oceniana poprzez uzupełniające się, planowane klasy badań: kontrolowane porównania z podejściami odniesienia, przypadki poddane przeglądowi, sprawdzanie powtarzalności na różnych klasach problemów oraz ocenę jakościową i ilościową w zdefiniowanym kontekście. Analizie mają podlegać między innymi zgodność z wymaganiami, poprawność funkcjonalna i integracyjna, niezawodność, łatwość dalszego utrzymania, przenośność, bezpieczeństwo, możliwość kontroli oraz użyteczność dla zespołu inżynierskiego

Ocena nie będzie oparta wyłącznie na demonstracji ani wolumenie materiałów. Automatyczne sprawdzenia będą wymagać interpretacji eksperckiej, a powtarzane próby powinny odróżniać trwały efekt od przypadku. Wynik częściowy lub negatywny będzie prawidłowym rezultatem badań; równie ważne będą dowody niepowodzenia: nieusunięta niejednoznaczność, rozbieżność artefaktów, ograniczenia przeglądu lub potrzeba dodatkowej pracy człowieka

Planowany kierunek dalszych prac, do realizacji po przyznaniu dofinansowania, obejmuje badanie wierności względem wymagań, zarządzania niejednoznacznością, spójności w cyklu życia artefaktów, wiarygodności na różnych klasach problemów oraz sposobów prowadzenia przeglądu bez utraty odpowiedzialności człowieka