Zaufanie i odpowiedzialność w penitencjarystyce

Lektury i dyskusje · Technologia, człowiek, odpowiedzialność

Gdy sztuczna inteligencja odpowiada na pytanie, oceniamy jej odpowiedź. Gdy zaczyna planować i wykonywać działania, musimy sprawdzić znacznie więcej: z jakich danych korzysta, jakie ma uprawnienia, gdzie może popełnić błąd i czy człowiek potrafi ją skutecznie zatrzymać. W penitencjarystyce pytania te dotyczą także podmiotowości osadzonego i odpowiedzialności instytucji.

Punktem wyjścia jest lektura

Jinhu Qi i współautorzy, Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security, „Academia AI and Applications”, 2026, tom 2. Publikacja z 29 kwietnia 2026 r. Przejdź do artykułu źródłowego.

Artykuł jest przeglądem badań nad wiarygodnością agentowej sztucznej inteligencji. Autorzy porządkują zagrożenia i sposoby ich ograniczania, koncentrując się na bezpieczeństwie, odporności na zakłócenia, prywatności i ochronie systemów. Nie badają skuteczności AI w resocjalizacji. Przedstawione w tym wpisie odniesienia penitencjarne i przykłady są interpretacją pedagogiczną inspirowaną ich opracowaniem.

Od odpowiedzi do działania

W rozmowie z chatbotem użytkownik zwykle zadaje pytanie, otrzymuje tekst i decyduje, co z nim zrobić. Agentowa AI rozszerza ten sposób pracy. System może podzielić zadanie na etapy, przeglądać materiały, korzystać z narzędzi, zapamiętywać informacje oraz sprawdzać wyniki kolejnych czynności. Zakres jego samodzielności zależy od konstrukcji systemu i przyznanych uprawnień.

Wyobraźmy sobie różnicę między poleceniami: „Zaproponuj plan zajęć” i „Przygotuj plan, sprawdź dostępność sal, wpisz zajęcia do harmonogramu i powiadom uczestników”. W drugim przypadku AI może wpływać na organizację pracy. Nie tylko przedstawia propozycję, ale wykonuje czynności, których skutki dotyczą innych osób.

Główne przesłanie lektury można ująć tak: wiarygodności agenta nie da się ocenić wyłącznie na podstawie końcowej odpowiedzi. Trzeba przyjrzeć się całemu przebiegowi jego działania.

Poprawny dokument nie mówi wszystkiego

Autorzy podkreślają różnicę między oceną rezultatu a oceną procesu. System może osiągnąć cel, a po drodze naruszyć ograniczenia, sięgnąć po dane spoza dozwolonego zakresu lub wykonać nieuprawnione działanie. Sam fakt, że końcowy raport brzmi przekonująco, nie rozstrzyga, czy powstał w sposób bezpieczny i możliwy do sprawdzenia.

W hipotetycznym zastosowaniu penitencjarnym AI mogłaby opracować projekt informacji o udziale osadzonego w edukacji. Dokument byłby językowo poprawny, ale zawierałby wniosek oparty na nieaktualnej notatce albo informację dotyczącą innej osoby. Pytanie wychowawcy powinno zatem brzmieć także: skąd pochodzi to ustalenie i czy materiał rzeczywiście je uzasadnia?

Sprawdzalność nie oznacza dostępu do każdego wewnętrznego procesu modelu. Oznacza przede wszystkim możliwość odtworzenia istotnych źródeł, użytych narzędzi, wykonanych czynności, kontroli uprawnień i zatwierdzeń człowieka. Wygenerowane przez AI wyjaśnienie nie zastępuje takich dowodów.

Mały błąd może uruchomić cały łańcuch

Wieloetapowe działanie zwiększa znaczenie pomyłek popełnionych na początku. Nieprawidłowo odczytana informacja może stać się podstawą planu, plan uruchomić kolejne czynności, a ich wyniki trafić do pamięci systemu i wpływać na następne zadania. Autorzy zwracają uwagę, że następstwa mogą pojawiać się z opóźnieniem i być trudne do przypisania do jednego kroku.

Przenieśmy tę myśl na fikcyjny przykład. Brak potwierdzenia uczestnictwa w zajęciach zostaje potraktowany jako odmowa udziału. Ta interpretacja trafia do projektu podsumowania, a później staje się przesłanką kolejnej rekomendacji. Pierwszy problem dotyczył niepełnych danych. Po kilku krokach wygląda już jak ustalenie o postawie człowieka.

Wniosek dla praktyki jest prosty: system powinien umieć oznaczyć brak danych, zgłosić sprzeczność i wstrzymać działanie. W sytuacji niepewności kontynuowanie pracy za wszelką cenę nie jest miarą jakości.

Bezpieczeństwo zależy od całej organizacji pracy

Wiarygodność nie jest wyłącznie cechą modelu językowego. Zależy także od dokumentów, pamięci, narzędzi, uprawnień oraz sposobu sprawowania nadzoru. Dlatego autorzy proponują zabezpieczenia na kolejnych etapach: pozyskiwania informacji, planowania, działania, oceny wyników oraz aktualizowania systemu.

Ważna jest zasada minimalnych uprawnień: agent otrzymuje taki dostęp, jaki jest niezbędny do konkretnego zadania. Narzędzie przygotowujące ogólne materiały edukacyjne nie potrzebuje z tego powodu pełnej dokumentacji osobowej. Możliwość odczytu danych również nie powinna automatycznie oznaczać prawa do ich zmiany lub przekazywania dalej.

Artykuł omawia też zagrożenie określane jako prompt injection. Przetwarzany dokument lub strona mogą zawierać instrukcję próbującą skierować agenta do innego działania. Materiał, który miał być źródłem informacji, staje się próbą wydania polecenia. To pokazuje, dlaczego potrzebne są zarówno ograniczenia uprawnień, jak i kontrola tego, co system rzeczywiście wykonuje.

Człowiek w procesie: obecność czy rzeczywista kontrola?

Samo stwierdzenie, że człowiek nadzoruje AI, jest zbyt ogólne. Trzeba określić, co sprawdza, kiedy otrzymuje ostrzeżenie, przed którymi czynnościami podejmuje decyzję i jak może zatrzymać system. Autorzy uwzględniają nawet takie miary, jak skuteczność przerwania działania i czas od alarmu do interwencji.

W kontekście penitencjarnym warto zapytać, czy osoba zatwierdzająca projekt ma czas, kompetencje i dostęp do źródeł potrzebnych do jego oceny. Jeżeli może jedynie zaakceptować gotowy wynik, a nie potrafi rozpoznać istotnego błędu, nadzór staje się powierzchowny.

Pytanie do dyskusji: czy człowiek sprawuje rzeczywistą kontrolę, jeżeli zatwierdza wynik, ale nie potrafi sprawdzić jego podstaw ani skutecznie zatrzymać działania systemu?

Co ta lektura wnosi do pedagogiki penitencjarnej?

Techniczna analiza autorów otwiera przestrzeń dla pytań pedagogicznych. Czy narzędzie wzmacnia zdolność wychowawcy do rozpoznawania potrzeb, czy skłania do przyjmowania gotowych ocen? Czy osadzony może przedstawić własną perspektywę i skorygować błędną informację? Czy sprawniejszy obieg dokumentów przekłada się na jakość kontaktu i wsparcia?

Są to pytania rozwijające lekturę. Artykuł nie dostarcza odpowiedzi na to, czy agentowa AI poprawia efekty resocjalizacji. Nie należy też utożsamiać technicznego bezpieczeństwa z pełną oceną etyczną: zabezpieczenie danych nie rozstrzyga jeszcze o sprawiedliwości oceny człowieka ani o wartości relacji wychowawczej.

W perspektywie partnerstwa Human+AI istotna jest więc kompetencja delegowania: określenie zadania, rozpoznanie jego granic, sprawdzenie podstaw wyniku i podjęcie odpowiedzialnej decyzji. Proponowany tu wniosek pedagogiczny brzmi: im większy wpływ działania AI na sytuację konkretnej osoby, tym bardziej wymagające powinny być warunki kontroli i uzasadniania decyzji.

Zadanie na ćwiczenia: wyznacz granice działania

Fikcyjny przypadek. Jednostka rozważa wykorzystanie agenta AI do przygotowywania projektów planów edukacyjnych. System ma analizować wybrane materiały, proponować zajęcia i zapisywać projekt do oceny wychowawcy. W dokumentacji pojawiają się sprzeczne informacje o dotychczasowym udziale jednej z osób w nauce.

1. Określcie, jakich danych i uprawnień potrzebuje agent.
2. Wskażcie, co może przygotować samodzielnie, a co wymaga uprzedniego zatwierdzenia.
3. Ustalcie, kiedy powinien przerwać pracę i przekazać problem człowiekowi.
4. Zaproponujcie zapis czynności pozwalający później sprawdzić przebieg pracy.
5. Przyporządkujcie czynności do stref delegowania: dopuszczalnej, warunkowej i niedopuszczalnej. Uzasadnijcie wybory.

Praca Human+AI: najpierw przygotujcie własną propozycję, następnie skonsultujcie z AI opis fikcyjnego przypadku. Na końcu wskażcie jedną sugestię przyjętą i jedną odrzuconą, podając uzasadnienie. Korzystajcie wyłącznie z danych fikcyjnych.

Trop na seminarium: od lektury do pytania badawczego

Przykładowe pytanie brzmi: jak studenci penitencjarystyki rozpoznają sytuacje wymagające interwencji człowieka w pracy agenta AI? Można przygotować kilka fikcyjnych scenariuszy różniących się zakresem uprawnień, kompletnością danych i konsekwencjami działania. Następnie zebrać decyzje studentów oraz ich uzasadnienia.

Analiza mogłaby objąć rozpoznawanie niepewności, ochronę danych, wskazywanie momentu interwencji i sposób rozumienia odpowiedzialności. Takie badanie dotyczyłoby osądu uczestników wobec opisanych sytuacji. Nie pozwalałoby samo w sobie wnioskować o bezpieczeństwie realnego systemu ani o zachowaniu funkcjonariuszy w codziennej służbie.

Pytania do dalszej dyskusji

• Jakie dowody są potrzebne, aby uznać projekt przygotowany przez AI za wystarczająco sprawdzony?
• Kiedy dodatkowy dostęp do danych przestaje być uzasadniony celem zadania?
• Jak odróżnić rzeczywisty nadzór od rutynowego zatwierdzania rekomendacji?
• Które elementy pracy wychowawczej wymagają osobistego kontaktu i samodzielnego osądu człowieka?

Lektura Qi i współautorów zachęca do zmiany kryteriów oceny technologii. Obok pytania „czy system wykonał zadanie?” pojawia się pytanie „czy wykonał je w sposób dopuszczalny, sprawdzalny i możliwy do zatrzymania?”. Dla penitencjarystyki to zaproszenie do rozmowy o tym, jak organizować wsparcie technologiczne, zachowując odpowiedzialność za sytuację konkretnego człowieka.

Źródło: Qi, J., Li, M., Liu, J., Shu, Y., Yu, D., Ma, S., i in. (2026). Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security. Academia AI and Applications, 2. https://doi.org/10.20935/AcadAI8260.

Wskazówki do lektury artykułu źródłowego: zagrożenia i zabezpieczenia — część 3; ocena wyników oraz przebiegu działania — część 4; otwarte problemy i ograniczenia — części 6–7. Autorzy zaznaczają, że zestawienie zagrożeń i metod ma charakter ilustracyjny, a nie wyczerpujący.

Informacja o opracowaniu: omówienie przygotowane przy wsparciu generatywnej AI na podstawie wskazanej publikacji. Przykłady penitencjarne, ćwiczenie i propozycja badania są rozwinięciem dydaktycznym; nie są wynikami badań przedstawionych w artykule źródłowym.