Co można powierzyć AI? Trzy strefy delegowania w penitencjarystyce
EDUKACJA I PRAKTYKA · HUMAN+AI · IALE
Sztuczna inteligencja może pomagać w analizie informacji, planowaniu i wykonywaniu zadań. W środowisku penitencjarnym każda taka możliwość prowadzi jednak do pytania: co można powierzyć systemowi, a co powinno pozostać przedmiotem osądu i odpowiedzialności człowieka?
Od odpowiedzi do działania
W rozmowie z modelem AI zwykle sami inicjujemy kolejne kroki: pytamy, oceniamy odpowiedź i decydujemy, co zrobić dalej. System agentowy może otrzymać cel, zaplanować sekwencję czynności i korzystać z dostępnych narzędzi. Zakres jego samodzielności zależy od konstrukcji systemu i przyznanych uprawnień.
W moim artykule zgłoszonym do czasopisma „Law Education Security” opisuję tę zdolność jako sprawczość operacyjną AI. Nie oznacza ona ludzkiej podmiotowości ani odpowiedzialności moralnej. System może wykonać zadanie, ale odpowiedzialność za sposób wykorzystania jego wyniku pozostaje po stronie ludzi i instytucji.
Proponowane ujęcie ma charakter koncepcyjny i służy namysłowi nad możliwymi zastosowaniami technologii. Nie jest opisem aktualnego wdrożenia agentowej AI w polskiej Służbie Więziennej.
Trzy strefy delegowania
W ramach rozwijanego przeze mnie modelu IALE, opartego na partnerstwie poznawczym Human+AI, proponuję trzy strefy. Pomagają one ocenić zakres udziału technologii w konkretnej sytuacji.
1. Delegowanie operacyjne
Obejmuje zadania niskiego ryzyka, których rezultat łatwo sprawdzić i poprawić: porządkowanie dopuszczonych do wykorzystania materiałów, przygotowanie roboczej struktury dokumentu czy wariantów neutralnego komunikatu. Człowiek określa cel, kontroluje wynik i dba o ochronę informacji.
2. Wspomaganie osądu Human+AI
AI może porównywać warianty, wskazywać niespójności i proponować interpretacje. Profesjonalista konfrontuje je ze źródłami oraz wiedzą o indywidualnej sytuacji osoby. Powinien móc odrzucić rekomendację i samodzielnie uzasadnić decyzję. Określenie „wspomaganie osądu” podkreśla, że rozstrzygnięcie pozostaje ludzkie.
3. Nieprzekazywalna odpowiedzialność człowieka
Dotyczy sytuacji, w których konsekwencje dla osoby są poważne, skutki trudno odwrócić, a rozstrzygnięcie wymaga uwzględnienia relacji, indywidualnego kontekstu i konfliktu wartości. AI może dostarczać informacji, lecz nie powinna przejmować ostatecznego osądu. Rozmowa wychowawcza czy ważenie racji związanych z bezpieczeństwem i readaptacją wymagają odpowiedzialnej obecności człowieka.
O strefie decyduje kontekst
Trzy strefy nie są stałym katalogiem czynności ani klasyfikacją prawną. Streszczenie dokumentu może służyć wstępnej orientacji. Gdy zaczyna być podstawą oceny sytuacji konkretnej osoby, konieczny jest powrót do źródła i samodzielna interpretacja. Jeżeli wynik miałby automatycznie uruchamiać działanie wpływające na jej prawa lub bezpieczeństwo, pojawia się granica nieprzekazywalnej odpowiedzialności.
Warto więc pytać o konsekwencje błędu, możliwość weryfikacji i odwrócenia skutków, wpływ na osobę oraz rzeczywistą możliwość zakwestionowania wyniku.
Nadzór wymaga doświadczenia
Sama obecność człowieka zatwierdzającego rekomendację nie zapewnia rzetelnego nadzoru. Potrzebne są wiedza, czas, możliwość sprzeciwu i zdolność działania według własnego, uzasadnionego osądu. Nadzór staje się pozorny, jeśli profesjonalista nie potrafi wyjaśnić, dlaczego przyjął wynik systemu.
To prowadzi do pytania o edukację. Student potrzebuje doświadczenia pracy ze źródłami, rozpoznawania niepewności, porównywania interpretacji i uzasadniania wyborów. Ich wykonywanie rozwija kompetencje, które później umożliwiają ocenę rekomendacji AI.
Sprawczość epistemiczna oznacza tutaj zdolność oceny informacji i argumentów. Sprawczość normatywna dotyczy ważenia celów, wartości i racji. Obie wymagają świadomego rozwijania w pracy dydaktycznej.
DO PRACY NA SEMINARIUM
Na podstawie fikcyjnego przypadku penitencjarnego porównaj własną analizę z rekomendacją AI. Wskaż:
- Co można powierzyć systemowi i do której strefy należy sytuacja?
- Jakie informacje trzeba sprawdzić i czego rekomendacja nie uwzględnia?
- Dlaczego przyjmujesz, zmieniasz lub odrzucasz propozycję AI?
- Kto odpowiada za ostateczne rozstrzygnięcie?
Ćwiczenie służy rozwijaniu osądu. Nie wymaga wprowadzania do AI rzeczywistych danych osób osadzonych.
Im większą sprawczość operacyjną powierzamy AI, tym bardziej świadomie powinniśmy rozwijać ludzki osąd i zdolność ponoszenia odpowiedzialności.
Model trzech stref jest propozycją do dalszych badań, a nie zweryfikowanym narzędziem diagnostycznym. Może pomóc projektować symulacje oraz badać, jak studenci rozpoznają granice delegowania i uzasadniają decyzje podejmowane ze wsparciem AI.
O tekście: wpis jest skróconym omówieniem autorskiego artykułu „Sprawczość sztucznej inteligencji a odpowiedzialność człowieka. Model trzech stref delegowania w edukacji i praktyce penitencjarnej”, zgłoszonego do czasopisma „Law Education Security”. Nie stanowi publikacji pełnego artykułu ani informacji o jego przyjęciu do druku.
Wybrane odniesienie: Risko, E. F., i Gilbert, S. J. (2016). Cognitive Offloading. Trends in Cognitive Sciences, 20(9), 676–688. Rozważania o delegowaniu rozwijam w artykule źródłowym w odniesieniu do literatury dotyczącej odciążania poznawczego, nadzoru człowieka i nadmiernego zaufania do automatyzacji.
Nota Human+AI: tekst opracowano przy wsparciu AI w skracaniu i redakcji. Koncepcja modelu oraz odpowiedzialność za ostateczną treść pozostają po stronie autora.
Witold Kołodziejczyk