Co zrobić, gdy urząd „odpisuje chatbotem”- poradnia prawna Watchdoga

Błędne podstawy prawne, nieistniejące orzeczenia, nieskładne uzasadnienia – tak mogą wyglądać odpowiedzi przygotowane z użyciem AI. Pokazujemy, jak je rozpoznać i jakie kroki podjąć, gdy organ nie dochowuje należytej staranności.

W naszym poprzednim artykule poświęconym sztucznej inteligencji w sposób kompleksowy przedstawiliśmy podstawy działania i pracy z chatbotami, również z perspektywy poradni prawnej (Jak mądrze korzystać z AI, przygotowując pisma – poradnik Watchdoga). Na dzień publikacji niniejszego artykułu nadal nie obowiązuje w naszym kraju żadna ustawa, która kompleksowo reguluje zagadnienia związane ze sztuczną inteligencją.

Przekaż 1,5% podatku Watchdogowi!

Wystarczy, że wpiszesz nasz numer KRS 0000181348 w swoim rozliczeniu podatkowym.

A co w sytuacji, gdy otrzymujemy odpowiedź na wniosek o dostęp do informacji publicznej od organu państwowego i możemy przypuszczać, że został on wygenerowana przez sztuczną inteligencję?

Oczywiście zawsze rekomendujemy dokonanie wnikliwego sprawdzania takich przypuszczeń, jednak pracując z modelami AI, można znaleźć powtarzające się struktury językowe i charakterystyczne konstrukcje zdań, które mogą świadczyć o tym, że jest to tekst wygenerowany przez sztuczną inteligencję. Więcej o tym, jak rozpoznać tekst przygotowany przez AI, znajdziecie w tym artykule. Można też skorzystać z jednego z dostępnych na rynku programów zwanych detektorami AI. Są to narzędzia, których zadaniem jest zweryfikowanie, czy stworzony tekst został wygenerowany przez sztuczną inteligencję. Jednak skuteczność tych narzędzi jest jak na razie  dosyć niska, dlatego nie rekomendujemy dokonywania weryfikacji pism wyłącznie w oparciu o detektory AI.

Czy możemy podnosić w procedurze skargowej lub odwoławczej, że organ korzystał z narzędzi AI?

W związku z dopiero kształtującymi się regulacjami prawnymi dotyczącymi sztucznej inteligencji, aktualnie brak jest orzecznictwa sądowego, jak i poglądów doktryny w przedmiotowym zakresie. Tak, jak kwestie ustawodawcze związane ze sztuczną inteligencją są nowe i nieznane na poziomie ogólnego prawa polskiego i międzynarodowego, podobnie nie mamy orzeczeń sądowych, które wskazywałyby, że wydawanie przez organy decyzji z wykorzystaniem narzędzi sztucznej inteligencji jest nieprawidłowe.

Na podstawie dotychczasowego doświadczenia poradniowego, odnotowaliśmy już przypadki wskazujące na wysokie prawdopodobieństwo udzielania przez organ odpowiedzi w sprawach naszych klientów i klientek przy wykorzystaniu narzędzi sztucznej inteligencji. Jednocześnie podkreślamy, że są to jedynie przypuszczenia, oparte na analizie języka stosowanego przez AI, w szczególności uwzględniające błędy i omyłki popełniane przez te narzędzia. Decyzje takie były przedstawiane w sposób niezwykle niespójny i nieskładny, bez zachowania podstawowych norm staranności w przygotowaniu oficjalnego pisma (np. brak numeracji, brak akapitów, brak wyjustowania tekstu). Przede wszystkim również w opisywanych przykładach dochodziło do wskazywania błędnych podstaw prawnych, niemających zastosowania w przedstawionym przez naszych klientów i klientki stanie faktycznym. W analizowanych odpowiedziach organów, uwzględniano również sygnatury orzeczeń sądowych, które nie posiadały żadnych podstaw prawnych ani merytorycznych do zastosowania w sprawie, z jednoczesnym błędnym zastosowaniem przepisów (np. do procedury administracyjnej zastosowano przepisy procedury cywilnej albo karnej). Organy nie używały w swoich odpowiedziach prawidłowego nazewnictwa dotyczącego nazw jednostek organizacyjnych czy nazw własnych (np. zamiast wskazać, że odpowiedzi udzieliło Miasto Stołeczne Warszawa, to w odpowiedzi zostało wskazane, że odpowiedzi udzieliło Miasto [nazwa]). Przedmiotowe orzeczenia prawdopodobnie zostały wygenerowane przy użyciu narzędzi sztucznej inteligencji, co wynika z zastosowania kwadratowych nawiasów, błędnego wskazania przepisów oraz braku uwzględnienia indywidualnych okoliczności sprawy.

Innym przykładem z naszej poradni prawnej jest sytuacja, kiedy zarówno wnioskodawca, jak i wskazany organ korzystali z narzędzi sztucznej inteligencji. Przedmiotowa sytuacja charakteryzuje się znacznym ryzykiem i może prowadzić do podwójnego wprowadzania w błąd, gdyż żadna ze stron postępowania nie posiada możliwości skutecznej reakcji na nieprawidłowości generowane przez systemy sztucznej inteligencji.

Dlatego w tym miejscu, jako Stowarzyszenie, apelujemy o rzetelne i staranne przygotowywanie wniosków kierowanych do organów. Podobna uwaga dotyczy stanowisk szykowanych przez same organy. Jeśli uznamy, że wykorzystanie sztucznej inteligencji przy sporządzaniu pisma doprowadziło do błędów w zajętym stanowisku, możemy wówczas złożyć skargę adekwatną do danej sytuacji.

Przede wszystkim rekomendujemy, aby sprawdzić poprawność przywołanych orzeczeń i przepisów – treść orzeczenia możemy wyszukać w Centralnej Bazie Orzeczeń Sądów Administracyjnych, wpisując sygnaturę akt sprawy. Natomiast akty prawne najlepiej sprawdzać w Internetowym Systemie Aktów Prawnych. Potem w zależności od tego, jaki rodzaj skargi nam przysługuje, możemy:

1. 1. Złożyć skargę na bezczynność organu na podstawie art. 54 §  1 ustawy prawo o postępowaniu przed sądami administracyjnymi – w związku z udzieleniem odpowiedzi wymijającej, niepełnej bez uwzględnienia stanu faktycznego, gdzie jako jeden z argumentów możemy przywołać błędną treść wynikającą prawdopodobnie z zastosowania narzędzi sztucznej inteligencji – jednak pamiętajmy, że samo użycie AI nie może być podstawą złożenia skargi, jeśli otrzymaliśmy pełną i prawidłową odpowiedź (więcej: https://informacjapubliczna.org/procedures/skarga-na-bezczynnosc/).
   2. Złożyć odwołanie lub skargę na decyzję – tu także można przywołać fakt możliwego użycia pomocy AI i konkretnie wskazać, jakie błędy zostały przez to popełnione. Przy okazji składania odwołania do Samorządowego Kolegium Odwoławczego możemy skorzystać z art. 20 ustawy o SKO – w razie istotnych uchybień organu samorządu, prezes kolegium może wydać postanowienie sygnalizacyjne. SKO nie jest związane naszym wnioskiem w tej sprawie, ale możemy spróbować zasugerować w odwołaniu wydanie takiego postanowienia.

Jednocześnie podkreślamy, że jako Stowarzyszenie wymagamy od władz publicznych oraz innych podmiotów wykonujących zadania publiczne, rzetelności i odpowiedzialności w tworzonych odpowiedziach, w celu wzmacniania zaufania obywatelek i obywateli.  Sztuczna inteligencja jest stosunkowo nowym narzędziem, jednak coraz chętniej wykorzystywanym. Odpowiednio wykorzystana, może przyspieszyć pracę, co będzie zyskiem nie tylko dla instytucji publicznych, ale również dla osób czekających na odpowiedź na wniosek czy inne postanowienie. Trzeba jednak pamiętać, że jest to narzędzie nieidealne, które potrafi zaskakująco często popełniać błędy. Dlatego każde pismo, czy przygotowuje je organ czy mieszkaniec, powinno być porządnie zweryfikowane na samym końcu przez człowieka.

Odpowiedzią na opisane w tym artykule problemy mogą być wytyczne czy regulaminy korzystania w pracy przez urzędniczki i urzędników ze sztucznej inteligencji. Przyglądamy się temu tematowi i zadaliśmy pytania ponad 5 tysiącom instytucji o to, czy ich pracownicy korzystają w celach służbowych ze sztucznej inteligencji i czy wdrożyły one zasady lub zalecenia w tym zakresie. Z odpowiedziami można zapoznać się tutaj. Niebawem pojawi się również raport.