V predchádzajúcom texte som pomenoval tri typové situácie, v ktorých sa oslabuje vymožiteľnosť práva. Na záver zaznela otázka: kde sa dnes konkrétne rozptyľuje zodpovednosť za dôsledok rozhodnutia a ako by mala byť opäť jasne ukotvená?
Ak sa pozrieme bližšie na rozhodovací proces, zistíme, že zodpovednosť sa často rozdelí medzi viacero úrovní systému. Každý článok koná v rámci svojej kompetencie. Vyšetrovateľ zabezpečuje dôkazy. Prokurátor posudzuje ich zákonnosť. Súd hodnotí skutkový a právny stav. Nad tým všetkým stoja procesné pravidlá, ktoré určujú rámec.
Formálne je každý krok obhájiteľný.
Problém vzniká v momente, keď sa dôsledok rozhodnutia nedá jednoznačne priradiť nikomu. Ak sa ukáže, že výsledok je zjavne nespravodlivý alebo neprimeraný, systém odpovie: každý konal v súlade so zákonom. A práve v tejto medzere medzi „súladom s postupom“ a „spravodlivým dôsledkom“ sa zodpovednosť rozplynie.
„Ak sa zodpovednosť rozdelí medzi všetkých, v konečnom dôsledku ju nenesie nikto.“
Tento mechanizmus nie je o zlej vôli. Je o konštrukcii systému, ktorý hodnotí správnosť kroku, nie kvalitu výsledku.
Do tejto diskusie vstupuje aj otázka umelej inteligencie. Môže AI pomôcť lepšie zabezpečiť dôkazy? Áno. Môže zrýchliť analýzu rozsiahlych dát, odhaliť rozpory, zjednotiť rozhodovaciu prax a minimalizovať technické chyby spôsobené únavou alebo nepozornosťou. V tomto zmysle môže byť cenným pomocníkom.
Otázka však nestojí len tak, či AI pomáha. Otázka znie, kde sa končí pomoc a začína nahrádzanie rozhodovania.
Ak sa algoritmus podieľa na hodnotení dôkazov, odporúča právnu kvalifikáciu alebo navrhuje výšku sankcie, stále musí byť zrejmé, kto za konečné rozhodnutie nesie zodpovednosť. Ak sa táto hranica rozostrí, vzniká nový typ rozptýlenia zodpovednosti – tentoraz medzi človeka a technológiu.
AI nemá morálny kompas. Pracuje s dátami, ktoré jej poskytne človek, a s hodnotami, ktoré jej nastaví človek. Ak sú tieto vstupy neúplné, selektívne alebo skreslené, algoritmus ich len spracuje efektívnejšie. Rýchlosť a konzistentnosť samy o sebe nevytvárajú spravodlivosť.
Preto nová justično-bezpečnostná reforma by mala jasne oddeliť tri roviny: technickú podporu, analytickú pomoc a konečné rozhodovanie. Technológia môže podporiť prvé dve. Tretia musí zostať jednoznačne viazaná na osobnú zodpovednosť konkrétneho rozhodujúceho subjektu.
Zodpovednosť nemôže byť anonymná. Nemôže byť kolektívna do tej miery, že sa stane neuchopiteľnou. Ak má systém získať späť dôveru, musí byť čitateľné, kto a na základe čoho rozhodol – a kto nesie dôsledky, ak sa ukáže, že rozhodnutie bolo chybné.
Len tam, kde je zodpovednosť jasne ukotvená, môže technológia slúžiť ako nástroj, nie ako alibi. A len tam, kde je zodpovednosť osobná a čitateľná, môže byť spravodlivosť viac než len správne vyplnený proces.
Celá debata | RSS tejto debaty