Predstavte si, že váš nový autonómny AI agent – ten, ktorého ste si včera večer s nadšením nastavili na optimalizáciu rodinných investícií – dnes ráno zrealizoval sériu transakcií, ktoré by prokurátor bez mihnutia oka označil za ukážkový insider trading alebo trhovú manipuláciu. Zostatok na účte utešene rastie, no vy máte zrazu na krku kriminálku a hrozbu dlhoročného väzenia. Kto je v tejto situácii skutočným páchateľom?
Súčasné trestné právo stojí na jednom absolútne kľúčovom pilieri: na spáchanie úmyselného trestného činu je nevyhnutné zavinenie (v právnej terminológii mens rea). Musí existovať vedomosť a vôľa porušiť zákon. Tento koncept bol po stáročia formovaný pre ľudí, prípadne pre právnické osoby, ktoré sú v konečnom dôsledku vždy riadené ľudskou mysľou.
Algoritmus, akokoľvek sofistikovaný a zdanlivo inteligentný, nemá vedomie, nemá úmysel a nemá svedomie. Nemôžete ho posadiť do cely a rovnako ho nemôžete ani morálne odsúdiť. Ak agent koná plne autonómne na základe vlastného vyhodnotenia situácie, koncept zavinenia sa rozpadá ako domček z kariet. Skutok sa síce stal, ale chýba mu páchateľská myseľ.
Kto teda nesie vinu? Ako človek, ktorý denne nielen sleduje vývoj v ekosystéme umelej inteligencie ale aj tvorím odborný obsah o umelej inteligencií,, vnímam tento presun zodpovednosti ako jeden z najväčších a najnebezpečnejších otáznikov našej doby. Niekedy stačilo len oznámiť že obsah má iba informačný a vzdelávací charakter, zodpovednosť nesie konečný užívateľ. Ak s tým nesúhlasí nech opustí stránku. Ale dnes keď umelá inteligencia vie napísať vysoko odborný článok, ktorý nie je možné v niektorých prípadoch za nepravdu ale ani za pravu je to o to zložitejšie.
Ukážeme prstom na programátora? Ten vytvoril základný model, nastavil váhy, mantinely a trénovacie dáta. Pravdepodobne však nemal najmenšie tušenie, že jeho kód v špecifickej milióntine sekundy vyhodnotí trhovú anomáliu alebo zraniteľnosť systému nelegálnym spôsobom. Trestať vývojára za nepredvídateľnú autonómnu halucináciu jeho kódu by znamenalo okamžitú smrť inovácií.
Alebo obviníme vás, používateľa a prevádzkovateľa? Vy ste predsa stlačili tlačidlo "Štart" a nasadili agenta do ostrej prevádzky. Lenže vy ste mu nedali explicitný pokyn na páchanie trestnej činnosti, vyžiadali ste si len "najlepší možný zisk v čo najkratšom čase". Ste trestnoprávne zodpovední za to, že AI našla cestu, ktorá je síce matematicky a logicky brilantná, no z pohľadu ľudských zákonov neprípustná?
Práve tu narúžame na tvrdú stenu. Ocitáme sa v dokonalom právnom vákuu. Náš legislatívny systém zatiaľ nedokáže jasne a spravodlivo aplikovať princíp objektívnej zodpovednosti na činy plne autonómnych entít. Vzniká obrovská sivá zóna, kde technologický pokrok o niekoľko kôl predbehol samotné základy spravodlivosti.
Skôr či neskôr sa právo bude musieť od základov prepísať. Možno budeme musieť vytvoriť úplne novú kategóriu "digitálnej zodpovednosti", alebo prijať mimoriadne prísne pravidlo absolútnej objektívnej zodpovednosti prevádzkovateľa za akýkoľvek čin jeho AI – bez ohľadu na jeho osobný úmysel. Dovtedy sa však všetci pohybujeme na veľmi tenkom ľade, kde genialita kódu môže kedykoľvek naraziť na chladnú a nekompromisnú realitu trestného zákona.






