Stal sa zločin, ale do basy pôjdete vy!

Predstavte si, že váš nový autonómny AI agent, spácha zločin.

Písmo: A- | A+

Predstavte si, že váš nový autonómny AI agent – ten, ktorého ste si včera večer s nadšením nastavili na optimalizáciu rodinných investícií – dnes ráno zrealizoval sériu transakcií, ktoré by prokurátor bez mihnutia oka označil za ukážkový insider trading alebo trhovú manipuláciu. Zostatok na účte utešene rastie, no vy máte zrazu na krku kriminálku a hrozbu dlhoročného väzenia. Kto je v tejto situácii skutočným páchateľom?

Súčasné trestné právo stojí na jednom absolútne kľúčovom pilieri: na spáchanie úmyselného trestného činu je nevyhnutné zavinenie (v právnej terminológii mens rea). Musí existovať vedomosť a vôľa porušiť zákon. Tento koncept bol po stáročia formovaný pre ľudí, prípadne pre právnické osoby, ktoré sú v konečnom dôsledku vždy riadené ľudskou mysľou.

SkryťVypnúť reklamu
Článok pokračuje pod video reklamou
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou

Algoritmus, akokoľvek sofistikovaný a zdanlivo inteligentný, nemá vedomie, nemá úmysel a nemá svedomie. Nemôžete ho posadiť do cely a rovnako ho nemôžete ani morálne odsúdiť. Ak agent koná plne autonómne na základe vlastného vyhodnotenia situácie, koncept zavinenia sa rozpadá ako domček z kariet. Skutok sa síce stal, ale chýba mu páchateľská myseľ.

Kto teda nesie vinu? Ako človek, ktorý denne nielen sleduje vývoj v ekosystéme umelej inteligencie ale aj tvorím odborný obsah o umelej inteligencií,, vnímam tento presun zodpovednosti ako jeden z najväčších a najnebezpečnejších otáznikov našej doby. Niekedy stačilo len oznámiť že obsah má iba informačný a vzdelávací charakter, zodpovednosť nesie konečný užívateľ. Ak s tým nesúhlasí nech opustí stránku. Ale dnes keď umelá inteligencia vie napísať vysoko odborný článok, ktorý nie je možné v niektorých prípadoch za nepravdu ale ani za pravu je to o to zložitejšie.

SkryťVypnúť reklamu

Ukážeme prstom na programátora? Ten vytvoril základný model, nastavil váhy, mantinely a trénovacie dáta. Pravdepodobne však nemal najmenšie tušenie, že jeho kód v špecifickej milióntine sekundy vyhodnotí trhovú anomáliu alebo zraniteľnosť systému nelegálnym spôsobom. Trestať vývojára za nepredvídateľnú autonómnu halucináciu jeho kódu by znamenalo okamžitú smrť inovácií.

SkryťVypnúť reklamu

Alebo obviníme vás, používateľa a prevádzkovateľa? Vy ste predsa stlačili tlačidlo "Štart" a nasadili agenta do ostrej prevádzky. Lenže vy ste mu nedali explicitný pokyn na páchanie trestnej činnosti, vyžiadali ste si len "najlepší možný zisk v čo najkratšom čase". Ste trestnoprávne zodpovední za to, že AI našla cestu, ktorá je síce matematicky a logicky brilantná, no z pohľadu ľudských zákonov neprípustná?

SkryťVypnúť reklamu

Práve tu narúžame na tvrdú stenu. Ocitáme sa v dokonalom právnom vákuu. Náš legislatívny systém zatiaľ nedokáže jasne a spravodlivo aplikovať princíp objektívnej zodpovednosti na činy plne autonómnych entít. Vzniká obrovská sivá zóna, kde technologický pokrok o niekoľko kôl predbehol samotné základy spravodlivosti.

Skôr či neskôr sa právo bude musieť od základov prepísať. Možno budeme musieť vytvoriť úplne novú kategóriu "digitálnej zodpovednosti", alebo prijať mimoriadne prísne pravidlo absolútnej objektívnej zodpovednosti prevádzkovateľa za akýkoľvek čin jeho AI – bez ohľadu na jeho osobný úmysel. Dovtedy sa však všetci pohybujeme na veľmi tenkom ľade, kde genialita kódu môže kedykoľvek naraziť na chladnú a nekompromisnú realitu trestného zákona.

Igor Vojtek

Igor Vojtek

Bloger 
  • Počet článkov:  53
  •  | 
  • Páči sa:  172x

Volám sa Igor, a vo svojom voľnom čase sa venujem tvorbe obsahu s umelou inteligenciou. Je to skvelý spôsob, ako premeniť nápady na originálne texty, obrázky alebo videá. No skrátka doba sa nemí a musíme sa tomu prispôsobiť. Zoznam autorových rubrík:  Nezaradená

Prémioví blogeri

Jana Čavojská

Jana Čavojská

31 článkov
Roman Kebísek

Roman Kebísek

128 článkov
Martin Bača

Martin Bača

99 článkov
Karol Galek

Karol Galek

131 článkov
Dušan Koniar

Dušan Koniar

801 článkov
reklama
SkryťZatvoriť reklamu