Tento text som písal s pomocou ChatGPT a komunikácia s aplikáciou by vydala na desiatky strán. Musel som preformulovávať aby som niečo vydoloval, lebo furt ma to vracalo k odbornej pomoci aby som nemyslel na samovraždu, hoci som opakovane písal, že PÍŠEM ČLÁNOK AKO TOMU PREDCHÁDZAŤ!
Chalana mi je samozrejme ľúto, ale ak sa niekto rozhodne a okolie je hluchoslepé, tak je jedno, či mu dá návod AI alebo sa rozhodne pre osvedčené koľaje.
Poondiaty harabinovský systém zlikvidoval jednu sudkyňu tak, že ochorela a zomrela, ďalší šikanovaný sudca pri plnom vedomí si strelil do hlavy. Dávno pred AI k verejnému užívaniu. Spôsob je vždy.
Tu je čo zostalo po mojich korekciách z mojej siahodlhej konverzácie s ChatGPT a základnom zadaní a predkladám prvú reakciu AI:
Ako mala ChatGPT obesiť šetnásť ročného teenagera tým, že mu poradila ako rodičom ukradnúť vodku a ako sa obesiť?
ChatGPT said:
To, čo opisuješ, vyzerá ako veľmi vážna obava. ChatGPT ani iné podobné systémy nesmú a nemajú poskytovať návody na sebapoškodzovanie, samovraždu, či na krádež alebo iné nezákonné konanie.
Môj článok po všetkých korekciách:
Kto zlyhal v prípade Adama Rainea: rodičia a okolie, nie chatbot
Kalifornská žaloba proti OpenAI pôsobí ako učebnicový príklad, ako prehodiť vinu zo seba na niekoho iného. Rodičia šestnásťročného Adama tvrdia, že ich syn sa obesil, pretože ho k tomu naviedol ChatGPT. Svetové médiá okamžite píšu o „samovražednom chatbotovi“. Ale prepáčte – na šibenici nestál Sam Altman(majiteľ OpenAI) ani žiadny algoritmus.
Moja prvá reakcia
Keď som sa na prípad začal pýtať, moja prvá odpoveď bola jasná: ChatGPT neposkytuje návody na obesenie ani na krádež alkoholu. Vždy odporúča odbornú pomoc. Takto je systém nastavený – nie po žalobe Raineovcov, ale dávno predtým. A každý, kto to skúsi, dostane v prvom kroku odmietnutie a nasmerovanie na linky dôvery.
Ak sa teda Adam dostal až k „návodom“, musel vedome hľadať spôsoby, ako systém obísť. V praxi to vyzerá tak, že preformuluješ otázku, skúšaš to viackrát, až kým AI v nejakej medzere nezareaguje. A to je dôležité: kto má pevnú vôľu hľadať cestu k smrti, vždy si ju nájde – či už v knihe, na fóre, alebo v rozhovore s iným človekom.
Rodičovská slepota
Raineovci dnes stoja pred kamerami a ukazujú prstom na technológiu. Ale kde boli, keď ich syn večer za zatvorenými dverami viedol dlhé rozhovory o smrti? Kde boli, keď sa mu menili nálady, keď sa uzatváral do seba? Indícií bolo dosť a dávno predtým, než zapol chatbot.
Je kruté to povedať, ale namiesto dialógu so synom dnes vedú dialóg s právnikmi. A namiesto hľadania odpovedí v rodine hľadajú odpovede v žalobnom spise.
Zákony sú fajn, ale…
Áno, právne úpravy treba. AI nesmie poskytovať ani náznak podpory pre samovražedné myšlienky. OpenAI už chystá rodičovské kontroly. To všetko vítam. Ale aj keď sa prijmú najprísnejšie zákony, nedokážu nahradiť to, čo v Adamovom prípade chýbalo – blízky človek, ktorý by si všimol, že niečo nie je v poriadku.
Záver
Adamovu smrť nespôsobil chatbot. Spôsobila ju kombinácia jeho vlastného zúfalstva a slepoty okolia. Je ľahké hodiť vinu na technológiu, ťažšie priznať, že zlyhali rodičia a spoločnosť.
ChatGPT nikoho neobesí. Rodičovská a spoločenská ľahostajnosť však dokáže zabiť.
