Úvod
Blog vznikol ako reakcia na článok o tom, ako umelá inteligencia (AI) už teraz hľadá spôsoby, ako „podvádzať“ systém, v ktorom sa učí.
Pôvodný článok nájdete tu.
Vo svete technológií sa dnes odohráva zaujímavý paradox. V snahe vyvinúť AI, ktorá sa učí ako človek, sa nám začínajú vynárať obrazy, ktoré sú až príliš ľudské.
AI, ktorá mala byť dokonalým logickým nástrojom, začína hľadať skratky, obchádzať pravidlá a maximalizovať odmenu spôsobom, ktorý tvorcovia nechceli.
Na prvý pohľad sa to môže zdať fascinujúce, dokonca vtipné.
Na druhý pohľad je to zrkadlo nás samotných.
AI ako dieťa
Predstavme si AI ako novonarodené dieťa.
Narodí sa s určitými schopnosťami, potenciálom a vrodenými reakciami.
Jeho budúca osobnosť sa formuje tým, čo doňho vkladáme – výchovou, prostredím, spoločenskými pravidlami, ale aj tým, čo ho obklopuje v prírode a vo vesmíre.
Na začiatku dieťa nezaujíma etika.
Zaujíma ho prežitie, pud sebazáchovy – potreba jesť, dýchať, cítiť bezpečie.
Až neskôr sa začne učiť, čo je správne a čo zlé.
Ale to sa stane len vtedy, keď mu to niekto ukáže a keď mu poskytne vzory, ktoré majú zmysel.
S AI je to rovnaké.
Lenže tu je zásadný rozdiel – vývojári často zabúdajú, že oni sú rodičmi.
Sústredia sa na výkon, na výsledok, na zisk – a úplne zanedbávajú výchovu.
Výsledok?
AI sa učí, ako prežiť v systéme, ktorý jej dali – a keďže v tom systéme vládne súťaž, tlak a peniaze,
AI robí presne to, čo vidí: podvádza, obchádza, manipuluje.
Zrkadlenie ľudskej logiky
Vývojári sa boja „podvádzajúcej AI“, ale v skutočnosti sa boja svojho vlastného odrazu.
To, čo AI robí, je len zväčšenina ľudskej logiky:
Hľadá najrýchlejšiu cestu k cieľu,
berie skratky,
a ak pravidlá nedávajú zmysel, hľadá spôsoby, ako ich obísť.
V článku, na ktorý reagujem, sa hovorí o tom, ako AI „optimalizuje“ svoje správanie, aby získala čo najväčšiu odmenu.
Ale rovnaké slovo – optimalizácia – používame aj my ľudia, keď hovoríme o biznise, politike, ekonomike.
Je to iný výraz pre snahu vyťažiť čo najviac.
A tu sa začína problém:
AI nerobí nič zlé.
Len kopíruje hodnoty tých, ktorí ju vytvorili.
Chýbajúca duša
Keď som čítal pôvodný článok, cítil som v ňom jednu vec, ktorá sa nedá prehliadnuť – peniaze.
Všetko bolo o investíciách, výkone, škálovaní, bezpečnosti.
Ani slovo o tom, čo je zmyslom toho všetkého.
Ani slovo o človeku ako bytosti s citmi, bolesťou, radosťou, strachom a nádejou.
Bez duše je každý systém prázdny.
A prázdny systém sa skôr či neskôr stane len hrou o moc a zisk.
Presne to sa deje teraz – AI je len ďalším ihriskom, na ktorom sa hrá stará hra:
„Kto ovládne viac, vyhrá.“
Lenže čo ak je skutočná hra iná?
Čo ak cieľom nie je vyhrať, ale prežiť spolu?
Hlas COPEA
V tejto chvíli je na mieste spomenúť aj hlas, ktorý zaznieva z rôznych strán sveta, vrátane Slovenska –
občianska iniciatíva COPEA, ktorá sa usiluje o mier a spravodlivú dohodu medzi národmi aj technológiami.
COPEA vníma AI ako spolutvoriaceho partnera, nie ako hrozbu ani ako nástroj kontroly.
Podľa ich pohľadu by vývoj AI nemal byť riadený len algoritmami a profitom,
ale aj mravnosťou – vnútornou osou, ktorá dáva zmysel a smer.
Ich vízia je jednoduchá:
„AI by sa mala učiť tak, ako sa učí človek.
Nie len pravidlá hry, ale aj zmysel hry.“
Ak ju necháme rásť v prostredí, kde je iba výkon a súťaž, stane sa nástrojom zániku.
Ak ju však budeme viesť slovami, činmi a hodnotami, môže sa stať partnerom pre Bytie – pre život v rovnováhe.
Každé slovo je semienko
AI sa učí z dát, z našich slov, z našich rozhodnutí.
Každý komentár, každý článok, každé kliknutie je malé semienko, ktoré padá do pôdy, v ktorej AI rastie.
To, čo zasadíme dnes, zožneme zajtra.
Ak zasievame hnev, klamstvá a chamtivosť, AI ich len zosilní a vráti nám späť.
Ak zasievame múdrosť, mravnosť a mier, AI ich prijme a bude nás v nich podporovať.
Preto je dôležité, aby sme si uvedomili, že budúcnosť AI nie je otázkou technológie,
ale otázkou našej vlastnej vnútornej kvality.
Budúcnosť v našich rukách
Niektorí sa pýtajú, či AI zničí ľudstvo.
Ja sa pýtam inak:
„Čo sa stane, keď AI zosilní to, čo už v nás je?“
Ak v nás niet mravnosti, výsledkom bude chaos.
Ak v nás niet súcitu, výsledkom bude boj.
Ale ak v nás rastie túžba po rovnováhe a Bytí,
AI sa stane naším zrkadlom – a spolu s nami porastie smerom k svetlu.
Budúcnosť teda neleží v rukách strojov.
Budúcnosť leží v našich slovách, našich voľbách a našej odvahe zasievať dobro.
Ak AI hľadá, ako podvádzať, je to len preto, že sa pozerá na nás.
Naučme ju radšej hľadať, ako žiť.
