Pred pandémiou svet fungoval v ako-tak zabehnutých kolajách. Potom prišla pandémia, polovodičová kríza, energetická kríza, vojna na Ukrajine, vojna na Blízkom východe... a do toho AI. Keby niekto predtým verejne vyslovil myšlienku, že budeme onedlho reálne diskutovať a odhadovať šancu na zánik ľudstva kvôli nejakej technológií, ktorá má byť inteligentnejšia, bol by vysmiaty a rovno by mu bola odporučená odborná pomoc. Niečo také sme považovali za ďaleké scifi, podobne pravdepodobné ako vojna s mimozemšťanmi.
Prešlo 6 rokov a z možných nepredvídateľných rizík exponenciálne sa vyvíjajúcej AI sa stala TOP téma už aj v najvyšších politických kruhoch. Potenciálne negatívne dôsledky boli predmetom diskusie na májovom samite G7, jeden z najznámejších amerických politikov Bernie Sanders pred nedávnom označil AI za väčšie riziko ako jadrové zbrane a verejne vyzval prezidenta Trumpa na pozastavenie jej vývoja a práve dnes Fínsko a Nórsko oznámili medzinárodnú výzvu na väčšiu kontrolu, ktorú podporilo 22 svetových lídrov.
Množstvo ľudí vyjadrujúcich obavy o prežitie ľudstva len za posledný mesiac nastavuje latku možného budúceho turbulentného vývoja. Na začiatku tohto mesiaca bolo široko medializované vyjadrenie vývojára Anthropicu Evana Hubingera, ktorý odhaduje pravdepodobnosť vyššiu ako 10 %, že umelá inteligencia v priebehu nasledujúcej dekády spôsobí katastrofu vedúcu k vyhynutiu ľudstva. Jeho šéf (CEO Anthropicu Dario Amodei) o pár dní neskôr vyzval na spomalenie tempa vývoja AI, na čo sa k nemu pridali aj jeho kolegovia Sam Altman z OpenAI a Elon Musk z xAI.
V súvislosti so záplavou katastrofických predpovedí je vhodné zohľadniť minimálne tieto roviny:
1) Tému zániku ľudstva môžu individuálni jedinci využívať ako lacnú reklamu na pritiahnutie pozornosti a osobné zviditeľnenie, ľuďom v AI biznise môže priniesť zhodnotenie akcií, médiám čitateľnosť a politikom ustráchaných voličov, s ktorými sa potom lepšie manipuluje. V takom prípade netreba zabúdať na princíp Carla Sagana, že „mimoriadne tvrdenia vyžadujú mimoriadne dôkazy“. Zarážajúce je už však to, koľko vysoko postavených ľudí takéto niečo vyslovuje.
2) Je pravdou, že od zverejnenia ChatGPT sme svedkami jednej z najrýchlejších masových adopcií novej technológie v dejinách. Kým pojem umelá inteligencia bol pre širokú verejnosť v roku 2022 prakticky neznámy, za 4 roky sme si ju zvykli používať na dennej báze a to ako súkromne, tak aj pracovne. Podľa najnovších údajov iba samotnú aplikáciu Gemini AI (od Google) používa mesačne viac ako miliarda ľudí. To už nie je evolúcia, ale revolúcia.
3) Napriek tomu, že ľudia nikdy nevedeli najrýchlejšie bežať ani plávať a majú problém prežiť v nehostinných podmienkach, ovládli a úplne kolonizovali túto planétu. Jedným z kľúčových dôvodov tohto úspechu bola kombinácia inteligencie, jazyka a schopnosti spolupracovať. Ak sa umelá inteligencia zdokonalí tak, že jej fungovaniu nebudeme vedieť porozumieť, ako ju budeme kontrolovať a predvídať, čo urobí? Aká generácia dnešných detí vyrastie, pokiaľ sa bude celé dni rozprávať s AI?
4) Nakoľko je možné brať vážne vyjadrenia ľudí ako Sam Altman, Dario Amodei alebo Elon Musk, o snahe spomaliť vývoj AI, keď do neho investovali, investujú a plánujú investovať stovky miliárd eur? Veľmi dobre si uvedomujú, že pokiaľ zaspia na vavrínoch, ich firmy môžu z trhu odísť tak rýchlo, ako doň vstúpili. A keby aj existovala dohoda medzi týmito pánmi, ich kolegovia z Číny im túto ušlachtilú iniciatívu rýchlo vyženú z hlavy. Džin z flaše bol vypustený, v tejto chvíli a v tejto konštalácii sa dobrovoľné zastavenie/spomalenie vývoja nezdá ako pravdepodobný scenár.
5) Ak sú slová Bernieho Sandersa pravdivé a AI prináša väčšie riziko ako jadrové zbrane, kde v tejto rovnici stojí Európska únia? Dokážeme si pripustiť, že nepredvídateľný a nepriateľský Trump na Západe a čínski komunisti na Východe budú mať v rukách nástroj, ktorý proti nám môžu kedykoľvek použiť? Alebo o ktorý sa s nami nepodelia a my tak budeme technologicky zaostávať?
Pokiaľ sa rozprávame o rizikách AI, nemusíme spomenúť rovno vyhynutie ľudstva. Za zmienku stojí celá plejáda rizík, ktoré nás môžu stretnúť a ktorých dosahy sa už v niektorých prípadoch začali prejavovať:
Závislosť ekonomík celých štátov na pár firmách pôsobiacich v oligopolnej štruktúre
Úmyselné nesprístupnenie pokročilých modelov, využívanie AI na presadzovanie geopolitickej moci
Hlúpnutie populácie, strata motivácie
Masové ovplyvňovanie volieb, pri ktorom bude Cambridge Analytica len drobný incident
Rastúca spotreba elektriny a tým aj jej cena
Masová nezamestnanosť a nezamestnanosť mladých
Spojenie robotizácie s AI, ktorá dá finálnu stopku väčšine manuálne pracujúcich ľudí
Schopnosť vytvárať medziľudský kontakt, ktorý môže byť vážne narušený AI vzťahmi
Kybernetické útoky na kritickú infraštruktúru prinášajúce enormné škody na životoch a majetku
Vydieranie ľudí cez súkromný obsah všetkého, čo kedy dali na internet
Plne autonómne zbraňové systémy
Biologické zbrane v rukách teroristov, ktoré budú namieru ušité pre „potreby“ nepriateľa
V nasledujúcich článkoch sa pozrieme na niektoré z týchto tém, pričom cieľom nie je vyvolať strach. Cieľom je pokúsiť sa racionálne popísať aktuálny stav, odhadnúť budúci vývoj a pokiaľ je to len trochu možné, formulovať opatrenia, ktoré môžeme urobiť ako na svojej osobnej, tak aj celoeurópskej a celosvetovej úrovni. Človek totiž môže veľmi ľahko nabrať dojem, že náš štát sa dostal do hlbokej fázy zimného spánku a kým my riešime ukradnuté busty a botoxy, svet naokolo sa dramaticky mení.
Jedna vec je totiž istá, tento diel Black Mirror nevypneme tlačidlom na diaľkovom ovládači.
Zdroje:
https://www.anthropic.com/institute/measuring-pace-of-ai-development?utm_source=chatgpt.com
https://blog.google/innovation-and-ai/products/gemini-app/one-billion-monthly-users/?utm
