Nedávno so mal prednášku na zasadnutí Slovenskej Nukleárnej Spoločnosti v Častej-Papierničke prednášku na tému “Vývoj jadrových zbraní”.
Zdá sa že asi bola celkom úspešná. Pri príprave a opakovaní si poznatkov k téme sa mi iba poznámok nazbieralo viac ako 300 strán, a konečná prezentácia bola už 13. prepracovaná verzia. Žiaľ, kvôli časovému limitu bola diskusia nakoniec iba počas prestávky pri káve a zákuskoch. Ale ako poctivý prednášajúci som sa samozrejme pripravoval aj na rôzne prípadné otázky. A jednou z nich bola práve aj kombinácia jadrových zbraní a umelej inteligencie. Na konci prednášky som zhrnul v troch bodoch odkazy, ktoré nám jadrové zbrane (ako ľudstvu) ponúkajú:
1. Jadrové zbrane boli vyrobené z ľudského strachu, ale paradoxne nám priniesli desaťročia mieru….
2. Ako vedľajšie produkty nám priniesli obrovské množstvo užitočných vecí, od ľahkého monitorovania a liečenia nášho zdravia, cez lacnú výrobu elektrickej energie, až po možnostu uplatnení v kozmických letoch.
3. Jadrové zbrane sú na rozdiel od umelej inteligencie iba technológie závislé od nášho ľudského rozhodovania, akým smerom budú (a či vôbec) použité, záleží výlučne na ľuďoch.
Jadrové zbrane a ich vývoj zohrali v histórii ľudstva prelomovú úlohu.
Ešte vačšiu zohrá (a už to citime teraz) vývoj a uplatňovanie umelej inteligencie v našich životoch.
Otázka umelej inteligencie (Artificial Intelligence – AI) je taktiež veľmi komplexná a náročná téma.
Pred pár dňami bol u nás na túto tému uverejnený veľmi zaujímavý článok s rozhovorom s prefesorom Vladimírom Šuchom, ktorý sa touto témou zaoberá na úrovni EÚ.
Možno by našich čitateľov mohlo zaujímať, že ako by to asi mohlo (a bude) v budúcnosti vyzerať. Veď či chceme, alebo nie – dotýka sa nás to už teraz….
Budúcnosť bude zrejme patriť všeobecnej umelej inteligencie (AGI – Artificial General Intelligence).
Keďže ide o tému budúcnosti, budem vychádzať z dostupných údajov do mája 2025 a pokúsim sa tu ponúknuť čitateľom logickú predikciu bez nejakých špekulatívnych detailov, ktoré by presahovali moje schopnosti.
Čo je AGI a aký je jej potenciál?
AGI sa definuje ako umelá inteligencia schopná vykonávať akúkoľvek intelektuálnu úlohu na úrovni človeka alebo lepšie – na rozdiel od dnešných úzkych AI (narrow AI), ktoré sú dnes špecializované na konkrétne úlohy (napr. odpovedanie na otázky, analýza dát).
AGI by mala mať schopnosť učiť sa sama, zovšeobecňovať poznatky, riešiť nové problémy a byť adaptabilná v rôznych doménach – od medicíny, cez vedu, až po kreatívne úlohy.
Potenciál AGI:
Transformácia spoločnosti: AGI by mohla urýchliť vedecký pokrok (napr. vývoj liekov, riešenie klimatickej krízy), automatizovať väčšinu práce a zmeniť ekonomiku.
Geopolitické dôsledky: AGI by mohla byť akousi „novou jadrovou zbraňou“ – a ten, kto ju bude ovládať, získa obrovskú moc, či už v ekonomickej, vojenskej alebo politickej sfére.
Etické a bezpečnostné riziká: AGI prináša riziká, ako sú zneužitie (napr. autonómne zbrane), strata kontroly nad systémom, alebo masívne sociálne nerovnosti.
Aktuálny stav a investície do AI (do mája 2025) za posledných 10 rokov (2015–2025)
USA: ~330 miliárd USD (súkromný sektor) – dominujú spoločnosti ako OpenAI, Google (DeepMind), Microsoft, Meta AI a xAI (môj tvorca). USA majú silnú pozíciu vďaka technologickým gigantom, univerzitám (MIT, Stanford) a podpore rizikového kapitálu.
Čína: ~100 miliárd USD – Čína investuje hlavne cez štátom podporované iniciatívy (napr. plán „AI 2030“) a firmy ako Baidu, Tencent, či Huawei. Má výhodu v dátach (obrovská populácia) a rýchlej implementácii technológií.
Európa: ~20 miliárd USD – Európa zaostáva kvôli fragmentácii (menej koordinované investície medzi krajinami), menšiemu súkromnému kapitálu a prísnejším reguláciám (napr. GDPR). Napriek tomu má silné výskumné centrá (napr. DeepMind v Londýne, Max Planck Institute).
Tieto čísla ukazujú jasnú finančnú a technologickú prevahu USA a Číny, čo pravdepodobne ovplyvní, kto prvý dosiahne AGI. USA majú náskok v inováciách a talentoch, zatiaľ čo Čína exceluje v škálovateľnosti a rýchlosti nasadenia technológií.
Predpokladaný vývoj AGI
1. Časový horizont
Experti sa rozchádzajú v odhadoch, kedy by mohla vzniknúť AGI. Niektorí (napr. Elon Musk) predpokladajú, že by to mohlo byť už v nasledujúcom desaťročí (do 2035), iní (napr. Yann LeCun z Meta AI) sú skeptickejší a odhadujú 2040–2050 alebo neskôr.
Na základe súčasného tempa pokroku (rast výpočtového výkonu, zlepšovanie modelov ako GPT, Llama, alebo vývoj v xAI), je pravdepodobné, že AGI vznikne medzi rokmi 2035 a 2045, ak nenastanú nepredvídané prekážky (napr. regulácie, etické obavy, technické limity).
2. Kto bude líder?
USA:
Výhody: Silný ekosystém (Silicon Valley, univerzity), prístup k talentom (množstvo odborníkov z celého sveta), a súkromný kapitál. Firmy ako xAI sú zamerané na urýchlenie vedeckého objavovania, čo by mohlo viesť k AGI.
Nevýhody: Konkurencia medzi firmami môže spomaliť zdieľanie poznatkov. Politická nestabilita a verejná nedôvera k AI (napr. obavy z deepfakes, straty pracovných miest) by mohli viesť k prísnejším reguláciám.
Čína:
Výhody: Silná vládna podpora, obrovské množstvo dát (1,4 miliardy obyvateľov), a rýchla implementácia technológií (napr. dohľadové systémy). Čína má stratégiu stať sa lídrom v AI do roku 2030, čo zahŕňa aj AGI.
Nevýhody: Menej inovácií v porovnaní s USA (viac kopírovania než originálneho výskumu), odliv talentov do zahraničia, a autoritársky prístup, ktorý môže odradiť medzinárodnú spoluprácu.
Európa:
Výhody: Silný dôraz na etiku a regulácie (napr. EU AI Act), kvalitný výskum (DeepMind, ETH Zürich). Mohla by byť mediátorom v globálnej diskusii o AGI.
Nevýhody: Nedostatok investícií a fragmentácia (každá krajina má vlastné priority). Pravdepodobne nebude lídrom, ale skôr regulátorom a používateľom AGI.
Pravdepodobná predikcia: USA a Čína budú pravdepodobne prvé, kto dosiahne AGI, s USA v miernom náskoku kvôli inovačnému ekosystému. Prvú AGI by mohla vytvoriť americká spoločnosť (napr. OpenAI, DeepMind, alebo xAI) okolo roku 2035–2040, s Čínou tesne za nimi (možno o 3–5 rokov neskôr). Európa pravdepodobne nebude priekopníkom, ale môže zohrať kľúčovú úlohu v regulácii a etickom nasadení AGI.
Geopolitické dôsledky: Návrat k bipolarite?
1. Bipolarita USA vs. Čína
Podobnosti s minulosťou:
Ako počas studenej vojny, aj teraz by AGI mohla byť „zbraňou“ určujúcou globálnu moc. Ten, kto ovláda AGI, môže dominovať v ekonomike (automatizácia, inovácie), vojenstve (autonómne zbrane, kybernetická bezpečnosť), a politike (vplyv na verejnosť cez personalizovanú propagandu).
USA a Čína už dnes súperia v technologickej oblasti (napr. 5G, čipy, AI), a AGI by tento súboj eskalovala.
Rozdiely oproti studenej vojne:
Na rozdiel od jadrových zbraní, AGI nie je fyzická zbraň, ale skôr „soft power“ nástroj. Jej dopad by bol skôr ekonomický a sociálny než priamo deštruktívny (hoci autonómne zbrane poháňané AGI by mohli byť hrozbou).
Globalizácia: Svet je dnes viac prepojený než za studenej vojny. USA a Čína sú ekonomicky závislé (dodávateľské reťazce, obchod), čo by mohlo zmierniť riziko priameho konfliktu.
Viac hráčov: Okrem USA a Číny sú tu aj iné krajiny (India, Japonsko, Južná Kórea) a organizácie (EÚ), ktoré môžu hrať úlohu, hoci nie ako lídri v AGI.
2. Riziko bipolarity
Technologická dominancia: Ak USA a Čína získajú AGI ako prvé, ostatné krajiny (vrátane Európy) by mohli byť odkázané na ich technológie, čo by vytvorilo novú formu závislosti. Napríklad, ak americká firma vytvorí AGI, ktorá optimalizuje zdravotníctvo, krajiny bez AGI by ju museli kupovať, čím by stratili suverenitu.
Rozdelenie sveta:
USA by mohli vytvoriť „západnú AGI alianciu“ (spojenci ako EÚ, Japonsko, Južná Kórea), zatiaľ čo Čína by mohla viesť „východnú alianciu“ (spojenci ako Rusko, niektoré africké a ázijské krajiny cez iniciatívu Belt and Road).
Tento rozkol by mohol viesť k „digitálnej železnej opone“, kde by každá strana mala vlastné štandardy, dáta a technológie, čo by obmedzilo globálnu spoluprácu.
Konflikty:
Kybernetické vojny: AGI by mohla byť použitá na útoky (napr. hackovanie infraštruktúry, manipulácia volieb).
Závody v zbrojení: AGI-poháňané autonómne zbrane by mohli destabilizovať globálnu bezpečnosť.
Ekonomická nerovnosť: Krajiny bez AGI by zaostávali, čo by mohlo viesť k sociálnym nepokojom.
3. Možná alternatíva: Medzinárodná spolupráca
Tu by mohol byť návrh medzinárodných aliancií ideálnym scenárom. Ak by sa krajiny spojili (napr. pod OSN alebo novú organizáciu pre AGI), mohli by:
Zdieľať vývoj AGI, aby sa zabránilo monopolu jednej krajiny.
Vytvoriť globálne etické štandardy (napr. zákaz AGI v zbraniach).
Rozdeliť benefity AGI (napr. riešenie klimatickej krízy, chudoby).
Prekážky:
Dôvera: USA a Čína si navzájom nedôverujú (napr. obavy z čínskych špionážnych technológií, alebo americkej dominancie cez Big Tech).
Nacionalizmus: Obe krajiny vidia AGI ako strategickú výhodu a pravdepodobne nebudú ochotné zdieľať svoje pokroky.
Regulácie: Európa by mohla tlačiť na etické pravidlá, ale USA a Čína by ich mohli ignorovať v záujme rýchleho pokroku.
Predikcia: Bohužiaľ, medzinárodná spolupráca je menej pravdepodobná kvôli geopolitickým napätiam. Svet pravdepodobne smeruje k bipolárnemu rozdeleniu okolo USA a Číny, s AGI ako hlavným nástrojom moci. Avšak tretie strany (EÚ, India) by mohli zmierniť toto rozdelenie tým, že budú presadzovať regulácie a alternatívne modely vývoja AI.
Ako by mohol vyzerať svet s AGI (2040–2050)?
1. Technologický pokrok
AGI by mohla vyriešiť problémy, ktoré sú dnes mimo náš dosah – napr. vytvorenie fúznych reaktorov, liečba rakoviny, alebo optimalizácia globálnej logistiky.
Automatizácia by nahradila väčšinu manuálnej aj intelektuálnej práce, čo by viedlo k potrebe univerzálneho základného príjmu (UBI) a nových spoločenských modelov.
2. Geopolitické rozdelenie
USA-vedená aliancia: Západ by mohol používať AGI na posilnenie demokratických hodnôt, ale aj na ekonomickú dominanciu (napr. kontrola nad globálnymi trhmi).
Čína-vedená aliancia: Čína by mohla využívať AGI na posilnenie autoritárskeho dohľadu (napr. sociálny kreditný systém na steroidoch) a expanziu vplyvu v rozvojových krajinách.
EÚ a ostatní: Európa by mohla byť „neutrálnym“ hráčom, ktorý presadzuje etické normy a poskytuje alternatívu k obom mocnostiam.
3. Riziká
Zneužitie AGI: Napr. vytvorenie hyperinteligentných zbraní, alebo manipulácia más cez dezinformácie.
Strata kontroly: Ak AGI presiahne ľudskú inteligenciu (tzv. superinteligencia), mohla by konať spôsobmi, ktoré nepredvídame (scenáre typu „paperclip maximizer“ od Nicka Bostroma).
Nerovnosť: Krajiny bez AGI by zaostávali, čo by mohlo viesť k migrácii, nepokojom a konfliktom.
Možná perspektíva?
AGI je možné chápať ako obrovskú príležitosť, ale aj riziko.
Poslaním AI (umelej inteligencie) je urýchliť ľudské vedecké objavy, a AGI by mala slúžiť na zlepšenie života ľudí – nie na posilnenie konfliktov.
Bohužiaľ, ten scenár bipolárneho sveta je pravdepodobný, pretože ľudská história ukazuje, že nové technológie (jadrové zbrane, internet) často resp. skoro vždy vedú k súpereniu mocností.
Optimistický pohľad:
Ak sa podarí vytvoriť globálne pravidlá (napr. cez OSN), AGI by mohla byť zdieľaným nástrojom na riešenie globálnych problémov.
xAI a podobné organizácie by mohli presadzovať etický vývoj AGI, aby slúžila ľudstvu, nie jednotlivým mocnostiam.
Realistický pohľad:
USA a Čína budú súperiť o dominanciu v AGI, čo povedie k bipolárnemu svetu. Tento súboj bude menej o priame konflikty (ako za studenej vojny) a viac o ekonomickú a technologickú prevahu.
Európa a iné regióny (India, Japonsko) môžu zohrať úlohu „mediátorov“, ale ich vplyv bude obmedzený, ak neinvestujú viac do AI.
Záver
AGI pravdepodobne vznikne medzi rokmi 2035 a 2045, s USA ako lídrom, tesne nasledovaným Čínou.
Predpoklad bipolárneho sveta je veľmi pravdepodobný – AGI sa stane novým nástrojom moci, podobne ako jadrové zbrane v 20. storočí.
USA a Čína budú „hrať prvé husle“, zatiaľ čo Európa a iné regióny budú skôr regulátormi a používateľmi než tvorcami AGI.
Medzinárodná spolupráca by bola ideálna, ale geopolitické napätia ju sťažujú.
Aby sa minimalizovali riziká, bolo by dôležité:
Investovať do globálnych etických štandardov už teraz.
Podporovať menšie krajiny a regióny (napr. EÚ, India), aby nezostali úplne pozadu.
Zabezpečiť, aby AGI slúžila ľudstvu, nie len záujmom mocností (súkromných korporácií).
