Rozšírenie AI bezpochyby spôsobí výrazné zmeny v štruktúre celej spoločnosti. Čo sa ale dá povedať o vzdialenejšej (možno nie až tak vzdialenej) budúcnosti, v ktorej dôjde k vytvoreniu AI tak inteligentnej, že prekoná najinteligentnejších jedincov v spoločnosti? Aké môžu byť ciele takejto superinteligencie? A aké sú jej limity? Existuje možnosť, ako aspoň načrtnúť odpovede na podobné otázky? A čo tá obávaná singularita, teda stav, v ktorom vývoj AI už nejde nijak zvrátiť, stáva sa exponenciálnym a nejde predikovať?
Verím, že východiskovým bodom k úvahám nad takto komplexnými témami je pochopenie matematických a fyzikálnych limitov sveta. Pretože skutočne existujú limity, ktoré obmedzujú aj tie najkomplexnejšie a najinteligentnejšie systémy. Tak si niektoré z nich poďme zhrnúť.
Z fyzikálnych limitov v krátkosti spomeniem napríklad tieto:
Landauerov princíp
Jedným zo základných fyzikálnych limitov, ktoré obmedzujú spracovanie informácií, je takzvaný Landauerov princíp. V krátkosti hovorí, že existuje minimálna energia potrebná na zmenu jednotky informácie. Inak povedané, akékoľvek spracovanie informácie vždy bude vyžadovať energiu, a to bez ohľadu na pokročilosť informačného systému. Svojím spôsobom ide o rozšírenie druhého termodynamického zákona na informatiku a prepojenie konceptu nárastu entropie uzavretého systému v čase s teóriou informácie.
Maximálna rýchlosť prenosu informácie
Rýchlosť svetla je maximálnou rýchlosťou, akou môže dochádzať k prenosu informácie. Preto ani tá najpokročilejšia AI, dávno za bodom singularity, nedokáže komunikovať okamžite, čo môže predstavovať významné obmedzenie v snahách napríklad o expanziu do vesmíru.
Bremermannov limit
Tento limit určuje maximálnu možnú rýchlosť výpočtových operácií.
Heisenbergov princíp neurčitosti
Ten kladie fundamentálne limity v procesoch merania a absolútneho poznania parametrov, ako sú hybnosť, poloha, časový interval alebo energia.
Chaos a nelineárne dynamické systémy
Existujú nelineárne dynamické systémy, ktoré sú tak citlivé na nastavenia počiatočných podmienok, že sú v princípe nepredikovateľné. Spolu s limitmi merania alebo poznania, napríklad v podobe Heisenbergovho princípu neurčitosti, vytvárajú nedeterministické systémy.
Z matematických limitov v krátkosti napríklad:
Gödelove vety o neúplnosti
Existuje matematický dôkaz o tom, že v matematickom systéme vždy budú existovať matematické vety, ktoré budú síce pravdivé, ale ich pravdivosť nebude možné dokázať. To vytvára možnosť existencie stavu, kedy ani najpokročilejší systém pracujúci s formálnou logikou nebude schopný určiť optimálny spôsob riešenia nejakého problému.
Problém zastavenia
Neexistuje univerzálny algoritmus, ktorý by rozhodol, či daný program zastaví alebo nezastaví v konečnom čase. Vždy budú existovať problémy, ktoré sú algoritmicky nerozhodnuteľné.
Ako je vidieť, svet, v ktorom žijeme, kladie značné limity na maximálne možnosti výpočtových systémov. Preto nikdy nebude existovať AI systém, ktorý by popísal svet s absolútnou presnosťou či neomylnosťou. Aj tie najkomplexnejšie systémy vždy budú čeliť zákonom termodynamiky, chaosu a limitom v podobe matematických viet.
Klasické vs. kvantové pošítače, determinizmus vs probabilizmus
Iste, súčasné klasické počítače samozrejme pracujú deterministicky, tzn. z konkrétneho vstupného súboru dát vždy dospejú ku konkrétnemu výsledku. 2 + 2 vyhodnotia všetky počítače rovnako a nikde nie je priestor na náhodnosť. Problém ale nastáva, ak je potrebné popísať systémy, o ktorých nemožno získať úplnú informáciu, ale len informáciu s určitou nepresnosťou. Toto je typický problém merania, ktoré nejde vykonať s nulovou chybou. Napríklad predpoveď počasia bude závislá na vstupných dátach. A áno, deterministický počítač z rovnakých vstupných dát bude predikovať rovnaký výsledok, ale jeho zhoda s realitou už bude závislá práve od chýb v počiatočných podmienkach.
Situácia sa ešte komplikuje, ak začneme uvažovať nad kvantovými počítačmi, ktoré pracujú tak deterministicky, ako aj probabilisticky – teda náhodne. Deterministickou časťou je výpočet vlnovej funkcie v čase, avšak stav systému po meraní – po kolapse vlnovej funkcie – je čisto náhodný.
Kvantové počítače, veľmi zjednodušene, fungujú približne nasledovne. Najprv sa vytvorí komplexný systém s rôznymi počiatočnými kvantovými stavmi, ktoré sú popísateľné vlnovými funkciami. Vývoj týchto vlnových funkcií možno v čase popísať Schrödingerovou rovnicou, ale má to svoje zásadné limity. Uvedený systém sa nechá interagovať. Túto interakciu a jej výsledok už zväčša kvôli komplexite nejde popísať Schrödingerovou rovnicou vôbec. Preto sa po skončení interakcie systém meria externým pozorovaním. V tomto okamihu dochádza ku kolapsu výslednej vlnovej funkcie.
Z kvantovej mechaniky je známe, že kolaps vlnovej funkcie je náhodný, avšak zo Schrödingerovej rovnice je možné vypočítať pravdepodobnosť nameraného výsledného stavu. My však Schrödingerovu rovnicu pre tento komplexný systém nepoznáme, preto musíme opakovať nespočet meraní a na základe štatistických metód dopočítať pravdepodobnosti výsledkov, respektíve odhadnúť výsledok s určitou pravdepodobnosťou. Je teda zrejmé, že kvantové počítače v sebe inherentne nesú prvok náhody.
Túto zjednodušenú odbočku ku kvantovým výpočtom som spravil preto, lebo absolútne nepochybujem o tom, že budúce superinteligencie budú obsahovať aj prvky umožňujúce kvantové výpočty, prípadne budú celé postavené na kvantových procesoroch.
Záver
Myslím, že najdôležitejším predpokladom pre ďalšie úvahy je, že rôzne superinteligencie môžu riešiť rovnaké problémy odlišnými spôsobmi. Napríklad otázku výberu vhodnej stratégie rozvoja nejakej AI-podpornej infraštruktúry v kontexte napríklad klimatickej zmeny nemožno riešiť deterministicky. Rovnako aj otázku optimálneho spôsobu osídľovania galaxie nie je možné vyriešiť deterministicky, nakoľko podklady vykazujú neurčitosti v meraniach a rôzne počiatočné podmienky.
Celý tento príspevok má za cieľ poukázať, že rôzne superinteligencie môžu zvoliť odlišné stratégie rozvoja. To vytvára možnosť existencie určitej formy „subjektívneho“, či náhodného rozhodovania, čo môže byť kľúčové pri ďalších úvahách o kooperácii medzi nimi.
