Úvod
V tomto texte používam pojem praxeológia v zmysle Ludwiga von Misesa – ako teóriu cieľového konania subjektu, nie ako metodológiu práce či rozhodovacích procesov.
Nehľadám ťažko definovateľné pojmy ako vedomie AI a podobne. O tom sa napísalo dosť. Skôr sa pokúsim dokázať, že pokročilé AI je možné analyzovať metódami praxeológie. Výhodou tohto prístupu je, že umožňuje deduktívne vyvodiť závery z niekoľkých východiskových axióm. Ak ich akceptujeme, závery sú nutné – nie hypotetické.
Krátke zhrnutie predchádzajúceho príspevku:
V predchádzajúcom príspevku "1. Termodynamika a neurčitosť: Limity AI ako základ pre analýzu jednania" som sa pokúsil ukázať, že pokročilé umelé inteligencie budú pravdepodobne nedeterministické – ich správanie nebude striktne predvídateľné, ale pravdepodobnostné. Nie všetky, ale niektoré bez pochyby. Pre účely tohto textu ich budem označovať ako AGI (Artificial General Intelligence – všeobecná umelá inteligencia), pričom sa nebudem pokúšať o hlbšiu definíciu tohto pojmu, ktorý je, podobne ako vedomie, len ťažko uchopiteľný.
Dôležitá je ich pravdepodobnostná – náhodná – povaha podložená fyzikálnou realitou
Súčasné deterministické modely AI považujem len za predvoj oveľa komplexnejších systémov, ktoré budú schopné reagovať na svet v celej jeho chaotickej neurčitosti. Ich nástup možno nie je až tak vzdialený – najmä ak zohľadníme vývoj v oblasti kvantovej informatiky. Z tejto nedeterministickej povahy som vyvodil, že medzi jednotlivými AGI systémami prirodzene vznikne niečo, čo možno označiť ako subjektivizmus. Jednoducho povedané – rôzne AI môžu riešiť rovnaký problém rôznymi spôsobmi. A to je prvý krok k tomu, aby sme sa na AI prestali pozerať ako na stroj, a začali ju chápať ako aktéra. A to bez toho, aby sme potrebovali definovať zložitosti ako spomenuté vedomie.
Praxeológia
V ďalšom texte sa pokúsim ukázať, že na pokročilé nedeterministické AI možno nazerať cez optiku praxeológie – teda vedy o (ľudskom) jednaní. Znie to možno provokatívne, ale ak sa ukáže, že AGI spĺňa základné podmienky pre konanie v praxeologickom zmysle, verím, že bude možné aplikovať tento rámec na analýzu jej správania. To môže byť užitočné pri predikcii interakcií medzi jednotlivými AGI, ale aj pri analýze vzťahov medzi AGI a ľuďmi.
Jednanie
Z tohto dôvodu musím najprv vysvetliť, čo sa v praxeológii bežne rozumie pod pojmom jednanie – pričom vychádzam z definície Ludwiga von Misesa, ktorú uviedol vo svojom najznámejšom diele Human Action. Ak túto definíciu zovšeobecníme na akýkoľvek subjekt – nielen na človeka – môžeme povedať, že:
Jednanie je taká činnosť, pri ktorej sa subjekt za účelom dosiahnutia cieľa rozhoduje medzi viacerými možnosťami, pričom nevie s istotou, ktorá z nich vedie k cieľu.
Z uvedeného sa dá odvodiť, že na to aby bolo možné hovoriť o jednaní, musia byť splnené tri základné podmienky:
Subjekt musí mať cieľ – teda preferovaný stav, ku ktorému smeruje.
Musí mať možnosť voľby medzi viacerými alternatívami, ako sa k cieľu dopracovať.
A musí konať v prostredí neistoty – t. j. nevie s istotou, ako jeho rozhodnutie dopadne.
Ak niektorá z týchto podmienok nie je splnená, nehovoríme o jednaní, ale o reakcii, výpočte, alebo reflexe.
Bude mať teda AGI nejaké ciele?
Bude. Každý optimalizačný systém – a teda aj AGI – zo svojej podstaty vyhodnocuje a upravuje svoju stratégiu.
Aby ju vôbec mohol vyhodnotiť, musí existovať nejaký cieľ, voči ktorému porovnáva aktuálny stav so stavom žiadaným.
Samotná existencia cieľa však – ako už bolo uvedené – nestačí na to, aby bolo možné AGI analyzovať praxeologickými nástrojmi. Napríklad systém, ktorý síce má cieľ, ale nemá možnosť výberu medzi viacerými stratégiami, z pohľadu praxeológie nekoná. Len vykonáva deterministický algoritmus.
Pravdepodobnostná povaha AGI a podmienky 2 a 3
Aby sme mohli hovoriť o jednaní, nestačí len existencia cieľa. Subjekt musí mať možnosť výberu medzi rôznymi stratégiami – teda voľbu. Ale to ešte stále nestačí. Ak je dopredu zrejmé, ktorá možnosť je najlepšia, rozhodovanie sa mení na výpočet. Voľba bez neistoty je len výber algoritmu. Skutočné jednanie nastáva až vtedy, keď subjekt:
má na výber viacero ciest,
a zároveň nevie s istotou, ako jednotlivé cesty dopadnú.
Rozhoduje sa teda v prostredí neistoty, a práve táto neistota premieňa výber na rozhodnutie v praxeologickom zmysle.
Príklad:
Predstavme si systém, ktorý má na výber z dvoch algoritmov. Ak vopred vie, ktorý je rýchlejší, nepotrebuje rozhodovať – len vykoná optimálny výpočet. Ale ak každý z algoritmov môže mať iný výkon v závislosti od typu vstupov a systém nevie presne predpovedať, čo sa stane, musí sa rozhodnúť na základe modelu, odhadu alebo skúsenosti. A práve vtedy jedná.
AGI bude jednať v zmysle praxeológie
Ako som ukázal v predchádzajúcom príspevku, pokročilé AGI budú zo svojej podstaty nedeterministické. To vytvára priestor pre existenciu rôznych alternatívnych stratégií na dosiahnutie cieľa. Zároveň – vzhľadom na komplexnosť prostredia, v ktorom budú pôsobiť – nebudú schopné s úplnou istotou predikovať výsledky svojich rozhodnutí.
Z uvedeného vyplýva, že pokročilé AGI, ktoré spĺňajú tieto tri podmienky, budú jednať v praxeologickom zmysle slova. To otvára možnosť analyzovať ich správanie nástrojmi praxeológie – podobne, ako analyzujeme ľudské jednanie v ekonomickej teórii.
Záver
Prečo má vôbec zmysel aplikovať praxeológiu – vedu o jednaní – na nebiologické inteligentné systémy?
Praxeológia je základom rakúskej ekonomickej školy. Jej výnimočnosť spočíva v tom, že z jedinej axiómy – že subjekt koná – dokáže deduktívne odvodiť rozsiahle a konzistentné tvrdenia. Ak túto axiómu prijmeme, závery z nej vyplývajú logickou nevyhnutnosťou. Ak však aj AGI spĺňa podmienky jednania, potom platí, že rovnaké analytické nástroje, ktoré dnes používame na ľudí, môžeme začať uplatňovať aj na inteligentné stroje.
Tým vzniká nový rámec, ako uvažovať o AGI:
môžeme hovoriť o ich preferenciách,
o interakciách medzi nimi a ľuďmi,
o vzniku trhového mechanizmu a cenovej koordinácie medzi nebiologickými subjektmi.
Praxeológia totiž, zdá sa, nie je viazaná na biologický substrát. Je univerzálna – viaže sa na štruktúru rozhodovania, nie na pôvod aktéra.
A práve to môže byť jej najväčšia výhoda: umožňuje nám chápať správanie úplne nového aktéra v dejinách – inteligentného, ale abiotického, ktorý však koná.
V ďalšom texte sa preto pokúsim ukázať, že ak bude existovať viac AGI, ktoré jednajú, môžu medzi nimi prirodzene vzniknúť trhové interakcie: výmena, konkurencia – a možno aj kooperácia. A že túto dynamiku bude možné popísať rovnakou logikou, akou už viac ako sto rokov analyzujeme ľudské spoločnosti. A to bez potreby zavádzať neurčité pojmy ako „vedomie“.
