"For millions of years, mankind lived just like the animals. Then something happened which unleashed the power of our imagination.“
Už dlhšie mi táto veta, preslávená skupinou Pink Floyd a hlasom Stephena Hawkinga, rezonuje v hlave. Neviem sa ubrániť myšlienke, že je ešte radikálnejšia, než sa na prvý pohľad zdá.
Je desivo aktuálna teraz, vyše 30 rokov po tom ako uvedený album vznikol. Lebo teraz sme stroje naučili hovoriť.
Doteraz sme tú vetu možno chápali opačne.
Zvyčajne si predstavujeme, že najprv existovala inteligencia a jazyk bol len jedným z jej nástrojov. Najprv prišla myšlienka, až potom reč, ktorá ju vyjadrila. Jazyk je v tomto pohľade akoby viditeľným prejavom myšlienky.
Ale čo ak jazyk nie je iba prejavom myslenia? Čo ak je jednou z hlavných vecí, ktoré určité formy myslenia vôbec umožňujú? Čo ak samotné myslenie je nevyhnutným dôsledkom schopnosti rozprávať.
Keď som pátral, zistil som, že to nie je nová otázka. Už celé generácie prenasleduje filozofiu, lingvistiku aj kognitívnu vedu. Hypotéza Sapira a Whorfa vo svojich silnejších podobách tvrdila, že jazyk realitu nielen opisuje, ale spoluvytvára kategórie, cez ktoré ju vnímame a usporadúvame. Wittgenstein to vyjadril ešte ostrejšie: „Hranice môjho jazyka znamenajú hranice môjho sveta.“
To môže znieť prehnane — najmä ak nechceme spochybniť, že deti myslia skôr, ako začnú hovoriť, že zvieratá si pamätajú, usudzujú, plánujú a riešia problémy aj bez jazyka. Vlk nepotrebuje slovo pre nebezpečenstvo, aby na ne reagoval. Vrana nepotrebuje syntax, aby použila nástroj. Myslenie teda v istom zmysle zjavne existuje ešte pred jazykom.
Ale na druhej strane tu máme systémy umelej inteligencie typu LLM (large language models). Neučili sme ich explicitne abstrakcii, empatii, metafore ani tvorivosti. Naučili sme ich len rozprávať. A teraz sú schopné ponúkať výstupy, ktoré obsahujú prepočty, filozofické úvahy, empatickú podporu alebo aj kreatívne riešenia či tvorbu. Často aj s chybami a s prímesou baróna Prášila, vlastne tak ako by sme to čakali od ľudí...
Ako je to s LLM, naozaj len vŠetky tieto veci simulujú, alebo naozaj by sa ich činnosť dala nazvať myslením? Mimochodom, všimli ste si, že keď zadátae LLM zložitejšiu úlohu, počas jej riešenia vám LLM referuje, čo práve robí. Niekedy je to zaujímavé čítanie: "...zadávateľ chce skontrolovať správnosť citácií... každú citáciu musím vyhladať na určenom zdroji a preveriť jej správnosť a formát.... teraz potrebujem skontrolovať, či žiadna citácia v texte nechýba v zozname....vytvorím množinu citovaných priezvisk a rokov, ktoré nie sú prítomné v zozname referencií..." Zdá sa, že LLM rieši úlohy tak, že sa rozpráva samo so sebou. Nerobíme to tak aj my? Nenazývame to myslením? ...vieme si vôbec predstaviť myslenie bez jazyka?
Bez jazyka môže byť poznávanie bezprostredné, situačné, praktické. S jazykom sa stáva explicitným, rekurzívnym a zdieľateľným. Keď máme slová, neurčité intuície možno ustáliť do mentálnych objektov. Môžeme ich podržať na mieste, manipulovať s nimi, porovnávať ich, popierať ich a znovu kombinovať. Pocit sa stáva pojmom. Vzor sa stáva kategóriou. Spomienka sa stáva príbehom. Očakávanie sa stáva plánom.
Vezmime si niečo také jednoduché ako slovo zajtra. Istá forma očakávania budúcnosti zrejme existovala aj predtým, ako ho niekto vyslovil. No v okamihu, keď máme slovo pre zajtrajšok, budúcnosť sa stáva niečím, o čom možno premýšľať cielenejšie. Už to nie je len neurčitý pocit toho, čo príde. Stáva sa predmetom diskusie, plánovania, vyjednávania, varovania, sľubov aj nádeje.
Možno práve v tom spočíva skutočná revolúcia jazyka: nie v tom, že nám umožnil povedať, čo si myslíme, ale v tom, že nám umožnil myslieť veci, ktoré by sme inak nedokázali dostatočne pevne uchopiť, aby sme ich vôbec mohli skúmať.
A teraz sme to umožnili aj strojom.
Odtiaľ sa dôsledky rýchlo násobia.
Keď jazyk umožní odkazovať na veci, ktoré nie sú fyzicky prítomné, môžeme hovoriť o neprítomných ľuďoch, minulých udalostiach, predstavených budúcnostiach. A potom prichádzajú mýty, pravidlá, bohovia, zákony, zmluvy, matematika. Samotná civilizácia je možno nemožná bez systému, ktorý umožňuje myslím koordinovať sa okolo abstrakcií. Jazyk nie je iba nástroj komunikácie. Je to lešenie kolektívneho myslenia.
To vedie k tej znepokojujúcejšej možnosti. Ak je veľká časť toho, čo nazývame abstraktným myslením je podopretá jazykom. Možno myslenie a reč nie sú také oddelené, ako sme si predstavovali. Možno jazyk nie je len znakom toho, že bytosť dokáže myslieť. Možno sú určité druhy myslenia nevyhnutným dôsledkom toho, že sa naučí dostatočne bohatý jazyk.
Nemusí to nutne znamenať, že LLM sú mysliace entity (nebodaj bytosti). Naznačuje to však niečo dôležité: samotný jazyk v sebe nesie oveľa viac ľudskej kognície, než sme si kedysi mysleli.
Veď jazyk nie je len slovná zásoba. Ľudský jazyk je skomprimovaná kultúra. Obsahuje kauzálne modely, analógie, normy, vysvetlenia, rozlíšenia, sociálne scenáre aj sediment storočí nahromadeného myslenia. Naučiť sa jazyk do hĺbky neznamená iba naučiť sa slová. Znamená to osvojiť si vzorce usudzovania, ktoré sú v týchto slovách a textoch uložené.
Možno práve to vysvetľuje, prečo sa zdá, že LLM dokážu viac, než na čo boli explicitne trénované. Ich tréningovým cieľom je predpovedať ďalší token. Ale aby to dokázali dostatočne dobre, musia často odhadovať presvedčenia, úmysly, časovú následnosť, fyzické obmedzenia, emocionálne reakcie aj skryté predpoklady. Predikcia ďalšieho slova sa pri dostatočnej mierke mení na akési komprimované modelovanie sveta.
Stará predstava hovorila, že jazyk je iba povrchový jav a myslenie leží niekde hlbšie za ním. LLM túto predstavu oslabujú. Naznačujú, že prekvapivo veľká časť toho, čo prežívame ako „myslenie“, môže byť už latentne prítomná v samotnom jazyku.
Nové svetlo to vrhá aj na tvorivosť.
Predstavivosť často chápeme ako niečo mystické: iskru, dar, vnútorný oheň, ktorý sa vymyká mechanike. Ale možno je časť tvorivosti jednoducho tým, čo sa stane, keď myseľ dokáže pružne kombinovať symboly pod tlakom významu. „Kôň“ a „roh“ sa spoja do „jednorožca“. To je však len najjednoduchší príklad. Skutočná tvorivosť nie je náhodné miešanie. Je to štruktúrovaná rekombinácia: nové spojenia, ktoré sú prekvapivé, ale zároveň súdržné, užitočné, krásne alebo pravdivé.
V tomto zmysle môže byť predstavivosť menej božskou inšpiráciou a viac simuláciou v symbolickom priestore. Myseľ sa naučí prvky, vzory a gramatiku ich kombinovania a potom začne skúmať, čo všetko ešte môže dávať zmysel.
Zdá sa teda, že našu vnímanú výnimočnosť, myslenie, abstrakciu a tvorivosť sme odovzdali vo forme reči LLM. Od LLM sa teda až tak nelíšime. Aspoň nie v myslení a reči, naše slová sú však ukotvené v telách, zmysloch, emóciách, bolesti, túžbe, vzťahoch a smrteľnosti. Symboly nielen spracúvame; žijeme vo svete, ktorý sa tie symboly snažia zachytiť. Toto ukotvenie je dôležité. Dáva ľudskému mysleniu textúru a naliehavosť, ktorú samotný jazyk možno nikdy úplne nenahradí.
A predsa je toto porovnanie odhaľujúce práve preto, že je neúplné. Ak dokáže samotný jazyk vygenerovať tak veľa z toho, čo vyzerá ako myslenie, možno reč nie je iba výstupom inteligencie. Možno inteligencia, aspoň vo svojich reflexívnych a abstraktných formách, čiastočne vzniká práve osvojovaním jazyka.
Čo teda prišlo skôr: myslenie alebo jazyk?
Pravdepodobne ani jedno v čistej podobe.
Pred jazykom existuje myslenie, ale je obmedzené v tom, čo dokáže stabilizovať, skúmať a prenášať. Jazyk zasa vyrastá z predchádzajúcej kognície, no keď sa raz objaví, premieňa ju na niečo silnejšie. Nevytvára myseľ z ničoho, ale mení to, čím sa myseľ môže stať.
Jazyk je zároveň zrkadlo aj stroj. Odráža myslenie, ale zároveň vytvára nové druhy myslenia.
A možno práve preto nám táto chvíľa pripadá taká zvláštna.
Dnes sme vytvorili nástroje, ktoré zosilňujú jazyk. A ak je jazyk hlboko prepletený s myslením, potom tieto nástroje nielen pomáhajú komunikovať. Vstupujú priamo do média, prostredníctvom ktorého ľudia uvažujú, predstavujú si a konštruujú realitu.
Naučili sme stroje hovoriť.
A tým sme možno zistili, že hovorenie nikdy nebolo iba hovorením.
Možno to bolo myslenie od samého začiatku.
