Keďže verejná diskusia je zahltená hystériou z toho, že nás čochvíľa zničí AI, pretože už to nie je hlúpy nástroj, ktorý musí niekto použiť, ale agent, ktorý koná sám, hodí sa pár slov k tomu, ako je tá autonómnosť konštruovaná.
Základom je stále ten istý princíp, aký poznáme z chatu s AI. Na začiatku je vstup (text) a LLM model (mozog) nám vráti na výstupe najpravdepodobnejší reťazec znakov (odpoveď). Tento mozog sám od seba nič nerobí, ani nič nevykonáva. Autonómnosť zabezpečuje kód na pozadí.
Tento kód je slučka (opakované volanie), do ktorej sa na vstup vždy vložia všetky predchádzajúce odpovede – pamäť. Mozog je inštruovaný, že je agent, a ak nemá finálnu odpoveď, nech povie, čo má robiť v ďalšom kroku, t. j. nech si sám vytvorí ďalšiu inštrukciu.
Ale aby to nebolo len nekonečné generovanie textu, treba mu dať aj možnosť zistiť niečo z „reálneho“ sveta. To sa deje cez nástroje – volanie služieb (API). Opäť sa to deje počiatočnou inštrukciou, že má k dispozícii nástroj, ktorý vyžaduje nejaké parametre.
Napríklad, že má k dispozícii službu na zistenie počasia s parametrami poloha a dátum: „Si agent. Máš nástroje: search_weather. Odpovedaj len v JSON: {'thought': '...', 'action': 'nazov', 'args': {...}}.“ A on, ak uzná za vhodné, vráti požiadavku na volanie služby.
Obslužný kód, ak nájde vo výstupe požiadavku na spustenie nástroja, nástroj spustí, výsledok vloží do pamäte a znova zavolá celý model. Aby kód nebežal do nekonečna, v slučke musíme ošetriť finálny výsledok. Urobíme to obdobne ako pri nástroji – inštrukciou.
„Si agent. Označ finálnu odpoveď. Máš nástroje: search_weather. Odpovedaj len v JSON: {'final_answer': '...', 'thought': '...'}.“ V každom kroku skontrolujeme, či máme finálnu odpoveď. Ak áno, ukončíme slučku, ak nie, pokračujeme vo volaní mozgu s históriou.
Keďže modely nie sú úplne presné, ale iba štatisticky presné, aby sa nestalo, že sa model volá kvôli nesprávnej odpovedi do nekonečna, kód obsahuje mechanizmy na tvrdé ukončenie. Napríklad dovolíme iba 20 opakovaní alebo kontrolujeme, či odpoveď nie je stále rovnaká.
Čiže LLM mozog je stále len stroj na najpravdepodobnejší výstup a celú mágiu okolo autonómnosti robí kód okolo. A aby sa k nejakému výsledku vôbec dalo dostať, musia modely v nejakej miere halucinovať, čo je náhrada kreativity. Ak by boli presné, skončia s výsledkom „neviem“.
Preto sa pri riešení veľmi komplexných problémov spúšťajú tisíce agentov v tisícoch opakovaní, z ktorých len pár dospeje k finálnemu výsledku. A to celé, samozrejme, vyžaduje extrémny výkon a stojí množstvo peňazí.
Preto tú hystériu treba vnímať v dvoch rovinách: peniaze a prípadný damage control. Teda: nevieme presne, čo tieto modely vykonajú, keď im dáme nástroje, ale spálime milióny na ich spustenie, takže ak by sa niečo stalo, tak my za to nemôžeme, to zlá AI chce zničiť ľudstvo.
