Aktuálne si znova všímam diskusie medzi odborníkmi na riziká umelej inteligencie. A často sa opierajú o odhady pravdepodobnosti katastrofických scenárov, kde sa v poslednom období spomína číslo okolo 10 % ako hranica rizika vyhynutia ľudstva. Okrem týchto katastrofických scenárov však existuje aj iný, nenápadnejší vývoj: postupný úpadok vlastnej iniciatívy a kritického myslenia užívateľov.
Ak bude tento trend pokračovať, AI nebude musieť aktívne vyvíjať žiadne úsilie na prekonanie ľudstva. Postačí počkať, kým ľudská samostatnosť klesne na úroveň, kedy pre okolité systémy nebudeme predstavovať žiadnu reálnu hrozbu — podobne ako pavúk v kúpeľni, ktorý sa pri prvom kontakte snaží len rýchlo schovať.
Rozdiel je zrejmý pri porovnaní s fungovaním klasických internetových vyhľadávačov. V časoch, keď bol Google dominantným hráčom na vyhľadávanie informácií, musel užívateľ vyvinúť vlastné úsilie. Bolo potrebné presne formulovať dotaz, vedieť, čo konkrétne hľadáme, a následne samostatne vyhodnocovať a filtrovať získané výsledky.
Súčasné AI vyhľadávače a asistenčné systémy fungujú odlišne. Užívateľ často zadáva len veľmi no povdzme obrazne, či nepresné alebo čiastočné požiadavky. Systém na základe rozsiahleho zberu dát a profilovania užívateľa odhadne zámer a nasmeruje ho ku konkrétnemu výstupu. Namiesto odmietnutia alebo spochybnenia predložených výsledkov iba slepo nasledujeme a tak dochádza k pasívnemu prijímaniu ponúknutých možností a nekritickému klikaniu na odporúčané odkazy.
