Umelá inteligencia (AI) zaplavila pracoviská rýchlejšie ako akákoľvek iná technológia v nedávnej minulosti.
Doba, kedy sme čakali na povolenie IT oddelenia, je zrejme preč. Zamestnanci dnes bežne integrujú AI nástroje do podnikových systémov – často bez akéhokoľvek dozoru alebo schválenia. Výsledok? Experti to nazývajú Tieňová AI (Shadow AI): rastúca sieť neautorizovaných nástrojov a integrácií, ktoré majú neobmedzený prístup k citlivým firemným dátam.
Bezpečnos nestíha rýchlosť inovácie
Dr. Tal Shapira, spoluzakladateľ a technický riaditeľ spoločnosti Reco (poskytovateľ riešení pre bezpečnosť SaaS a AI Governance), upozorňuje, že táto neviditeľná expanzia sa stáva jednou z najväčších bezpečnostných hrozieb, ktorým dnes organizácie čelia.
„Za približne 18 mesiacov sme prešli od 'umelá inteligencia prichádza' k 'umelá inteligencia je všade'. Problémom je, že rámce riadenia jednoducho nestihli dobehnúť tento vývoj,“ hovorí Shapira.
Väčšina súčasných podnikových bezpečnostných systémov bola navrhnutá pre starý svet, kde boli dáta bezpečne a chránené s firewall. Tieňová AI narúša tento model, pretože funguje zvnútra – skrytá v obľúbených nástrojoch, ktoré používate každý deň.
Tiché pripojenia: Kľúčový problém tieňovej AI
Mnohé moderné AI nástroje sa pripájajú priamo do platforiem ako sú Salesforce, Slack, Google Workspace alebo Microsoft 365. Robia to cez jednoduché povolenia a doplnky.
A tu nastáva problém: Tieto „tiché“ prepojenia zostávajú často aktívne, aj keď používateľ prestane nástroj používať, alebo dokonca opustí organizáciu! To znamená, že externý systém AI môže mať naďalej prístup k firemným dátam bez toho, aby to ktokoľvek vedel alebo kontroloval.
Keď sa AI vymkne kontrole: Incidenty z praxe
Škody spôsobené Tieňovou AI už nie sú len teóriou.
Odhalenie finančného giganta: Spoločnosť Reco spolupracovala s finančnou firmou zo zoznamu Fortune 100, ktorá sa považovala za bezpečnú. Po nasadení monitorovacieho systému Reco odhalili viac ako 1 000 neautorizovaných integrácií v ich prostrediach – viac ako polovica z nich bola poháňaná AI.
Trénovanie na dôverných dátach: Jedna integrácia, transkripčný nástroj pripojený k Zoomu, nahrávala a analyzovala každý zákaznícky hovor vrátane citlivých cien a spätnej väzby.
„Nevedomky trénovali model tretej strany na svojich najcitlivejších údajoch. Nebola žiadna zmluva, žiadne porozumenie o tom, ako sa tieto údaje ukladajú alebo používajú,“ zdôraznil Shapira.
Hromadná expozícia dát cez ChatGPT: Iný zamestnanec pripojil ChatGPT priamo k Salesforce. AI tak za pár hodín vygenerovala stovky interných správ, no zároveň vystavila externému systému AI informácie o zákazníkoch a predajné prognózy.
Riešenie: Prehľad a regulácia, nie blokovanie
Ako teda Reco detekuje tieto neviditeľné hrozby?
Platforma neustále skenuje prostredia SaaS a hľadá povolenia OAuth, aplikácie tretích strán a rozšírenia. Poskytuje úplný prehľad o tom, ktoré AI nástroje sú pripojené, ku ktorým dátam majú prístup a či je ich správanie podozrivé. Ak systém vyhodnotí pripojenie ako rizikové, môže správcov automaticky upozorniť alebo prístup okamžite zrušiť.
„Rýchlosť je dôležitá, pretože nástroje umelej inteligencie dokážu extrahovať obrovské množstvo údajov za hodiny, nie za dni,“ hovorí Shapira.
Podľa správy Cisco už 62 % organizácií priznalo, že majú len malý prehľad o tom, ako zamestnanci AI používajú. Výzva rastie s tým, ako sa AI funkcie (ako Microsoft Copilot alebo Salesforce Einstein) stávajú súčasťou bežného firemného softvéru.
Budúcnosť v znamení AI infraštruktúry
Shapira verí, že vstupujeme do fázy AI infraštruktúry, kde bude takmer každý obchodný nástroj obsahovať nejakú formu AI, viditeľnú alebo skrytú.
Preto je kľúčové prejsť od snahy o blokovanie AI k jej regulácii prostredníctvom:
Neustáleho monitorovania.
Prístupu s minimálnymi oprávneniami (least-privilege).
Nastavovania krátkodobých povolení.
Jedine tak môžu spoločnosti bezpečne využívať silu AI a zároveň chrániť svoje najcennejšie aktívum – dáta.
