V roku 2022 Európska komisia navrhla nariadenie, ktorým sa stanovujú pravidlá prevencie a boja proti sexuálnemu zneužívaniu detí, nazývané „nariadenie o sexuálnom zneužívaní detí“ (‘child sexual abuse regulation’) alebo CSAR. Návrh obsahuje plány na zavedenie povinnosti skenovať šifrovanú súkromnú komunikáciu (tzv. „chat control“) s cieľom odhaliť obsah týkajúci sa sexuálneho zneužívania detí (CSAM).
Prvé verzie návrhu Komisie obsahovali požiadavky na skenovanie médií a v skutočnosti znamenajú masové sledovanie Európanov.
Plány Komisie sa nepochybne stretli s mimoriadne rozsiahlym odporom orgánov činných v trestnom konaní, IT a právnych expertov, vlád členských štátov, organizácií občianskej spoločnosti a mnohých ďalších, vrátane rôznych organizácií zaoberajúcich sa ochranou detí a osôb, ktoré prežili sexuálne zneužívanie. Z každodenných vyjadrení tých, ktorí skutočne bojujú za ochranu detí je úplne jasné, že chat control porušuje základné práva, no neprispieva k dôležitému cieľu, ktorým je samotná ochrana detí pred zneužívaním a násilím.
Rada sa medzitým napriek viacerým pokusom o dosiahnutie kompromisu nedokázala dohodnúť na stanovisku. Nedávno uniknuté dokumenty však ukazujú, že vďaka najnovšiemu kompromisu, ktorý navrhlo belgické predsedníctvo je predsa len na obzore dystopická budúcnosť.
Novinky z rady EÚ
Zatiaľ čo skenovanie textových a hlasových správ bolo v najnovšom návrhu zrušené, skenovanie vizuálneho materiálu, ako sú obrázky a videá a aj URL odkazy, zostáva zachované. V navrhovanom kompromise sa pritom vyžaduje, aby používatelia služieb, ktoré sa považujú za vysoko rizikové (ako sú napríklad šifrované messengery) „súhlasili“ so skenovaním vizuálneho obsahu a odkazov, ktoré chcú zdieľať, na účely CSAM.
Pojem „chat control“ sa pritom často používa skôr ako hovorové označenie návrhu nariadenia Komisie EÚ ako celku. Kontrola chatu v užšom zmysle je však časť návrhu, podľa ktorého môžu orgány uložiť poskytovateľom komunikačných služieb, ako je WhatsApp, povinnosť monitorovať súkromnú komunikáciu. Ide teda o mimoriadne závažné obmedzenie práva na súkromie a ochranu osobných údajov (články 7 a 8 Charty základných práv EÚ) – monitorovanie sa pritom ani zďaleka neobmedzuje len na konkrétne osoby, ktoré sú podozrivé zo spáchania trestného činu.
Povedzme si to teda polopate – nútiť používateľov, aby dali svoj „súhlas“ so skenovaním svojej komunikácie, ak chcú naďalej posielať obrázky, videá alebo dokonca adresy URL svojim priateľom, nie je ani náhodou oprávnenou formou udelenia súhlasu. Nielenže ide o neprijateľný zásah do súkromia a slobody prejavu a informácií, ale nespĺňa ani požiadavky na súhlas stanovené v iných právnych predpisoch EÚ.
Ďalšie slobody
Európsky súdny dvor už niekoľkokrát upozornil na to, že masové sledovanie má nepriamy negatívny vplyv na slobodu prejavu (článok 11 Charty základných práv EÚ) – “účastníci komunikácie nemôžu slobodne vyjadrovať svoje názory, ak si nemôžu byť istí dôvernosťou svojej komunikácie”. To sa týka najmä osôb, ktoré sú držiteľmi profesionálneho tajomstva, ako sú napr. novinári komunikujúci so svojimi zdrojmi, informátori a opoziční aktivisti. Toto nebezpečenstvo sa ešte zvýši, ak nariadenie o kontrole chatu, ako ho navrhuje Komisia EÚ, napadne spomenuté end-to-end šifrované messengery. Uvedené skupiny ľudí používajú takéto messengery z dobrého dôvodu.
Je zrejmé, že end-to-end šifrovanie nemôže jednoducho prežiť tento typ požiadavky. Ako už povedali mnohí iní predo mnou, ako spoločnosť jednoducho nemôžeme ohroziť integritu end-to-end šifrovania pre celú populáciu, aby sme mohli zastaviť menšinu zločincov.
Mimo iné, okrem vážneho narušenia súkromia občanov EÚ však môže chat control dokonca brániť úsiliu orgánov činných v trestnom konaní účinne bojovať proti sexuálnemu zneužívaniu. Vzhľadom na obrovský objem vizuálneho obsahu odosielaného prostredníctvom messengerov v EÚ by aj systémy s mimoriadne vysokou mierou detekcie, ktorá je v skutočnosti nedosiahnuteľná, viedli k množstvu falošne pozitívnych výsledkov, ktoré by spotrebovali mnohé zdroje orgánov činných v trestnom konaní.
Automatizované systémy aj ľudskí moderátori síce dokážu správne rozpoznať čistý obrazový materiál, ale často nesprávne posúdia jeho trestnoprávnu relevanciu, napr. v prípadoch, keď rodičia posielajú obrázky svojich detí lekárom alebo keď si tínedžeri navzájom vymieňajú nahé fotky.
Pokiaľ vás ďalej zaujímajú iné detaily ohľadom legislatívy EÚ a jej možných následkov, ako sú napr. povinnosti filtrovania pre poskytovateľov hostingu, prípadne povinnosti blokovania URL odkazov, nájdete ich na tomto odkaze.
Dystópia s dáždnikom s názvom “boj proti detskej pornografii”
Každému z nás, komu nie je sloboda ľahostajná by malo byť jasné, že namiesto pokračovania v zásadne chybnom prístupe kontrolovania chatov a client-side scanningu musíme podporovať opatrenia, ktoré môžu skutočne chrániť deti pred sexuálnym zneužívaním. Počas prípravy nariadenia o CSAM mnohé organizácie zaoberajúce sa ochranou detí a občianskou spoločnosťou, ktoré majú námietky voči potenciálne sa blížiacej legislatíve chat control, navrhli alternatívy na obmedzenie šírenia CSAM, ako napríklad vymazanie CSAM nájdenej online orgánmi činnými v trestnom konaní po ukončení vyšetrovania alebo navýšenie zdrojov, ktoré majú k dispozícii existujúce orgány činné v trestnom konaní a združenia občianskej spoločnosti.
Je nevyhnutné uznať, že takéto opatrenia musia rešpektovať aj základné práva samotných detí a mladých ľudí, najmä tých, ktorí čelia zvýšeným rizikám online v dôsledku príslušnosti k nejakej marginalizovanej skupine.
Osobne som hlboko sklamaný z toho, že Rada bude opäť rokovať o návrhoch, ktoré by zaviedli povinnosti týkajúce sa skenerov, a to aj v prostredí s end-to-end šifrovaním. Európska Únia sa rúti do dystopického pekla a sledovanie svojich občanov nechutne zastrešuje pod ochranu pred šírením detskej pornografie.
Teraz je čas, aby ste sa vyjadrili a oslovili zástupcov svojich národných vlád. Informujte sa o návrhu a pochopte, aký vplyv môže mať na vás, a následne informujte aj svoje okolie. Zdieľajte tento a ďalšie zdroje, ktoré máme k dispozícii, aby sme mohli pokračovať v boji za bezpečnú komunikáciu pre všetkých.
