Hate speech: prejav, čo napáda či ponižuje, čo iniciuje a povzbudzuje nenávisť voči skupinám na základe špecifických charakteristík ako je sexuálna orientácia, pohlavie, národnosť, etnický pôvod, vierovyznanie a iné. Vyskytuje sa vo forme rôznych jazykových štýlov. Môže sa skrývať za pokusmi o humor a satiru [1].
Internet umožňuje svojim užívateľom obrovskou rýchlosťou zdieľať a šíriť informácie. Hoci okamžitý prístup k informáciám je v mnohým prípadoch vítaný, často neriadené šírenie správ predstavuje potenciálne nebezpečenstvo. Nenávistného obsahu na internete, tzv. online hate speech, je stále viac. Nedostatočná kontrola obsahu napomáha šíreniu falošných správ, nenávistných prejavov či zoskupovaniu a rastu radikálnych a extrémistických skupín. Online hate speech sa často koncentruje najmä na sociálnych sieťach. Ukážkovým príkladom sú facebookové stránky a skupiny.
Väčšinu facebookových skupín šíriacich nenávisť nemožno na prvý pohľad rozpoznať. Často sa skrývajú za tradičné hodnoty, vlastenectvo, slobodu slova alebo sa prezentujú ako fanúšikovské stránky jednotlivých politických strán či hodnôt. Prvotný filter pre žiadateľov o členstvo predstavuje dotazník, ktorého obsah často napovie, aký zámer sa za vytvorením určitej facebookovej skupiny v skutočnosti skrýva.
Stala som sa členkou niekoľkých desiatok facebookových skupín, ktoré som považovala za potenciálne nenávistné či extrémistické. V niektorých prípadoch bolo moje prvotné presvedčenie neopodstatnené a skupina sa ukázala ako neškodná. Nasledujúcich niekoľko dní som strávila sledovaním množstva príspevkov a komentárov jednotlivých užívateľov i adminov konkrétnych skupín.
Online hate speech zahŕňa široké spektrum slovnej, no napríklad i grafickej formy nenávisti. Napriek obšírnosti pojmu sa podarilo definovať najfrekventovanejšie atribúty vzbudzujúce nenávisť na sociálnych sieťach. Patria k nim rasa, správanie, fyzický vzhľad, sexuálna orientácia, spoločenská vrstva, etnicita, pohlavie či vierovyznanie [2].
Ja som sa na facebookových skupinách najčastejšie stretávala práve s nenávisťou namierenou voči menšinám žijúcim na Slovensku, cudzincom, migrantom a konkrétnym politickým predstaviteľom. Častým úkazom bolo tiež zosmiešňovanie žien a ľudí inej sexuálnej orientácie.
Uzavreté facebookové skupiny poskytujú ideálny priestor pre nekontrolovateľne sa šíriacu nenávisť na internete. V mnohých prípadoch stačila malá rozbuška a pod článkom s nepravdivou informáciou sa v priebehu niekoľkých minút objavila záplava nenávistných komentárov. Na “klasické nadávky”, ako som ich sama začala nazývať, si človek chtiac-nechtiac časom zvykne. Pri pohľade na slová ako “postrieľať”, “utopiť” či “háveď” v súvislosti s iným človekom však vyslovene mrazí.
Čo ľudí motivuje tak intenzívne a často bez obalu dávať najavo svoj hnev, nespokojnosť a nenávisť práve na sociálnych sieťach?
V prvom rade samotné sociálne siete poskytujú užívateľom istú záruku anonymity. Nie je zložité založiť si falošný účet či prispievať pod cudzím menom. Politicky nekorektné a radikálne názory sú v uzavretých facebookových skupinách podobného zmýšľania vítané. Užívateľ nemusí mať obavy, že za svoje postoje bude okolím súdený. Sociálna štruktúra uzavretej skupiny výrazne znižuje riziko nahlásenia či zablokovania užívateľa za nenávistné prejavy. Málo pravdepodobná je aj konfrontácia osobou s opačným názorom, ktorej by užívateľ v živej debate nemusel argumentačne stačiť. Podpora a súhlas zoskupenia podobne zmýšľajúcich jedincov sú jedny z hlavných lákadiel zapojenia sa do nenávistných diskusií na sociálnych sieťach.
Patriť do určitej skupiny a môcť sa považovať za súčasť celku je prirodzené ľudskej povahe. Na počiatku tak môže byť jednoducho túžba osamelého a nešťastného človeka surfujúceho po internete niekam zapadnúť. V prípade, že nenachádza potrebnú oporu vo svojom okolí, ľahko môže sklamaný a frustrovaný nájsť útechu na nenávisť šíriacich či radikálnych skupinách [3].
Zarážali ma najmä profily užívateľov, ktorí bez okolkov navrhli znásilnenie ženy ako edukačný prostriedok. Často profilom takýchto ľudí dominovali fotografie rodiny, detí a vnúčat. Na ich profiloch som našla množstvo citátov o láske, porozumení a mieri, koláže kvetov a anjelov. Pokiaľ by som na tento typ facebookového profilu bez ďalšieho kontextu narazila, dotyčného človeka by som s najväčšou pravdepodobnosťou považovala za dobrosrdečného, láskavého a citlivého. Práve takéto vlastnosti mu isto pripisujú členovia rodiny na zverejnených fotografiách. Ako ale môže niekto, kto kladie lásku k blížnemu na popredné miesto, bez badateľných prejavov emócií písať o vraždení a znásilňovaní?
Vyjadriť svoj postoj prostredníctvom sociálnych sietí je efektívny a lacný spôsob šírenia nenávisti a radikálnych názorov medzi širokým publikom v rekordne krátkom čase. Prakticky akýkoľvek komentár má potenciál stať sa virálnym a nekontrolovateľne sa šíriť po internete. Táto skutočnosť pôsobí veľmi príťažlivo najmä pre človeka, ktorého spoločnosť odmieta vypočuť.
Facebookové skupiny inklinujúce k radikálnym názorovým presvedčeniam majú možnosť cez sociálne siete budovať a kontrolovať svoj obsah aj imidž. Stránky pôsobia často konvenčne až mainstreamovo. Na prvý pohľad sa môže zdať, že sa jedná o prejav hrdosti k vlastnému národu či fanúšikovskú základňu politickej strany. Kamuflážou radikálnych skupín býva zdieľanie nevinných a nesúvisiacich príspevkov, objavujúcich sa medzi hoaxami o blížiacej sa americkej armáde. Grafická úprava jednotlivých skupín sa pohybuje na úrovni od jednoduchého loga po prepracované koláže. Obsahovo prakticky totožné stránky odlišuje jazyková štylizácia a gramotnosť jej moderátorov. Za touto diverzitou sa väčšinou skrýva jediný cieľ a to osloviť čo najširšie publikum.
Podľa výskumu zverejneného v Oxford Handbook of Internet Psychology sú hlavné ciele skupín propagujúcich nenávisť a extrémistické názory prepájať, vzdelávať, naverbovať [4].
Sociálne siete sú ideálnym miestom na interakciu neznámych ľudí vzdialených stovky kilometrov. Dôsledné prepojenie skupín navzájom i s pochybnými webmi poskytuje užívateľom dennodenne dávku neoverených a polopravdivých informácií. Pokiaľ sa jedná o hlavný informačný zdroj užívateľa, členovia facebookových skupín nevidia dôvod zdieľaným príspevkom nedôverovať. Jednotlivé facebookové skupiny sú často prepojené medzi sebou, ich admini navzájom komunikujú a varujú sa pred prípadnými narušiteľmi harmonického chodu danej skupiny. Množstvo linkov medzi skupinami podobného zmýšľania i pochybnými webmi vytvára husto popretkávanú sieť odkazov a článkov. V prípade nahlásenia a zablokovania jednej skupiny za nenávistné prejavy či nepravdivé informácie sa jej admini i väčšina obecenstva bez problémov presunú na spriatelenú stránku. Tam pokračujú v pôvodnej činnosti. Novú facebookovú skupinu možno vytvoriť za pár minút a kontrolovať obsah všetkých komentárov v reálnom čase je prakticky nemožné.
Ako však identifikovať v záplave online hate speech komentáre predstavujúce riziko? Ako rozlíšiť nenávistné, no v konečnom dôsledku neškodné komentáre od reálnych vyhrážok a hrozieb? Je síce relatívne jednoduché identifikovať užívateľov prejavujúcich záujem o násilné ideológie. Zároveň je ale nesmierne náročné správne a dostatočne rýchlo odhaliť, ktorí užívatelia predstavujú skutočnú hrozbu. Podľa expertov z The International Centre for the Study of Radicalisation and Political Violence (ICSR) sa pri vyhodnocovaní potenciálne nebezpečného užívateľa prihliada na tri hlavné kategórie. Sú nimi vplyv, expozícia a interaktivita. Tendencia užívateľa začínať nové vlákna komentárov, počet zdieľaných príspevkov a miera interakcie s ostatnými udávajú celkové skóre. Čím vyššie skóre bolo jednotlivým užívateľom namerané, tým väčšie potenciálne riziko daný užívateľ predstavoval [5].
Samotný termín online hate speech je relatívne nový pojem. Jeho relevantosť však rastie priamo úmerne so zvyšujúcou sa mierou využívania internetu a sociálnych sietí. Napriek snahe o pochopenie šírenia nenávisti a radikalizácie cez online médiá máme k dispozícií príliš málo údajov na vyvodzovanie nespochybniteľných záverov. Na otázku, akým spôsobom najúčinnejšie proti nenávistným prejavom bojovať, doposiaľ nejestvuje jednoznačná odpoveď. Psychológovia i analytici, skúmajúci tento fenomén, si uvedomujú závažnosť problému. Najnovšie výskumy ponúkajú niekoľko možných riešení rozpoznávania a eliminácie nenávistných príspevkov.
Nenávistného obsahu na internete pribúda a väčšina pokusov sociálnych médií odstrániť ho nie je úspešná. V boji proti online nenávisti sa využívajú dve hlavné stratégie, mikro a makro prístup. Mikro prístup spočíva v identifikácii jednotlivca. Makro prístup sa snaží o odstránenie celej ideológie. Plošný blok môže byť z krátkodobého hľadiska úspešný, naráža však na viaceré komplikácie. Tzv. online hate ecology, spoločenstvo stránok a užívateľov šíriacich nenávisť a interagujúcich navzájom, je v prípade makro prístupu schopné rýchlo sa adaptovať na novú situáciu. V prípade zablokovania väčšej platformy sa užívatelia zhromaždia na spriatelenej stránke. Prepojenie skupín urýchľuje regeneračný proces celého spoločenstva. Makro prístup bol ostro kritizovaný za obmedzovanie slobody prejavu. Medzi porušením práva na slobodu vyjadrovania a elimináciou nenávistných prejavov na internete je veľmi tenká hranica [6].
Východisko poskytuje tzv. counterspeech. Pod týmto termínom si možno predstaviť protipól k online hate speech či akýsi nárazník proti nenávistným komentárom. Counterspeech dosahuje viditeľne lepšie výsledky v porovnaní s nenávistným obsahom, vrátane väčšieho počtu zdieľaní a dosahu. So zvyšujúcim sa počtom užívateľov šíriacich nenávistné prejavy pribúda množstvo anti-hate aktivistov. Práve ich činnosť môže mnohé online platformy postupne neutralizovať. Hoci údajov je k dnešnému dňu málo, dostávame pomerne jasnú odpoveď. Má zmysel komentovať nenávistné príspevky. Má zmysel pokúšať sa debatovať či viesť na prvý pohľad bezpredmetné diskusie. Aj keď sa nedarí presvedčiť či uzemniť konkrétneho užívateľa, counterspeech prispieva k celkovej neutralizácii problematickej platformy [7].
Jedným z problémov eliminácie online hate speech je nedostatočná rýchlosť mazania príspevkov. Príspevky bývajú odstránené často dodatočne, čím stihnú napáchať škodu a ovplyvniť mienku čitateľov. Nedávny výskum prichádza s novou stratégiou v boji proti nenávistným prejavom na internete. Jedná sa o dočasné zablokovanie nenávistných príspevkov za pomoci automatických hate speech detektorov. Príspevky automaticky vyhodnotené za potenciálne nenávistné sú hneď po svojom zverejnení zachytené detektormi a presunuté do dočasnej karantény. Následne moderátori sociálnych sietí vyhodnotia ich obsah a zvážia odstránenie či opätovné zverejnenie. Takýto prístup kontroly je príkladom etickej online bezpečnostnej technológie. Efektívne blokuje nevhodné príspevky a zároveň neohrozuje slobodu vyjadrovania. Je však dôležité uvedomiť si, že online hate speech zahŕňa širokú škálu vyjadrovacích prostriedkov. Okrem písaného textu sa nenávisť po sociálnych sieťach šíri vo forme obrázkov, zvuku či gestikulácie. Kontext príspevku je často rozhodujúci a súčasné automatické detektory nemajú šancu rozpoznať všetky šikovne skryté hrozby [8].
Stojíme na počiatku dlhého a zdanlivo nekonečného boja s nenávistnými a extrémistickými prejavmi na internete. Sociálne siete poskytujú aj naďalej ideálne prostredie na rozvoj a šírenie radikálnych názorov a ideológií, verbovanie nových sympatizantov či propagáciu nenávisti voči konkrétnym skupinám na základe nepodložených a falošných správ. Tak, ako sa vyvíja naše poznanie o podstate online hate speech, jednotlivé internetové spoločenstvá sa prispôsobujú novej situácii, navzájom sa prepájajú a využívajú stále vynaliezavejšie prostriedky na komunikáciu a šírenie nenávisti.
Je dôležité neustále pracovať na zlepšení detekcie a eliminácie nenávistných prejavov. Aj keď sa to niekedy zdá bezvýznamné, má zmysel pokúšať sa s užívateľmi na sociálnych sieťach komunikovať a viesť diskusie. Nás to nezabije a možno svojou troškou prispejeme k vyčisteniu nenávistnej online žumpy.
A to za to stojí.
_______________
[1] P. Fortuna and S. Nunes, “A survey on automatic detection of hate speech in text,” ACM Comput. Surv., vol. 51, no. 4, 2018, doi: 10.1145/3232676.
[2] L. Silva, M. Mondal, D. Correa, F. Benevenuto, and I. Weber, “Analyzing the targets of hate in online social media,” Proc. 10th Int. Conf. Web Soc. Media, ICWSM 2016, no. June, pp. 687–690, 2016.
[3] P. B. Gerstenfeld, D. R. Grant, and C.-P. Chiang, “Hate Online: A Content Analysis of Extremist Internet Sites,” Anal. Soc. Issues Public Policy, vol. 3, no. 1, pp. 29–44, 2003, doi: 10.1111/j.1530-2415.2003.00013.x.
[4] A. N. Joinson, K. McKenna, T. Postmes, U. Reips, eds., "Oxford Handbook of Internet Psychology", Oxford University Press, 2009.
[5] J. M. Berger and B. Strathearn, “Who Matters Online: Measuring influence, evaluating content and countering violent extremism in online social networks,” no. March, 2013.
[6] N. F. Johnson et al., “Hidden resilience and adaptive dynamics of the global online hate ecology,” Nature, vol. 573, no. 7773, pp. 261–265, 2019, doi: 10.1038/s41586-019-1494-7.
[7] B. Mathew et al., “Thou shalt not hate: Countering online hate speech,” Proc. 13th Int. Conf. Web Soc. Media, ICWSM 2019, no. Icwsm, pp. 369–380, 2019.
[8] S. Ullmann and M. Tomalin, “Quarantining online hate speech: technical and ethical perspectives,” Ethics Inf. Technol., vol. 22, no. 1, pp. 69–80, 2020, doi: 10.1007/s10676-019-09516-z.
