Umelá inteligencia začína byť súčasťou našich životov v čoraz väčšej miere. Kde sa s ňou môžeme stretnúť?

Umelú inteligenciu dnes nájdeme či už v telefónoch, počítačoch, ale aj v práci. Aká je jej história?

Umelá inteligencia začína byť súčasťou našich životov v čoraz väčšej miere. Kde sa s ňou môžeme stretnúť?
Garry Kasparov po prehre s Deep Blue. (Zdroj: ft.com)
Písmo: A- | A+
Diskusia  (0)

O umelej inteligencii nám porozprával doktor Ján Magyar z Katedry kybernetiky a umelej inteligencie na Technickej univerzite v Košiciach.

Umelá inteligencia v súčasnosti umožňuje strojom v rámci ich možností istú formu rozhodovania sa, spoznávanie reči, riešiť problémy, automatizuje úlohy a mnoho ďalšieho. Aké boli jej počiatky?

Čo sa týka počiatkov, tak historicky ľudstvo ako také už dlhšiu dobu riešilo nejakým spôsobom automatizáciu alebo vytvorenie inteligentného stroja, ktorý by sa nejakým spôsobom vyrovnal ľuďom.

SkryťVypnúť reklamu
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou

Ako o vednej disciplíne hovoríme od päťdesiatych rokov. V roku 1956 bola konferencia, kde vznikol pojem umelá inteligencia. V päťdesiatych rokoch sa výskumníci zamerali najmä na spracovanie reči, spracovanie textu. Tam boli prvé pokusy o strojový preklad alebo aj na interakciu, pretože to bolo prvotným cieľom alebo meradlom inteligencie. Vtedy vnímali, že stroje budú inteligentné vtedy, keď budú môcť viesť diskusiu, interakciu s človekom.

Konkrétne chatboty prišli v šesťdesiatych rokoch, kedy bol významný program Elisa. Tento systém fungoval na základe veľmi jednoduchých pravidiel, kde zopakoval alebo jednoducho reagoval na podnety od ľudí, čo mu človek napísal. Elisa bola terapeutka, psychoterapeutka, ktorá reagovala formou otázok na takéto podnety.

SkryťVypnúť reklamu

Tam zistili, že diskusia nemusí byť až taká dokonalá, aby ľudia začali vnímať stroj ako inteligentný alebo ako rovnocenného partnera v tej interakcii. To bol prvý významný chatbot.

Z prvých programov môžeme spomenúť aj program pre hranie „Dámy“ ako zjednodušenej verzie šachu. Ten program je často považovaný za prvý program s umelou inteligenciou.

Zaujímavý prípad z pomerne nedávnej minulosti je z roku 1997, keď počítač Deep Blue porazil šachového majstra Garryho Kasparova. Aký je celý príbeh tejto hry a stretnutia?

Hry boli zaujímavým cieľom vo vývoji umelej inteligencie, pretože najmä šach bol považovaný za jedinečne ľudskú aktivitu, ktorá vyžaduje veľkú mieru ľudskej inteligencie. Práve preto vznikli nejaké základné systémy. Stroje mali tú výhodu, že dokázali vyhodnocovať omnoho viac možných situácií za sekundu viac, ako človek.

SkryťVypnúť reklamu

Takto fungoval aj počítač Deep Blue, že rádovo niekoľko miliónov možných pozícii dokázal vyhodnotiť v priebehu pár sekúnd. Bol inšpirovnaný aj výzvou z roku 1980. Jeden profesor, Edward Stretkin, založil finančnú odmenu za počítačový program, ktorý dokáže poraziť úradujúceho majstra v šachu.

Prvý zápas mali v roku 1996. Tento zápas Garry Kasparov vyhral. Odvetu hrali v roku 1997. Tam len tak-tak vyhral Deep Blue. Tam sa ukázalo, v čom je iný človek ako stroj, pretože v prvej hre v tom zápase došlo k zlyhaniu programu. Program sa zacyklil.

V takýchto prípadoch bol počítač inštruovaný vybrať si náhodnú akciu. On si vybral náhodnú validnú akciu, čo Kasparov vnímal ako prejav nadmiernej inteligencie. Celé to rozhodilo jeho hru. Potom už nebol tak sústredený, čo ovplyvnilo jeho výkon v ďalších zápasoch a hrách.

SkryťVypnúť reklamu

Čo je ešte zaujímavé, je uvedomiť si, že v tom zápase Deep Blue dokázal vyhrať, iba ak začal hru a hral s bielymi figúrkami.

Trvalo ďalšie dva roky, kým prišiel počítačový program, ktorý dokázal poraziť majstra v šachu, aj keď hral s čiernymi figúrkami.

V súčasnosti delíme umelú inteligenciu na slabú a silnú/všeobecnú. Aké sú medzi nimi rozdiely?

Poďme od tej slabej, ktorá je typická dodnes. Slabá umelá inteligencia, aj keď ten názov je trochu mätúci, znamená, že máme systém, ktorý dokáže veľmi efektívne a veľmi dobre riešiť jednu úlohu. Tá inteligencia je špecifická pre riešenie konkrétnej úlohy, čiže nedokáže vyriešiť širokú škálu problémov.

To je už súčasťou alebo typickou charakteristikou silnej umelej inteligencie, ktorá by dokázala viac rôznorodých problémov vo vysokej miere alebo na vysokej úrovni.

Všeobecná umelá inteligencia by bola taká umelá inteligencia, ktorá by sa vyrovnala ľudskej inteligencii v každej úlohe, ktorú dokážeme my ľudia riešiť. Čiže to sú základné typy.

Dnes slabá umelá inteligencia je jediné, čo máme. Sú úsilia a výskumy v oblasti vývoja všeobecnej umelej inteligencie.

V ktorých oblastiach sa najviac využíva umelá inteligencia?

Tu vidíme nesúlad medzi tým, kde sa robí výskum a kde sa umelá inteligencia používa. Čo sa týka výskumu, tak najmä v posledných desaťročiach sa skôr zameral na automatizáciu výrobných procesov. To vidíme dodnes, že vo fabrikách sú roboty inteligentnejšie a dokážu vyriešiť širšiu škálu úloh a procesov.

Okrem toho vo výskume je veľký dôraz na využitie umelej inteligencie v zdravotníctve, hoci výsledky týchto výskumov možno nie sú aplikované až tak v reálnom svete. Sú na to špecifické prípady. Tam vidíme, že vo výskume viac prevažuje zdravotníctvo, aj keď v aplikáciách až tak nie.

Čo sa týka aplikácií, tam sa ľudia dennodenne stretnú najviac s umelou inteligenciou napríklad v marketingu, čiže pri personalizovaných reklamách. Tam to naozaj vidíme každý deň na všetkých webstránkach.

Takisto sa to používa pre rozpoznávanie reči a pre automatické editovanie textov. Ide o oblasti, kde sa to najviac využíva. V rámci výskumov je však zdravotníctvo najtypickejšou oblasťou.

Spomína sa, že nahradí niektoré druhy prác, ktoré vyžadujú monotónnu prácu, napríklad s tabuľkami. Na druhú stranu postupne prináša nové druhy povolaní. O ktoré povolania ide? Čím sú špecifické?

Doteraz platilo o technologických pokrokoch, že nepriniesli neprimeranú mieru zrušenia alebo straty prác. Na druhej strane umelá inteligencia, keď bude stále vyspelejšia a vyspelejšia, tak bude mierny rozdiel v tom, že doteraz, aj keď prišla nová technológia, tak niektoré druhy prác síce zanikli, vznikli však nové druhy práce, v ktorých boli aplikovateľné tie isté zručnosti, ktoré boli potrebné pre pôvodné práce. To znamená, že keď niekto napríklad prišiel o prácu kvôli automatizácii, vedel sa znova veľmi rýchlo uplatniť na pracovnom trhu. S príchodom umelej inteligencie sa očakáva, že umelá inteligencia bude posúvať hranicu zručností, ktoré sú potrebné na uplatnenie sa na pracovnom trhu, stále vyššie a vyššie.

Nové druhy povolaní, ktoré vidíme dnes, sú skôr na vývoj umelej inteligencie alebo na použitie umelej inteligencie. Napríklad s príchodom jazykových modelov prišlo nové povolanie, úloha - Prompt engineering. To znamená, že potrebujú v niektorých prípadoch ľudí, ktorí veľmi efektívne dokážu pracovať s týmito jazykovými modelmi, ako napríklad ChatGPT. Tu vidíme, že nejde o to, že by nám umelá inteligencia uľahčila prácu. Skôr ide o to, že umelá inteligencia je nástroj, ktorý sa musíme naučiť používať efektívne. Čiže tam sú práce zatiaľ v takomto duchu.

Čo sa očakáva v budúcnosti, je to, že sa umelá inteligencia uplatní na takých pozíciách, kde firmy majú motiváciu a iniciatívu – vedia ušetriť najviac. Práve preto paradoxne sa neočakáva, že by umelá inteligencia ohrozovala napríklad najmonotónnejšie práce, čo sa týka v rámci fyzických prác.

Skôr bude ohrozovať, ak sa to dá takto povedať, také typy prác, ktoré sú skôr administratívne alebo vyžadujú nižšiu mieru kognitívnych aktivít zo strany ľudí. Napríklad čo dnes vidíme, je trend, že customer service ide do automatizácie, kde interagujeme s chatbotmi alebo aj keď si zavoláme na zákaznícku linku, tam nás nevíta človek, ale automatizovaný hlas, automatizovaný bot.

Očakáva sa teda, že sa umelá inteligencia uplatní na takýchto pozíciách. Ľudia môžu viac robiť skôr práce, ktoré umelá inteligencia ešte nedokáže vyriešiť a majú sociálny aspekt alebo kde je interakcia, napríklad starostlivosť o ľudí alebo vzdelávanie.

Umelá inteligencia nám potom umožní sa viac venovať úlohám alebo povolaniam, ktoré dnes nie sú až tak dobre finančne ohodnotené, na druhej strane však majú veľmi vysokú hodnotu pre spoločnosť.

Zároveň súčasná umelá inteligencia dokáže vytvárať umelecké diela, hoci sa v nich ešte môžu objaviť chyby. Na druhú stranu ohrozuje prácu umelcov alebo im prináša výhody?

Tam si treba uvedomiť, že umelá inteligencia je čisto len nástroj. Nové formy umenia sú také, ktoré sa niekomu páčia, niekomu nie. Z pohľadu toho hodnotenia, tak je to rovnako nástroj ako napríklad počítač. Aj s príchodom počítačov vznikli nové formy najmä hudby ale aj iných foriem umenia. Umelá inteligencia len zefektívni prácu.

Čo sa týka umenia, toho by som sa veľmi nebál, že umelá inteligencia úplne nahradí napríklad umelcov, hoci tá kreativita sa tam dá napodobniť. Nám, keď si užívame umenie alebo kultúru, tak nejde len o to, že je to krásne alebo sa nám to páči, ale chceme tam vnímať niečo skutočné, emočné, ľudské. Stále však budeme vedieť, že stroj emócie nemá alebo neprežíva ich tak, ako ich prežíva človek. Umenie, ktoré bude vytvorené umelou inteligenciou bez zásahu človeka, asi nebude mať pre nás takú istú hodnotu.

Na druhej strane, čo sa týka predstavení, tak pridaná hodnota je v tom, že hudbu hrá taký istý človek, ako sme my. Vďaka tomu, že dlhé roky trénoval a zdokonaľoval sa v danej disciplíne, dosiahol úroveň, ktorá je pre nás nepredstaviteľná. Stále však vnímame, že keďže je taký istý človek, ako sme my, tak aj my by sme mohli hrať hudbu na takej úrovni. Znova vidíme podobnosť alebo ľudskosť, ktorú prežívame aj my. To umelá inteligencia zatiaľ nemá.

Istý problém je zneužívanie umelej inteligencie na tvorbu konšpiračných teórií, hoaxov a dezinformácií. Nakoľko vážny je tento problém?

Čo sa týka nárastu takýchto konšpiračných teórií, možno nejde o kvalitu, že by hoaxy boli na vyššej úrovni, viac uveriteľné alebo viac ohrozujúce ako doterajšie. Skôr ide o to, že cez umelú inteligenciu sa to dá robiť na väčšej škále.

To znamená, že na jednom počítači dokážeme vygenerovať toľko obsahu, ktoré už nedokážeme kontrolovať cez fact-checking alebo cez podobné bežné metódy. Problém je teda v tom, že jedna umelá inteligencia alebo jeden systém umelej inteligencie dokáže zahltiť celé sociálne siete.

Rieši sa aj to, že vývoj umelej inteligencie, ktorá by dokázala rozoznať hoaxy a dezinformácie. Pri takomto riešení hrozí to, že tí dvaja agenti – jeden, ktorý generuje hoaxy a druhý, ktorý ich má odhaliť – sa budú  navzájom podporovať v zmysle, že keď už bude existovať systém, ktorý efektívne dokáže rozoznať hoax, tak ten systém môže byť využitý na trénovanie agenta, ktorý bude môcť vygenerovať ešte dôveryhodnejšie hoaxy, správy a obsahy.

Taktiež je využívaná pri rôznych podvodoch. Aké podoby majú tieto podvody?

Zatiaľ tam nevidíme diametrálny rozdiel oproti tým existujúcim podvodom. Skôr ide o to, že umelá inteligencia umožňuje nové formy alebo spôsoby robenia tých istých podvodov. V prípade spam e-mailov cez jazykové modely dokážeme vygenerovať omnoho dôveryhodnejšie a realistickejšie správy.

Môžu byť využité napríklad na phishing, čiže na získanie osobných alebo prístupových údajov. Takisto už deepfake technológie, čiže generovanie dôveryhodného ľudského hlasu, môžu byť využité napríklad na telefonické útoky a podvody. Tie sú najtypickejšie a najbežnejšie pre dnešnú dobu.

V čom spočívajú výhody využívania umelej inteligencie v doprave, zdravotníctve a energetike?

Najčastejšie sa umelá inteligencia používa na optimalizáciu existujúcich riešení a infraštruktúr. Cieľom je tiež eliminácia ľudskej chybovosti, čo napríklad v doprave môže priniesť bezpečnejšiu cestnú premávku. Dnes sme na úrovni, kde sú autonómne vozidlá za istých okolností bezpečnejšie ako ľudskí šoféri.

V rámci zdravotníctva ide o to, že keď potrebujeme vyhodnocovať vzorky alebo záznamy, vieme to urobiť v omnoho väčšom počte, ako doteraz. Umelá inteligencia dokáže vyhodnotiť vzorku za zlomok času, ktorý by potreboval odborník. Na druhej strane umelá inteligencia stále funguje s rovnakou mierou spoľahlivosti, únava nehrá žiadnu rolu v porovnaní s človekom.

V energetike sa umelá inteligencia používa najmä na predpovedanie a predikciu spotreby. Napríklad elektrická sieť môže byť včas pripravená pre väčšiu spotrebu, čo sa očakáva z nejakých dôvodov na ďalší deň alebo týždeň.

Aké výhody prináša umelá inteligencia ľuďom v bežnom živote?

Závisí to od toho, v akých aktivitách ju ľudia najviac používajú. Dnes platí, že sa uplatnila najmä v IT odboroch – využívajú ju najmä programátori. Zatiaľ nedošlo k tomu, že by umelá inteligencia zásadne zmenila ich prácu, ale vďaka umelej inteligencii dokážu efektívnejšie pracovať.

V bežnom živote to zatiaľ zažívame skôr nepriamo. Spomínal som rôzne optimalizácie, napríklad v prípade donášky, tak už niekoľko rokov platí, že ich trasy sú optimalizované umelou inteligenciou, aby došlo k minimalizácii spotreby paliva a času donášky.

U bežného človeka ide o dennodenné úlohy, napríklad robotický vysávač sa stáva súčasťou stále viac domácností. Na druhej strane jazykové modely nám umožňujú veľmi rýchlo napísať a vygenerovať text na základe pár bodov alebo editovať už existujúci text. To sú typické príklady a výhody využitia komerčných riešení s umelou inteligenciou.

Na druhú stranu, na aké detaily si musia používatelia dávať pozor pri jej využívaní?

Treba si uvedomiť, že umelá inteligencia je iba nástroj a robí aj chyby. Aktuálne riešenia sú iba matematické modely, ktoré fungujú na základe najväčšej pravdepodobnosti, čiže robia typické veci. Práve preto, keď chceme niečo veľmi špecifické, napríklad od jazykového modelu, možno sa nedočkáme takej odpovede, ktorú by sme očakávali.

Problémom môže byť aj to, že súčasné modely nám chcú dať odpoveď za každú cenu, aj keď tú odpoveď nevedia. Niekedy si vymyslia odpoveď, najmä čo sa týka jazykových modelov. Stále treba byť opatrný.

Čo by som vyzdvihol, je to, že vnímajme umelú inteligenciu ako nástroj. Nie ako samotné riešenie našich problémov, ale ako nástroj, ktorý nám dokáže pomôcť pri riešení jednotlivých problémov. Tieto nástroje treba používať kriticky a aby sme vedeli, čo od nich očakávame.

Vo vede existujú prípady, kedy umelá inteligencia vyriešila výskumy a problémy behom maximálne pár dní, ktoré by ľuďom trvali niekoľko rokov až desaťročí. Aké výhody z jej využívania plynú celkovo? Aké obmedzenia má vo vede?

Hlavná výhoda je to, že v niektorých prípadoch dokáže efektívnejšie spracovať dáta alebo vykonať nejaké experimenty. V IT odbore, keď vyvíjame riešenia, dnes sa dá použiť umelá inteligencia na generovanie kódu, ktorý len mierne potrebujeme upraviť. Tam prichádza k vyššej efektivite.

Vo vede je to veľmi špecifická oblasť, kde ju vieme použiť. Napríklad stále nám nevygenerujú validné riešenia nových problémov. Tiež vidíme, že v prípade rozhodovania alebo uvažovania má umelá inteligencia nevýhody. Aj tie najvyspelejšie jazykové modely dodnes nedokážu vyriešiť logické hádanky na rovnakej úrovni, ako ľudia. Je to jednoducho z toho dôvodu, že my ľudia máme implicitné vedomosti, ktoré berieme ako samozrejmosť a nemusíme ich vyslovovať alebo formovať v samotných úlohách. Umelá inteligencia takéto predpoklady nemá.

Obmedzenia má najmä v uvažovaní. Kreativita často spočíva len v kombinácii dvoch existujúcich vecí novým spôsobom. Aj tá skutočná ľudská kreativita je veľmi zriedkavá. V umelej inteligencii je kreativita na nižšej úrovni, ako ľudská kreativita. Umelá inteligencia dokáže vygenerovať hypotézy alebo prvotné nápady, ktoré potom človek musí ďalej rozvinúť. Skôr teda ide o spoluprácu.

Vo vede asi najväčší prínos je to, že umelá inteligencia dokáže veľmi rýchlo vyhodnotiť existujúcu literatúru. Odborná literatúra sa generuje takou rýchlosťou, že človek to nemá šancu vnímať a všetko si prečítať. Umelá inteligencia môže byť nápomocná tým, že veľmi rýchlo dokáže dať človeku dobrý a podrobný prehľad existujúceho stavu riešenia.

Aké sú jej výhody a nevýhody vo vzdelávacom procese?

Existujúce výskumné aktivity majú za cieľ využiť umelú inteligenciu pre personalizáciu vzdelávacieho procesu. Bolo dokázané, že sa človek učí najefektívnejšie vetdy, keď úlohy, s ktorými sa stretne, sú prispôsobené jeho súčasnému stavu vedomostí.

Ide o oblasť, kde umelá inteligencia môže byť nápomocná, pretože to vieme robiť na väčšej škále. Učiteľ nemá kapacitu na to, aby prispôsobil výučbu dvadsiatim, tridsiatim študentom. Umelá inteligencia by to dokázala urobiť.

Sú tam samozrejme aj obmedzenia, ako napríklad sociálny aspekt. Vzdelávací proces by nemal byť len o tom, že chceme dostať študenta na istú úroveň. Musíme brať do úvahy aj jeho emočný stav, motiváciu a ďalšie aspekty, ktoré umelá inteligencia zatiaľ nedokáže navnímať.

Pravdepodobnejší vývoj bude taký, že príde k spolupráci učiteľa, ktorý ako človek rieši sociálny aspekt vzdelávacieho procesu. A potom bude hrať nejakú úlohu umelá inteligencia, ktorá bude riešiť iba samotný vzdelávací proces a jeho objektívne ciele.

Samostatnou kategóriou umelej inteligencie je superinteligentná umelá inteligencia. Čím sa vyznačuje?

Keď sa vrátime k porovnaniu slabej a silnej umelej inteligencie, tak superinteligencia by bola ďalším krokom. Je to taká umelá inteligencia, ktorá je lepšia ako človek buď v jednej alebo viacerých oblastiach. Niekde to už vidíme, ale nejde o vylepšenia na úrovni niekoľkých magnitúd. Zatiaľ je umelá inteligencia o čosi lepšia ako priemerný človek, a často nie v kvalite ale v rýchlosti.

Čo sa týka superinteligencie, tak tá umelá inteligencia by mohla pristupovať k úlohe úplne iným spôsobom, ako ľudia a práve preto by ho dokázala riešiť efektívnejšie.

Hlavná výhoda strojov je, že dokážu vykonať omnoho viac operácií ako človek za istý čas. Na druhej strane to nedokážu robiť efektívne, pretože ľudský mozog v porovnaní s počítačom funguje omnoho efektívnejšie.

Môže prísť k takej forme superinteligencie, kde prepojíme tie dva typy - biologickú a umelú inteligenciu – a budú takýmto spôsobom spolupracovať.

Ďalší typ superinteligencie je tzv. kolektívna, kde by sme spojili niekoľko agentov, ktorí samostatne nie sú až tak dobrí, alebo sú približne na ľudskej úrovni, ale kombináciou ich fungovania by sme dokázali dosiahnuť vyššiu presnosť alebo výkon ako dokáže bežný človek.

Akým spôsobom fungujú algoritmy umelej inteligencie?

Máme tam niekoľko algoritmov. V dnešnej dobe sa najčastejšie používa tzv. deep learning teda hlboké učenie, čo je typ strojového učenia. To znamená, že počítaču dáme veľmi veľa príkladov, že ak „Toto je vstup.“, tak „Toto má byť výstup.“. Umelú neurónovú sieť natrénujeme takým spôsobom, aby vedela, že keď príde „Takýto vstup.“, tak „To má dať na výstup.“. K tomu však potrebujeme obrovské množstvo dát, milióny až miliardy príkladov.

Model potom funguje čisto na základe pravdepodobnosti. Keď vezmeme jazykový model, tak on začne generovať text a vždy vyberie nasledujúce slovo na základe pravdepodobnosti. Je to podobné tomu, akoby sme niekoho počúvali a chceli by sme uhádnuť, čo bude jeho nasledujúce slovo alebo veta. Ako keby sme sa snažili dokončiť jeho myšlienky. To je základný princíp fungovania jazykových modelov.

Všeobecne neurónové siete fungujú na základe skúseností, ktoré nazbierali počas trénovania. Potom dokážu s vysokou pravdepodobnosťou povedať, čo bude najpravdepodobnejší výstup vzhľadom na vstup.

Ako vnímate to, že Európska únia má snahu regulovať umelú inteligenciu?

Regulácia je určite potrebná, najmä čo sa týka údajov. Rýchly vývoj umelej inteligencie, ktorého sme svedkami, bol umožnený dostupnosťou veľkého množstva údajov. Je však dôležité, aby sme chránili osobné údaje a celkovo údaje, ktoré o nás zbierajú rôzne firmy.

Na druhej strane treba aj to povedať, že takáto regulácia môže brzdiť vedu a výskum v tejto oblasti. V ideálnom stave by sme to rozdelili, aby bola regulácia slabšia vo vývojovej fáze. Keď príde ku komerčným riešeniam alebo k nasadeniu vytvorených systémov na väčšej škále v spoločnosti, tak tam by bola potrebná regulácia.

Je niečo ďalšie, čo chcete odkázať čitateľom?

Berme umelú inteligenciu ako nástroj, ktorý nám môže pomôcť, v konečnom dôsledku je ale na nás, ako ju budeme využívať, a aby sme neverili všetkému, čo umelá inteligencia povie. Potrebujeme byť kritickí a využívať túto technológiu na to, aby nám pomáhala s vecami, ktoré sa nám nechce robiť a dala nám priestor na robenie vecí, ktoré nás zaujímajú a napĺňajú.

Daniel Bíro

Daniel Bíro

Bloger 
  • Počet článkov:  81
  •  | 
  • Páči sa:  294x

Som chalan, ktorého baví písanie článkov a poviedok. Príležitostne napíšem aj nejakú tú báseň. Vo voľnom čase sa venujem aj fotografovaniu. Počas päťročného štúdia na vysokej škole som sa venoval 4 roky písaniu a sčasti aj foteniu v časopise Atteliér, kde som sa venoval hlavne kultúre a histórii, sčasti napríklad aj psychológii a vyvracaniu konšpiračných teórií, hoaxov a dezinformácií. V rámci fotografie som rok navštevoval predmet Žurnalistická fotografia a tri roky som navštevoval Ateliér komunikácie v médiu fotografie. Zoznam autorových rubrík:  NezaradenáHistóriaFotografiaZaujímavostiRozhovoryTipy na výletMestské legendy

Prémioví blogeri

Post Bellum SK

Post Bellum SK

89 článkov
Monika Nagyova

Monika Nagyova

299 článkov
Radko Mačuha

Radko Mačuha

214 článkov
Pavol Koprda

Pavol Koprda

10 článkov
Yevhen Hessen

Yevhen Hessen

35 článkov
Martina Hilbertová

Martina Hilbertová

50 článkov
reklama
reklama
SkryťZatvoriť reklamu