Tomáš Halász z TrollWall: Po skrytí hejtu sa do diskusie vracajú slušní ľudia (rozhovor)

Patril k najlepším slovenským fotografom a je držiteľom niekoľkých domácich i zahraničných prestížnych ocenení. Neskôr sa venoval moderovaniu diskusií na sociálnych sieťach, kde sa často stretával s nenávistnými komentármi. Práve vtedy mu skrsla myšlienka vytvoriť umelú inteligenciu založenú na rozpoznávaní a skrývaní toxického obsahu. Dnes patrí Tomáš Halász k priekopníkom na poli kultivovania diskusií a jeho startup TrollWall si vyslúžil čerstvú nomináciu v európskej súťaži Innovation in Politics Awards 2024.

Ako ste sa od fotografovania dostali k tomu, čomu sa dnes primárne venujete?

Po invázii Ruska na Ukrajinu som sa stal súčasťou iniciatívy Kto pomôže Ukrajine a manažoval som tím, ktorý sa venoval odpovedaniu na správy a komentáre na sociálnych sieťach. Najprv sme dostávali podporné správy, otázky od ľudí, čo utekali pred vojnou, alebo ponuky na pomoc. Neskôr však pribudli aj nenávistné komentáre, ktoré sme skrývali ručne. Je dokázané, že dlhodobé čítanie nenávistných komentárov a prejavov má negatívne dôsledky na ľudí. Strácajú dôveru v spoločnosť, mávajú zlé sny a iné psychologické následky. Preto si myslím, že by tento typ práce nemali dlhodobo robiť ľudia, ale umelá inteligencia. A tak sme s kolegami vytvorili tím, ktorý začal pracovať na jej vzniku.

Ako dlho vám to trvalo?

Nástroj sme začali vyvíjať v roku 2022, a keď bol dostatočne funkčný, dali sme ho na testovanie mimovládnym organizáciám so zameraním na ekológiu a ľudskoprávne aspekty. Po vražde pred Teplárňou sme ho ponúkli aj LGBTI organizáciám a krátko nato aj generálovi Petrovi Pavlovi, ktorý v tom čase kandidoval na prezidenta. A keď sme v roku 2023 videli, že je po tejto službe dopyt, založili sme TrollWall. Teraz vo februári to bude rok. 

Na akom princípe funguje TrollWall?

Ide o nástroj umelej inteligencie, ktorá v diskusiách na sociálnych sieťach automaticky skrýva nenávistné vulgarizmy a príspevky, útočné komentáre aj vyhrážky. Toxické príspevky tak neodstraňuje, pre autorov a niekedy aj ich priateľov sú stále viditeľné. Pre všetkých ostatných sú však nedostupné, čím sa zvyšuje úroveň diskusie, do ktorej sa zapája viac slušných ľudí. Administrátor vidí všetky príspevky, môže skontrolovať rozhodnutia umelej inteligencie, a keď to uzná za vhodné, môže príspevky obnoviť.

Hejt kedysi znamenal pokrik na kravy alebo kone. Aká je dnes definícia hejtu?

Hejt definujeme na základe medzinárodných definícií nenávistného prejavu (pozn. hate speech). Ide o nepriateľské prejavy voči osobe alebo skupine osôb na základe ich identity, charakteristiky či rasovej príslušnosti, vierovyznania, sexuálnej orientácie a pod. V TrollWalle sme k tomu pridali vulgarizmy a toxický jazyk, teda to, čo sa vo vyspelej spoločnosti nepovažuje za slušné. Hejtom nie je kritika ani opačný názor, pokiaľ je napísaný slušnými slovami. 

Bolo zložité naučiť umelú inteligenciu odlíšiť nenávistný prejav od metafory, citácie, iných slovných spojení?

Kŕmenie umelej inteligencie (AI) prebiehalo tak, že sme zobrali stovky tisícov komentárov zo slovenského a českého Facebooku, ktoré sme dali označiť našim spolupracovníkom „anotátorom“. Tí označili, či sú tieto komentáre v poriadku, pričom každý komentár musel prejsť minimálne troma ľuďmi, ktorí sa nezávisle od seba museli na hodnotení zhodnúť, aby sme sa vyhli osobným predsudkom alebo nestabilite výsledkov. Až tieto dáta sme dali AI na trénovanie a vďaka nim dnes po prečítaní komentára chápe, či spadá pod hejt alebo nie. Tento proces neustále zlepšujeme a dopĺňame o nové dáta.

Keď napíšem, že mám doma potkana, tak AI chápe, že ide o zviera. Keď napíšem o ľuďoch, že sú potkani, tak je to forma dehumanizácie.

Ľudia na sociálnych sieťach používajú aj vulgarizmy, ale nie vždy ide o hejt. Ako ste sa vysporiadali s týmto fenoménom?

Umelá inteligencia rozlišuje kontext. Keď napíšem o sebe, že som idiot, lebo som kúpil zlé auto, tak je to v poriadku. Ale keď niekto označí za idiota niekoho len preto, lebo volí istú politickú stranu, to už v poriadku nie je.

Koľko percent príspevkov sa dá označiť ako hejt?

Teší nás, že je to menší obraz spoločnosti. Robili sme analýzu slovenského Facebooku, kde sme monitorovali vyše 400 stránok z rôznych oblastí života – športové kluby, inštitúcie, politické strany, médiá, alternatívne médiá, lifestyle – s cieľom získať všeobecný obraz o komentároch. V prvej analýze sme preverili pol milióna komentárov, v druhej až 7 miliónov komentárov, z čoho vyšlo, že priemerný počet nenávistných komentárov predstavuje 13 percent. I tak ide o dosť vysoké číslo, ktoré je ešte vyššie pod špecifickými stránkami. 

Ktoré stránky lákajú hejterov?

Percentuálne najviac nenávistných komentárov je pod príspevkami dezinformačných médií, ale v absolútnych číslach je najviac komentárov, a tým aj hejtov, pod stránkami mienkotvorných médií, ako sú veľké televízie a denníky. Tu má moderovanie diskusie, ale aj jeho absencia veľký vplyv na spoločnosť. 

Takže nemoderovaná diskusia sa automaticky stáva semenišťom nenávisti?

Spolu s agentúrou Seesame sme spustili iniciatívu #bezhejtu, ktorá je bezplatnou iniciatívou, do ktorej sa môžu pripojiť všetky inštitúcie, médiá, firmy a zaviazať sa, že budú moderovať svoje sociálne profily a nedajú priestor hejtu. Je na nich, či to budú robiť manuálne alebo s pomocou akéhokoľvek nástroja. Preto môžeme povedať, že po trištvrte roku fungovania iniciatívy, do ktorej sa zapojilo už viac ako 130 inštitúcií a firiem, ako aj prezidentka Zuzana Čaputová či Policajný zbor SR, majú 1,9 % hejtu, keď diskusie moderujú, oproti štandardným 13 %. Dlhodobé moderovanie má vplyv na úroveň diskusie, lebo sa do nej opäť vracajú slušní ľudia. 

Čo môže očakávať značka, keď nechá komentárom voľný priebeh?

Problematické je, keď stránka na hejty nereaguje vôbec. Vzniká tak zlá povesť, lebo keď značka nechá, aby slušným diskutujúcim niekto nadával, už sa nevrátia. Porovnajte si to s tým, že keby teraz niekto vošiel do kaviarne a začal nadávať jej majiteľovi, ten ho má právo vyhodiť pre dobro svojich slušných zákazníkov.  

Ako spoločnosť by sme sa mali viac sústrediť na ľudí, ktorí napíšu svoj názor, s ktorým síce nemusíme súhlasiť, ale napĺňa atribúty slušnej diskusie.

Viete zadefinovať, kto je typický hejter?

Keďže nespracúvame osobné dáta diskutujúcich, nepoznáme ich profily. Percento hejtu je však stabilné. Nás ale aj tak nezaujímajú konkrétni ľudia, len konkrétne komentáre. Každý z nás sa môže nechať strhnúť a vtedy komentár „za hranicou“ skryjeme, no človek sa môže kedykoľvek vrátiť do diskusie.

Existujú však aj notorickí hejteri. Sú to reálni ľudia?

Platí zásada, že každý má právo na názor, ale nikto nemá právo na nenávisť. Falošné profily sú už dnes sofistikované, no drvivú väčšinu hejtu i tak píšu reálni ľudia. Ide o bežnú časť spoločnosti, ktorá sa takto vyjadruje. Viac muži ako ženy. 

Máme viac nenávistných komentárov v porovnaní so zahraničím?

Dáta nám ukazujú, že medzi Slovenskom a Českom či inými európskymi krajinami nie je veľký percentuálny rozdiel. U nás je smutné, že hejt je normalizovaný zhora a že prejavy, ktoré by si politik nedovolil v iných štátoch, si dovolí na Slovensku a jeho voliči ich reprodukujú a ťahajú do extrému. 

Na aké témy najviac reagujú?

Z analýzy vieme povedať, že ľudia najviac hejtujú pri politike a spravodajstve. Všetky spravodajské a mediálne stránky majú najviac hejtu. Čo sa týka osôb, tak veľkým cieľom je pani prezidentka Zuzana Čaputová, ktorej tím používa TrollWall. Hejty priťahujú témy ako vojna na Ukrajine, LGBTI, slovenská politika. Veľa nenávistných komentárov je aj pod príspevkami firiem. U hejterov rezonuje aj elektromobilita a solárne panely. Hoci ide o vysoko odbornú tému, láka ľudí, ktorí sa potrebujú vyventilovať a nadávajú firmám, ktoré sa venujú tomuto segmentu. Bohužiaľ, našli sme aj ľudí, ktorí sa pohádali pod receptami.

Aký je rozdiel medzi manuálnym moderovaním a využitím AI?

Ručné moderovanie má niekoľko obmedzení, lebo človek má určitý pracovný čas a životný rytmus. Vďaka TrollWallu majú naši klienti ochranu 24/7, teda aj v čase, keď spia či oddychujú cez víkend. Z analýzy nám vychádza, že veľa hejtu pribúda medzi jednou a štvrtou hodinou v noci. To sú ľudia, ktorí v noci nespia.

Dá sa s hejterom slušne diskutovať?

Podľa mňa záleží od toho, kde si nastavíme hranicu. My sme presvedčení o tom, že diskutovať s človekom, ktorý má nenávistný prejav, praje niekomu smrť, guľku do hlavy či vyhostenie z krajiny, nemá zmysel. Lebo prípadnou diskusiou s ním len zvyšujeme jeho hodnotu na úroveň, o ktorej sa dá polemizovať. Ale o ľudských právach sa nediskutuje. Ako spoločnosť by sme sa mali viac sústrediť na ľudí, ktorí napíšu svoj názor, s ktorým síce nemusíme súhlasiť, ale napĺňa atribúty slušnej diskusie. 

Slovenská spoločnosť je dnes rozdelená na dva tábory, konzervatívcov verzus liberálov, „mainstream“ verzus „dezolátov“ a podobne. K tomu patrí aj hanlivý slovník. Ako viete odlíšiť, čo je ešte v norme? 

Podľa našich smerníc pojmy libtard, skratka zo slovného spojenia liberálny retard, alebo dezolát, keď ide o hanebné označenie ľudí na základe ich politického názoru, považujeme za nevhodné do slušnej diskusie. Naopak, slovo slniečkar nepovažujeme za nadávku. Všetko však závisí od kontextu. Keby slovo liberál alebo konzervatívec malo hanlivý prívlastok, už by išlo o hejt, ktorý AI skryje. 

Prekvapilo vás v tejto súvislosti nejaké slovo, ktoré ste predtým neradili medzi toxické? 

Zaujímavý prípad bol, keď pán Majerský použil slovo pliaga v televíznej diskusii. Dovtedy nám tento pojem nevyskakoval bežne. Nárast bol enormný, začali ho používať tisíce ľudí. V rámci TrollWallu máme preto dnes nastavené, že pliaga ako hanebné označenie skupiny osôb je forma dehumanizácie a spadá pod hate speech. Nerozlišujeme, či to bolo použité voči LGBTI komunite alebo proti skupine osôb kresťanského vierovyznania, pánovi Majerskému, alebo KDH, stále je to forma dehumanizácie, ktorá v minulosti viedla napríklad k holokaustu. Ide o ukážkový príklad, keď politik priniesol nové slovo do hejtu.

Je teda použitie slova pliaga v jeho pravom zmysle nesprávne?

Vôbec nie, lebo TrollWall vie, keď je jeho použitie namieste. Keď napíšem, že mám doma potkana, tak AI chápe, že ide o zviera. Keď napíšem o ľuďoch, že sú potkani, tak je to forma dehumanizácie. Rovnako je to s pliagou. Keď sa trebárs povie, že alkohol je pliaga spoločnosti, je to v poriadku. 

Spomínali ste pani prezidentku Zuzanu Čaputovú, ktorá je terčom nenávistného prejavu. Ako si to vysvetľujete?

Zaiste to súvisí s tým, že má vysoké postavenie v spoločnosti, a prezidenti všade vo svete musia strpieť nejakú formu slovných útokov. U pani prezidentky je však toho podstatne viac a vychádza to zo psychológie vnímania žien v politike. Z dát vyplýva, že je na ne oveľa viac útokov ako na mužov, u ktorých sa menej rieši ich výzor či rodinný stav. Ako sa hovorí, na mužov sa útočí za ich postoje, na ženy za to, že existujú. Dobre to bolo vidieť na živej diskusii Zuzany Čaputovej a Petra Pavla na sieťach Denníka N, kde sme zaznamenali až 30 % hejtu. AI ho však skrývala v priebehu pár sekúnd.

Za moderovanie diskusie na profile českého prezidenta Petra Pavla ste boli nominovaní na európsku cenu Innovation in Politics Awards 2024. Ako sa spätne pozeráte na vaše pôsobenie v jeho prezidentskej kampani?

Keď sme začali spolupracovať s volebným tímom Petra Pavla tri mesiace pred voľbami, v tom čase mal o niečo menej ako 10-tisíc komentárov týždenne. Už vtedy museli administrátori riešiť 2 až 3 hodiny denne iba komentáre, čo nebolo dlhodobo udržateľné. Použitím AI sa odstránilo 20 % komentárov, ktoré boli nenávistné či vulgárne, pričom nezáležalo na tom, či voči jednému alebo druhému kandidátovi. Okrem toho, že si administrátori ušetrili čas, podarilo sa im udržať pozitívny tón kampane a diskusiu v štandardnej rovine. Napokon, keď pribúdalo viac ako 100-tisíc komentárov týždenne, nikto by to nestíhal moderovať. Sme vďační kampaňovému tímu, že bol pionierom v politickej kampani. Vďaka tomu sa TrollWall stal nástrojom, ktorý sa dnes používa bežne. 

Koľko profilov dnes spravujete?

Na Slovensku spravujeme vyše 100 profilov na sociálnych sieťach, ďalšie v Česku a čoskoro aj v Poľsku. Chránime trebárs profily veľkých firiem, ako je O2, či renomovaných agentúr, tiež bezplatne podporujeme desiatky mimovládnych organizácií, ktoré sú často cieľom hejtu istej skupiny politikov.

Je dokázané, že dlhodobé čítanie nenávistných komentárov a prejavov má negatívne dôsledky na ľudí.

Aká je vaša vízia do budúcnosti?

Momentálne sme vo fáze expandovania do Poľska a na iné veľké európske trhy. AI máme vytrénovanú na lokálne jazyky. Primárne sa sústredíme na Facebook, kde je najviac hejtu, ale spravujeme aj Instagram. Paralelne pracujeme na moderovaní na sieti YouTube a najmä na TikToku, ktorý výrazne zvulgárnel. Bohužiaľ, na sociálnych sieťach sa stalo normou nadávať, vyhrážať sa, pričom mladá generácia len opakuje tento vzorec. 

Máme nádej zvrátiť tento neblahý jav?

Verím, že áno. Vidíme to z analýz pri veľkých udalostiach, akými sú voľby či nedávny útok na Karlovu univerzitu. Z našich dát vyplýva, že čím viac ľudí diskutuje, tým viac slušných ľudí diskutuje. Počet hejterov je stabilný. V bežný deň sa slušní ľudia radšej nezapájajú do diskusie pre hejt, ale keď sa priestor vyčistí od nenávisti, aj sociálne siete sa môžu stať miestom dialógu.