Čína vďaka umelej inteligencii upevňuje svoj režim takmer orwellovským spôsobom, hovorí Miriam Lexmann

Jednou z tém konferencie bolo zneužívanie sociálnych médií na šírenie extrémistického obsahu. Akým spôsobom by mal podľa vás štát nastaviť etický rámec sociálnym sieťam a regulovať ich obsah?

Obsah na sociálnych sieťach má veľký vplyv najmä na mladých ľudí, ktorí nie sú pripravení na to, že si musia hľadať informácie aj mimo virtuálneho sveta. No dnes už vieme, že umelá inteligencia vďaka nastaveniu správnych algoritmov dokáže ovplyvňovať to, kedy a akým spôsobom sa k nám informácie dostanú a aký bude ich obsah. Politika umelej inteligencie nás preto stále viac zatláča do sociálnych bublín a znemožňuje nám vidieť názor opačnej skupiny ľudí.

Dnes nám v spoločnosti chýba zdravý diskurz. Súvisí to s tým, ako je nastavená celá ekonomika pozornosti. Na jednej strane je to legitímny biznis model, no na druhej strane je našou povinnosťou uchopiť tieto algoritmy tak, aby sa radikálny obsah či hoaxy nedostávali k ľuďom. Treba nato vytvoriť škálu rôznych opatrení. Jedným z nich by malo byť nastavenie algoritmov tak, aby sa nebezpečný obsah vôbec nedostával na internet, a vytváranie príležitostí na otvorený diskurz.

Nie je však prijímanie takýchto opatrení cestou k obmedzovaniu slobody slova?

Hoci si to mnohí týmto spôsobom interpretujú, nie je to tak. Prijatie týchto opatrení slobodu slova práveže ešte podporí. Ak sme ovplyvňovaní algoritmami, o ktorých nevieme, ako sú nastavené, stávame sa paradoxne oveľa viac neslobodnými. Touto reguláciou musíme práve chrániť slobodu slova a, samozrejme, umožniť, aby bol ten prejav kultivovanejší. Pritom treba tiež spolupracovať aj so spoločnosťami, ktoré sociálne siete prevádzkujú.

Reguláciou musíme práve chrániť slobodu slova a, samozrejme, umožniť, aby bol prejav kultivovanejší.

Tu však narážame na problém, že nikto nie je „majiteľom pravdy“, ktorý by určoval, ktorá informácia je pravdivá a ktorá nie. Preto sa akékoľvek regulácie v tejto oblasti zavádzajú iba veľmi ťažko. Myslím, že teraz je kľúčové zamerať sa na pochopenie toho, kto a prečo reguluje obsah, a nájsť systém na to, aby sa nezákonný obsah automaticky a okamžite z internetu sťahoval. V súčasnosti sa stretávame s tým, že právny rámec nie je dostatočne jasný a nedáva právnu istotu ani majiteľom jednotlivých webstránok, či môžu alebo nemôžu stiahnuť určitý obsah. Preto im musíme umožniť väčšiu právnu istotu, aby odstraňovanie nelegálneho obsahu bolo rýchle a účinné.

Myslím, že to sa v súčasnosti do istej miery aj deje. Problémom však je, že kým sa nejaký extrémistický obsah či hoax vymaže, medzičasom sa už dostane k miliónom ľudí…

Práve preto je veľmi potrebné nájsť nejaký mechanizmus, ktorý urýchli sťahovanie nezákonného obsahu. Musí platiť to, ako povedala profesorka Nevesová (predsedníčka Národnej rady pre etiku vo vede v Portugalsku a podpredsedníčka Európskej skupiny pre etiku vo vede a v nových technológiách v Bruseli, pozn. red.), že ak je niečo protizákonné offline, musí to byť protizákonné i online. Pokiaľ zabezpečíme právnu istotu, aby bolo úplne jasné, ktoré kroky sú legitímne a ktoré nie, môže to výrazne zrýchliť i celý proces odstraňovania nelegálneho obsahu.

Druhým veľkým rizikom využívania moderných technológií je čas, ktorý pri nich trávia deti už od útleho veku. Dalo by sa povedať, že niektoré z nich už vyrastajú do závislosti od mobilu či internetu. Nebolo by správne už deti na základnej škole oboznamovať s tým, akým spôsobom technológie správne využívať tak, aby sa stali našimi sluhami a nie pánmi?

Máte pravdu, nie je to len o regulácii nelegálneho obsahu. Nastavenie nejakého legislatívneho rámca je však v tomto prípade nereálne. My nevieme ovplyvniť, koľko času to dieťa, ale i dospelý trávi na internete a sociálnych sieťach. Je to skôr otázka kultúry prístupu k digitálnym nástrojom, ktorými je dieťa od narodenia obklopené. Kultivácia správneho prístupu sa začína už v rodinách. Ak rodičia dokážu dieťaťu regulovať čas trávený na internete, je väčšia pravdepodobnosť, že si ho neskôr dieťa bude vedieť regulovať i samo.

Zo štatistík vyplýva, že až 30 % detí a teenagerov dostalo už pozvánku, aby poslalo pasákovi fotku nahých častí svojho tela. Až 16 % z nich na túto výzvu reagovalo.

Rovnako i v školských osnovách by malo byť zahrnuté vyučovanie o zdravom prístupe k technológiám. Aktuálne napríklad spolupracujem s organizáciami, ktoré ponúkajú takéto vzdelávanie pre pedagógov, ako aj pre samotné deti. Učia sa nielen to, ako narábať so sociálnymi sieťami, ale aj to, ako rozlišovať dezinformácie a akým spôsobom vyhľadávať kvalitný obsah, ktorý deti podnieti k rozvoju kritického myslenia.

V súčasnosti je veľa rodičov znepokojených aj pre množstvo sexuálneho obsahu na internete, ku ktorému môžu mať prístup i mladiství. Čo by bolo podľa vás možné v tejto súvislosti urobiť pre ochranu detí?

Dostupnosť sexuálneho obsahu na internete považujem za jeden z najväčších problémov online sveta, ktorý vystavuje naše deti veľkej hrozbe. Zo štatistík vyplýva, že až 30 % našich detí a teenagerov dostalo už pozvánku, aby poslalo nejakému pasákovi fotku nahých častí svojho tela. Ešte alarmujúcejšie pritom je, že až 16 % z nich na túto výzvu reagovalo. Odtiaľ je potom už len krôčik k samotnému zneužívaniu. V rámci spolupráce s organizáciami, ktoré pomáhajú deťom s vyhľadávaním fundovaného obsahu, sa venujeme aj ochrane detí pred sexuálnym zneužívaním na internete. Musíme robiť všetko, čo je v našich silách, aby sme boli schopní naše deti a ich fyzickú integritu čo najlepšie ochrániť.

Umelá inteligencia je v tomto zmysle iba nástroj, ktorý dokáže najviac celoplošne ohrozovať našu bezpečnosť.

Veľké riziko nadmerného využívania internetu vidím aj v tom, že dodnes nie je závislosť od internetu oficiálne uznaná. V tomto zmysle môže preto predstavovať ešte väčšie riziko ako alkohol či drogy, pri ktorých je jasné, že človek by mal v prípade závislosti nastúpiť na liečbu. Závislosť od internetu sa akoby v spoločenskom diskurze veľmi podceňuje…

Máte pravdu a práve preto si myslím, že je dôležité mať poučených rodičov a vyškolených učiteľov, aby rozpoznali, že dieťa má nábeh na závislosť. Pri dospelom človeku by malo byť citlivé najmä okolie, ktoré by ho v prípade potreby vedelo nasmerovať na liečbu. Je to však v prvom rade na samotnom človeku, aby si uvedomil, že má s takouto závislosťou problém a chce so sebou niečo robiť.

Pomohlo by podľa vás, ak by bola táto závislosť oficiálne uznaná?

Myslím si, že áno. Jednak by sme ju mali zaradiť medzi závislosti a jednak by sme mali vymyslieť koncept efektívneho rozpoznávania príznakov a celkový systém liečby.

Dlhodobo sa venujete ľudským právam v Číne. Dokonca vás táto krajina zaradila na sankčný zoznam osôb, ktoré údajne poškodzujú čínske záujmy. Môžeme povedať, že práve Čína je príkladom toho, ako sa môže nesprávne uchopiť problematika umelej inteligencie, čím sa môže zneužiť na negatívne ciele?

Od totalitného komunistického režimu nemôžeme očakávať, že sa bude vôbec akýmkoľvek spôsobom zaoberať etickým rozmerom umelej inteligencie a jej dosahu na ľudské práva. Tie sú v Číne tak či tak pošliapavané v každodennom živote človeka aj mimo online priestoru. Skutočné nebezpečenstvo však vidím v tom, že Čína je jedným z popredných štátov vo vývoji umelej inteligencie, ktorá sa dostáva aj na náš trh. Čína vyvíja umelú inteligenciu, ktorou jednak sleduje vlastné obyvateľstvo a upevňuje totalitný režim skoro až orwellovským spôsobom, a jednak sa jej darí presadzovať svoje produkty i na európskom trhu.

Kupujeme si digitálne nástroje z Číny s tým, že nevieme, na čo sú využívané. Nevieme, či prostredníctvom nich nedokáže Čína ovplyvňovať i dianie v našej spoločnosti.

Kupujeme si digitálne nástroje z Číny s tým, že ani len netušíme, na čo sú tieto nástroje využívané. Nevieme, či prostredníctvom nich nedokáže Čína sledovať a ovplyvňovať i dianie v našej spoločnosti. Toto sú veľmi chúlostivé otázky a, žiaľ, treba povedať, že sa nimi málo zaoberáme. Najlepšou ilustráciou toho, akí sme v tejto oblasti neopatrní a neobozretní, je fakt, že komunistická strana Číny prevádzkuje minimálne 16 policajných staníc v krajinách Európskej únie. Umelá inteligencia je v tomto zmysle iba nástroj, ktorý dokáže najviac celoplošne ohrozovať našu bezpečnosť.

Akým spôsobom sa Číne darí využívať výdobytky súčasnej techniky na udržiavanie svojej mocenskej pozície?

Asi najsilnejší spôsob uplatnenia umelej inteligencie na posilnenie totalitného režimu je práve sledovanie občanov cez algoritmy rozpoznávania tváre, kde detailne vedia, kto čo robí, kedy a kde sa nachádza a akým spôsobom jeho tvár vyjadruje jeho nastavenie. Vieme, že v rámci ujgurskej menšiny, ktorú v Číne držia v koncentračných táboroch, sú všetci jej členovia takýmto spôsobom sledovaní. Pritom si však treba uvedomiť, že takéto nástroje sa vyvážajú aj k nám, čo, samozrejme, predstavuje riziko i pre nás a našu bezpečnosť. Pamätám si, že keď sa začala pandémia, do Európskeho parlamentu sme namontovali termokamery práve od firmy, ktorá na trhu dominuje vo vývoji umelej inteligencie na rozpoznávanie tvárí.

Mnohé firmy, dokonca i u nás na Slovensku, si počas pandémie namontovali kamery, ktoré mali vyhodnocovať emocionálne nastavenie človeka pracujúceho z domu.

Ešte by som pritom upozornila na jeden zaujímavý paradox. Keď sa pozriete na rôzne inštitúcie či platformy súkromného sektora, ktoré sú zahrnuté do procesu vývoja legislatívy na ukotvenie etického vývoja a aplikácie umelej inteligencie, mnohé tieto firmy sú čínske. Môžeme sa iba domnievať, aké ciele sledujú touto úpravou v legislatívnom procese. Myslím si, že je kľúčové, aby sme sa vymedzili voči tomu, aby akékoľvek firmy a súkromné spoločnosti z tretích alebo nedemokratických krajín vstupovali do procesu vytvárania našej legislatívy.

Na konferencii zároveň zaznelo, že umelá inteligencia oveľa lepšie rozpoznáva ľudské emócie ako samotní ľudia. Máte informáciu o tom, ako s týmito zisteniami pracujú v Číne, či režim využíva technológiu detegovania ľudských emócií a ako s nimi pracuje v kontexte udržiavania si moci?

Zatiaľ je to v procese vývoja, no už teraz vieme, že skúmajú spôsob, ako ovplyvňovať emocionálnu stránku ľudskej osobnosti. Neviem o tom, že by sa to už niekde konkrétne aplikovalo na udržiavanie čínskeho totalitného režimu. Ale rada by som spomenula iný príklad, zameraný na sledovanie emócií. Prednedávnom som zachytila informáciu, že mnohé firmy, dokonca i u nás na Slovensku, si počas pandémie namontovali kamery, ktoré mali vyhodnocovať emocionálne nastavenie človeka, ktorý pracoval z domu. Vyhodnocovali očný kontakt s obrazovkou počítača, emocionálne nastavenie pracovníka počas práce, ako i to, koľko času strávil pri počítači.

Po zistení týchto informácií som bola šokovaná tým, že u nás neexistuje žiadna legislatíva, ktorá by túto oblasť nejakým spôsobom uchopila. Myslím si, že je to absolútne potláčanie dôstojnosti človeka v práci. Vieme aj to, že tieto algoritmy ešte nie sú také dokonalé, že by dokázali získané dáta adekvátne vyhodnocovať. Je to však niečo, čo by malo byť kategoricky zakázané. Myslím si, že by sme mali byť veľmi pozorní na to, aké algoritmy sa nasadzujú na pracovnom trhu. Chrániť dôstojnosť človeka aj počas jeho pobytu na pracovisku by malo byť jednou z našich priorít.

Podcast k téme:

Umelá inteligencia má ľuďom slúžiť, nie nad nimi vládnuť