Algoritmy online sveta nás optimalizujú na emócie, nie na pravdu

Digitálna manipulácia

My ľudia máme praveké emócie, stredoveké inštitúcie a božskú technológiu. A práve tento nepomer síl na čele s technológiami vyvíjajúcimi sa závratnou rýchlosťou, ako doposiaľ žiadna iná oblasť ľudského úsilia, sú podľa Josefa Holého dôvodom, prečo vo vzťahu k nim musí dochádzať k napätiu.

Jednou z oblastí, na ktorú majú technológie obrovský vplyv, je ľudské správanie, ktoré sa dá veľmi ľahko manipulovať. Človek si väčšinou myslí, že je racionálna bytosť, opak je však podľa Holého pravdou.

„Každý neurovedec vám dnes povie, že sme emocionálne bytosti a rozhodujeme sa na základe podvedomia, ktoré je súhrnom všetkých skúseností, reklám, prípadne toho, čo nám povedali naši priatelia,“ konštatuje.

V súčasnosti dochádza k manipulácii nášho chovania na základe veľkého množstva dát a zahltenia informačného priestoru množstvom informácií. Aby bola takáto digitálna manipulácia efektívna, je podľa Holého potrebné vyprodukovať veľa informácií, musia sa opakovať a musia byť zasadené do správneho kontextu.

„Ak vám budem opakovať, že americké firmy vyvíjajú vakcíny s cieľom zničiť ľudstvo, tak si o mne mimo pandémie asi budete myslieť, že som blázon. Počas pandémie sme však videli, že takéto správy padali na úrodnejšiu pôdu. Kontext je preto veľmi dôležitý,“ dodáva.

Od gatekeepers k voľnej distribúcii obsahu a demokratizácii kultov

Dôležitú úlohu v súčasnom nastavení zohrala podľa Holého predovšetkým zmena informačného priestoru. Ten pred približne dvoma desaťročiami fungoval na princípe tzv. gatekeepers (v preklade strážcov), ktorými boli vysielacie centrá či redakcie. Ich úlohou bolo starať sa o kvalitu informácií, odpovedať na kvalitatívny štandard a obsah následne centrálne púšťať určitej časti populácie. Médiá, ktoré mali aj túto distribučnú funkciu, sú už dnes iba tvorcami obsahu a distribútorom sa, ako prízvukuje mnoho odborníkov, stal algoritmus sociálnych sietí.

Nie je žiadnym tajomstvom, že jeho úlohou je udržiavať ľudskú pozornosť čo najdlhšie v prostredí sociálnych platforiem. Z tohto dôvodu zacieľuje na používateľov reklamu, ale aj personalizovaný obsah, ktorý je vytvorený na základe poznatkov o ľudských aktivitách, teda na základe nášho behaviorálneho profilu. Výsledkom takéhoto pôsobenia môže byť nielen to, že sa používatelia začnú uzatvárať do bublín, ale takto nastavená infraštruktúra tiež umožňuje bubliny vytvárať.

„Dobrý operatívec alebo analytik na druhej strane dokáže takúto bublinu vytvoriť, kultivovať a radikalizovať, pretože mu takto nastavená infraštruktúra pomáha. Na ľudí, ktorí sa do takejto bubliny dostanú, si už potom môže zacieliť, čo chce. Platforma totiž medzi reklamou a dezinformáciami nerozlišuje,” vysvetľuje český odborník na umelú inteligenciu. Dodáva tiež, že vďaka týmto digitálnym nástrojom sa nám zdemokratizovali nástroje na vytvorenie kultu.

„V minulosti potreboval človek na zabezpečenie kultu osobnosti dostať pod kontrolu určitý štát. Musel sa z neho stať diktátor, ktorý by monopolizoval informačný priestor. Potreboval jednoducho patent na pravdu. Dnes si vďaka umelej inteligencii môže vlastný kult vytvoriť takmer ktokoľvek,“ opisuje Holý.

Ako príklad uvádza kult QAnon, ktorý prirovnáva ku konšpiračnej metateórii. Tej v USA uverilo až 15 % ľudí naprieč politickým spektrom a aj vďaka médiám ako Fox News sa jej rôzne podnaratívy dostali do najširšej populácie. Kult z neho podľa Holého robí aj skutočnosť, že mal vlastného lídra – Donalda Trumpa, ktorý bol podľa hnutia QAnon bojovníkom svetla nastoľujúcim svetový poriadok.

Ďalším kultom podľa Holého je fenomén kryptomien, ktorý stojí na úplne rovnakom princípe. „Mesiášom v tomto prípade je Satoshi Nakamoto, neznámy človek alebo skupina ľudí, ktorí vymysleli bitcoin. Tento kult je postavený na emóciách, zvlášť na pocite strachu, že nám ujde vlak, a viere, že porastie v skutočnosti nereálna hodnota meny, kde koluje približne len 10 % skutočných peňazí,“ objasňuje odborník. Kult kryptomien pritom podľa neho nijako netají svoj odpor k tradičným štruktúram štátu.

S kultom osobnosti sa podľa Josefa Holého môžeme stretnúť dokonca aj u kontroverzného Elona Muska, ktorý je jedinou chodiacou reklamou spoločnosti Tesla a má za sebou aj bohatú históriu manipulácie s trhom.

Svet zredukovaný na kód

Problém Elona Muska, ako aj zakladateľov globálnych sociálnych platforiem vidí Josef Holý v tzv. silicon valley culture (preložené voľne ako kultúra zo Silicon Valley), ktorá verí, že sa dá všetko vyriešiť pomocou kódu, respektíve algoritmu.

„Títo ľudia, z ktorých mnohých vyhodili zo Stanfordu, pričom sú to ľudia s geniálnymi programovacími schopnosťami, ale bez minimálnej životnej skúsenosti a pochopenia spoločnosti, často s aspergerovým syndrómom, zameriavajúci sa len na jednu metriku, podliehajú tzv. libertariánskej technoutópii. Teda viere, že celý svet sa dá zredukovať na informácie. Najdôležitejším cieľom je maximalizácia slobody jednotlivca a minimalizácia synchronizácie prostredníctvom štátu. Takýmto spôsobom budujú náš sociálny systém a pozerajú sa na nás ešte viac redukcionisticky, než sa na našu spoločnosť pozerali centrálni plánovači v období komunizmu,“ vysvetľuje Holý.

Je čas pozrieť sa algoritmom na zuby

V posledných rokoch sme boli svedkami viacerých kritických situácií, keď sa algoritmy súkromných firiem zahrávali nielen s osudmi jednotlivcov, ale aj jednotlivých demokratických krajín. Mnohí odborníci preto začali volať po prísnejšej regulácii. Aj podľa Josefa Holého je kľúčové začať sa pýtať, ako by sa spoločnosť mohla podieľať na ich tvorbe.

„My vlastne ani nevieme, ako algoritmy fungujú. Pozeráme sa na ne ako na čiernu skrinku. Vytvárame si korelácie a z nich odvodzujeme kauzalitu, ale vôbec nevieme, koľko ľudí sleduje nejaký konkrétny obsah či dezinformácie. Koľko mladých dievčat je vystavených nevhodnému obsahu na Instagrame, pretože je to know-how danej firmy.”

V tomto zmysle preto víta krok k väčšej transparentnosti na európskej úrovni v podobe legislatívneho návrhu k balíku zákonov The Digital Service Acts, ktorý by modernizoval smernice týkajúce sa nezákonného obsahu, transparentnej reklamy a dezinformácií. Stále sa však podľa neho musíme vo vzťahu k umelej inteligencii pýtať, kto tieto algoritmy vlastní a na čo ich optimalizuje, keďže do týchto procesov často vstupuje aj politika.

„Umelá inteligencia nám nastoľuje mnoho otázok. Jednou z nich je napríklad relevancia. Ako rozlíšime, že to, čo nám hovorí stroj, je správne, a z akých dát sa to naučil? Inou otázkou môže byť, ako dosiahneme, aby sa algoritmus optimalizoval na pravdu a nie na naše emócie?“

Tieto veci si podľa Josefa Holého potrebujeme ako spoločnosť vykomunikovať. V opačnom prípade budeme čeliť synchronizačnému problému. „V okamihu, keď nás budú algoritmy rozdeľovať na základe emócií a budeme naďalej vstupovať do kryptokultov, popových kultov a politických kultov, len veľmi ťažko sa nám podarí zvíťaziť nad takým výsostne koordinačným problémom, akým je napríklad klimatická zmena, kde budeme potrebovať kolektívnu akciu,“ dodáva Holý.

Ilustračné obrázky: pexels.com