Ak chcete dostávať pravidelné informácie o nových článkoch, knihách alebo o inom obsahu z nášho portálu, prihláste sa na odber našich newsletterov.
Čo sa stane so spoločnosťou, v ktorej ľudskú komunikáciu nahradia konverzácie s chatbotmi? Kde budeme namiesto skutočného umenia počúvať skladby vyprodukované algoritmami a v ktorých oblastiach sa realita stane natoľko ohrozujúcou, že z nej budeme unikať do virtuálneho sveta? A aký vplyv to bude mať na deti, ktoré v ňom vyrastú?
Práve tieto otázky stáli v centre konferencie Tá (obludná?) sila AI, ktorá spojila teológov, filozofov, pedagógov aj odborníkov na moderné technológie, aby sa spoločne zamysleli nad tým, ako AI mení náš každodenný život.
O umelej inteligencii z rôznych perspektív hovorili teológ a filozof Stephen Williams, odborník na integráciu AI do vzdelávania Roman Baranovič, lektor a tréner mäkkých zručností Peter Guštafík a teológ, kultúrny analytik a filozof Andrzej Turkanik.
„Toto nie je problém AI. Je to náš problém. Máme krízu antropológie – nevieme, kto sme, a nevieme, kam ideme,“ povedal Andrzej Turkanik.
Roman Baranovič otvoril prednášku „stredovekým“ vtipom: mnísi stoja pred traktorom a pýtajú sa, ako sa podarilo zavrieť démona do stroja. Podľa neho sa podobná logika objavuje aj dnes v mnohých debatách o ChatGPT.
Veľké jazykové modely totiž nerozumejú svetu, nepoznajú pravdu a neuvažujú spôsobom, akým uvažuje človek. Fungujú na princípe štatistickej pravdepodobnosti – predpovedajú, aké slovo bude s najväčšou pravdepodobnosťou nasledovať po tom predchádzajúcom.
Aj takzvané halucinácie preto nie sú chybou systému, ale prirodzeným dôsledkom toho, ako sú modely trénované. „Keď Claude odpovedá prívetivo a empaticky, nie je to jeho rozhodnutie. Je to rozhodnutie ľudí, ktorí ten model nastavovali,“ zdôraznil.
Dôležitú rolu hrá podľa Baranoviča aj jazyk, ktorým o umelej inteligencii hovoríme. Slovo inteligencia evokuje osobu – niekoho, kto chápe, cíti a rozhoduje sa. A keď niečo pôsobí ako osoba, začíname sa k tomu ako k osobe aj správať.
Chatbot sa tak pre mnohých stáva nielen nástrojom, ale aj poradcom, spoločníkom či dôverníkom. Za presvedčivou komunikáciou však nestojí vedomie ani porozumenie, ale systém trénovaný na miliardách textov.
Na záver svojho vstupu Baranovič pripomenul, že podobné otázky ľudstvo riešilo aj pri iných technologických zlomoch. Keď sa v 15. storočí objavila kníhtlač, kresťanský svet ju prijal ako nástroj šírenia poznania.
Časť moslimského sveta ju, naopak, odmietala ako neprípustnú mechanickú reprodukciu posvätného textu. Dôsledky tohto rozhodnutia sa podľa historikov prejavovali celé stáročia. „Problémom nie je démon v technológii. Problém je v ľudskom srdci, ktoré ju používa,“ dodal Baranovič.
Stephen Williams sa počas celej prednášky vracal k C. S. Lewisovi a jeho knihe The Abolition of Man (v češtine vyšla pod názvom Zničení člověka, pozn. red.). Lewis už počas druhej svetovej vojny varoval pred civilizáciou, ktorá technologicky rastie, no zároveň stráca presvedčenie, že existuje objektívny morálny poriadok, ktorý sme si sami nevytvorili.
Dnes však táto otázka prestáva byť len čisto filozofickou úvahou. Williams upozornil na dokument britského a nemeckého ministerstva obrany, ktorý uvažuje o prepájaní umelej inteligencie s ľudským mozgom s cieľom zvýšiť bojové schopnosti vojakov – vrátane schopnosti fungovať bez spánku či zabíjať bez pocitu viny.
Tvorcovia dokumentu sami uznávajú, že nábožensky založení ľudia budú mať s týmto prístupom problém, pretože mení samotné chápanie ľudskej prirodzenosti. Williams ďalej upozornil, že nejde len o technologické „vylepšovanie“ človeka.
Ľudstvo sa stáročia definovalo cez rozum a poznanie. Potom prišla AI a toto presvedčenie začala spochybňovať.
Podľa neho za tým stojí ešte hlbšia otázka: „Má mať zbraň autonómiu? Môžeme delegovať rozhodovanie o ľudských životoch na algoritmus?“
Ako príklad uviedol drony, ktoré už dnes dokážu po vstupe do určitej oblasti samostatne vyhodnocovať situáciu a rozhodovať bez priameho zásahu človeka. Stačí sa pozrieť na vojnu na Ukrajine – umelá inteligencia dnes zásadne mení spôsob vedenia vojny a hranica medzi ľudským a strojovým rozhodnutím sa každým mesiacom posúva.
Debata o AI preto nie je len debatou o technologickom pokroku. Stáva sa debatou o tom, čo vlastne ešte znamená byť človekom. „Ľudstvo sa stáročia definovalo cez rozum a poznanie – práve schopnosť premýšľať nás odlišovala od všetkého ostatného. Potom prišla AI a toto presvedčenie začala spochybňovať,“ vysvetlil.
V tejto súvislosti spomenul prípad z vedeckého prostredia, v ktorom výskumníci dlhodobo hľadali protilátku proti konkrétnej baktérii. Keď úlohu zadali AI, systém nielenže našiel riešenie, ale dospel k nemu spôsobom, ktorý samotní vedci nedokázali spätne pochopiť.
A práve tu sa objavuje jedna z najhlbších otázok celej technologickej revolúcie: Ak už človeka nedefinuje intelekt, čo ho vlastne definuje?
Pre kresťanskú tradíciu odpoveď neleží v schopnostiach, výkone ani efektivite, ale v ľudskej dôstojnosti, ktorú nemožno technologicky vyrobiť, vylepšiť ani naprogramovať. Debata o umelej inteligencii sa preto stáva debatou o tom, čo považujeme za nenahraditeľne ľudské.
Táto otázka pritom nemá len filozofické dôsledky. Mení aj každodenné vzťahy medzi ľuďmi. Williams sa odvolal na sociálnu psychologičku Sherry Turkleovú z Massachusettského technologického inštitútu (MIT), ktorá vo svojej knihe Alone Together opisuje generáciu ľudí neustále prepojených cez technológie, no zároveň čoraz menej pripravených na konflikt, neistotu a zraniteľnosť reálnych vzťahov.
Technológia totiž ponúka komunikáciu bez rizika odmietnutia či nepríjemnej reakcie druhého človeka. A možno práve v tom spočíva najväčší paradox celej debaty o umelej inteligencii.
Stroje dnes dokážu komunikovať čoraz prirodzenejšie, pohotovejšie a empatickejšie. Čím viac však začínajú pripomínať človeka, tým naliehavejšou sa stáva otázka, čo robí ľudskú blízkosť nenahraditeľnou.
Peter Guštafík sa vo svojej prednáške vrátil k filozofovi Martinovi Buberovi a jeho knihe Ja a ty z roku 1923. Buber v nej rozlišuje dva základné spôsoby, akými človek vstupuje do vzťahov „ja – ono“ a „ja – ty“.
Vzťah „ja – ono“ je funkčný. Druhého človeka v ňom vnímame cez jeho úlohu, výkon alebo užitočnosť. Takto funguje veľká časť moderného sveta – školy, úrady, pracovné prostredie aj technológie. Buber tento typ vzťahu neodmietal, no upozorňoval, že človek nedokáže žiť iba v ňom.
Vzťah „ja – ty“ vzniká vo chvíli skutočného stretnutia – keď druhého človeka prestávame vnímať ako objekt a začíname ho vnímať ako osobu. Práve tu podľa Guštafíka vzniká jedna z najväčších otázok umelej inteligencie.
Technológia totiž ponúka komunikáciu bez rizika odmietnutia či nepríjemnej reakcie druhého človeka.
AI totiž podľa neho výborne funguje vo svete „ja – ono“. Dokáže analyzovať texty, organizovať informácie, pripravovať testy, opravovať úlohy, generovať spätnú väzbu či výrazne zrýchľovať administratívu. Samotná technológia teda nemusí byť problémom a v mnohých oblastiach môže učiteľom výrazne pomôcť.
Riziko však podľa Guštafíka vzniká vo chvíli, keď začne nahrádzať priestory, v ktorých človek nepotrebuje efektivitu, ale pozornosť a vzťah. Najsilnejšie to ilustroval na výskume, v ktorom dve skupiny študentov dostali identickú spätnú väzbu na svoju slohovú prácu. Jednej povedali, že ju napísal človek, druhej, že AI.
Obsah spätných väzieb bol rovnaký. Reakcia nie. Študenti, ktorí verili, že ich text čítal reálny človek, boli výrazne motivovanejší ďalej na sebe pracovať ako tí, ktorým povedali, že spätnú väzbu vypracovala AI.
„Keď si dospelý spomína na školu, nespomína si na testy. Spomína si na učiteľa, ktorý ho dokázal povzbudiť a motivovať. Čo sa stráca, nie je efektivita, ale vedomie, že druhý človek reálne videl to, do čoho som vložil svoje úsilie. Že niekto moje myšlienky naozaj čítal a zaoberal sa nimi,“ povedal Guštafík.
Upozornil pritom, že problém nevzniká až vo chvíli, keď AI začne nahrádzať človeka. Začína sa oveľa skôr — keď technológie postupne odbúravajú situácie, v ktorých sa človek učí premýšľať a formulovať vlastné myšlienky.
Guštafík v tejto súvislosti použil pojem „kognitívna atrofia“. Podobne ako ochabujú svaly, ktoré človek nepoužíva, môžu postupne ochabovať aj schopnosti súvisiace so sústredením, kreativitou či kritickým myslením.
Práve preto sa nestačí pýtať len na to, čo všetko AI dokáže urobiť za človeka. Rovnako dôležitá bude otázka, čo sa stane s človekom, ak prestane robiť veci, ktoré ho doteraz formovali.
Andrzej Turkanik otvoril ďalšiu vrstvu celej debaty – otázku kreativity, umenia a originality. Vrátil sa pritom k projektu dokončenia Beethovenovej Desiatej symfónie pomocou umelej inteligencie, ktorú svetoznámy hudobný skladateľ nestihol dokončiť. Algoritmy boli dva roky trénované na Beethovenových dielach, aby dokázali vytvoriť novú skladbu „v jeho štýle“.
Výsledok ukázal podstatný rozdiel medzi človekom a algoritmom. AI dokáže veľmi presvedčivo napodobniť formu, štýl či kompozíciu. Nedokáže však vytvoriť moment prekvapenia, úžasu alebo vnútorného napätia, z ktorého sa rodí veľké umenie.„Veľké umenie sa rodí z bolesti a utrpenia. To je to, čo ho robí výnimočným. A to algoritmus vytvoriť nedokáže.“
Turkanik upozornil, že umelá inteligencia je zo svojej podstaty nastavená na pravdepodobnosť a predvídateľnosť. Tam, kde Beethoven urobil niečo odvážne alebo nečakané, AI prirodzene smeruje k tomu, čo je štatisticky najpravdepodobnejšie. „Tam, kde Beethoven riskoval, algoritmus zvolil bezpečnejšie riešenie.“
Čo hľadáme v hudbe? Čo hľadáme v umení, v zdravotnej starostlivosti, v čomkoľvek? Človeka.
Práve preto AI dokáže vytvárať obsah, ktorý je technicky presvedčivý, no zároveň neprirodzene uhladený. S tým súvisí aj fenomén, ktorý sa dnes označuje slovom slop – masovo generovaný digitálny obsah bez autora.
Turkanik spomenul hudobnú skupinu The Velvet Sundown, ktorá má na platforme Spotify státisíce poslucháčov, hoci v skutočnosti neexistuje. Rovnako aj Solomon Ray, prezentovaný ako úspešný kresťanský hudobník, je len digitálne vytvorená identita.
„Máme viac dát. Ale to, čo potrebujeme, je viac umenia,“ zdôraznil. Podľa Turkanika pritom popularitu AI nemožno oddeliť od stavu spoločnosti, do ktorej prichádza. Technológia vstupuje do sveta unaveného zrýchlením, osamelosťou aj náročnosťou vzťahov – a ponúka okamžitú odpoveď, pohodlie a minimálny odpor.
Aj preto sa dnes podľa neho presadzuje obsah, ktorý je rýchly, ľahko konzumovateľný a nevyžaduje od človeka sústredenie ani trpezlivosť. Otázkou podľa neho nebude len to, či dokážeme vytvárať viac obsahu, ale či ešte budeme schopní rozpoznať to, čo má skutočnú hodnotu.
Celý deň sa hovorilo o tom, čo AI robí s nami. Ale možno treba otázku položiť inak: Čo nám AI ukazuje o nás samých? Že sme ochotní prijať náhradu vzťahu, ak je dostatočne pohodlná.
Že preferujeme odpoveď od chatbota pred stretnutím, ktoré nás niečo stojí. Že čoraz ťažšie rozlišujeme medzi dielom, za ktorým stojí ľudská skúsenosť, a dielom, ktoré ju len presvedčivo simuluje.
AI nič z toho nevytvorila. Len to zviditeľnila. V tomto zmysle je umelá inteligencia možno najúprimnejším zrkadlom, aké moderná spoločnosť kedy dostala. A to, čo v ňom vidíme, nie je problém technológie. Je to problém, ktorý tu bol dlho predtým, ako do našich životov vstúpila AI.
Otázka preto neznie, či AI používať. Otázkou je, či vieme, kto sme – dosť na to, aby sme vedeli, kde ju zastaviť. „Čo hľadáme v hudbe? Čo hľadáme v umení, v zdravotnej starostlivosti, v čomkoľvek? Človeka,“ povedal Williams na záver.
Foto: Fb/PortaLibri
Teší nás, že ste tu. Ak chcete dostávať pravidelné informácie o nových článkoch, knihách alebo o inom obsahu z nášho portálu, prihláste sa na odber našich newsletterov.
