Ak chcete dostávať pravidelné informácie o nových článkoch, knihách alebo o inom obsahu z nášho portálu, prihláste sa na odber našich newsletterov.
„Mozog je ako orchester. Umelá inteligencia je ako automatický prehrávač. Vie zopakovať noty, nie však tvoriť hudbu.“ Aj tak by sa dala zhrnúť hlavná myšlienka diskusie s neurovedcom Petrom Jedličkom na tohtoročných Bratislavských Hanusových dňoch. Diskusia priniesla jedinečný pohľad neurovedy, filozofie aj teológie na oblasť AI.
Čo robí z inteligencie vedomie? A kedy stroj prestáva byť len nástrojom a začne byť aktérom? A čo ak nás AI presvedčí, že je vedomá – ešte predtým, než skutočne bude? Aj na tieto a mnohé ďalšie otázky hľadala odpoveď diskusia, ktorá ukázala, že problém umelej inteligencie nie je len technický, ale aj hlboko ľudský.
Peter Jedlička prirovnal vznik jazykových modelov ako ChatGPT k zrodu nového typu bytosti. Po miliónoch rokov, počas ktorých schopnosť viesť inteligentnú reč patrila výhradne človeku, vstupuje na scénu čosi ako „mimozemšťan vlastnej výroby“. Tieto systémy dokážu odpovedať na otázky, generovať texty či dokonca navrhovať vedecké experimenty – a na prvý pohľad pôsobia ako inteligentné.
Podľa Jedličku však ide len o zdanlivú podobnosť. Umelá inteligencia podľa neho nemá to najpodstatnejšie: vlastné telo, zmysly, pamäť, kontakt so svetom ani vedomý zámer. „Nežijú v reálnom svete – len spracúvajú obrovské množstvo dát. Nerozumejú významu slov, len hľadajú najpravdepodobnejšie možné pokračovanie,“ vysvetlil spôsob fungovania systémov AI.
My sa niekedy učíme strašne rýchlo. Keby sa teraz v tejto miestnosti zjavil tiger, tak si to do konca života zapamätáme.
Odpovede, ktoré AI vygeneruje, preto nie sú výsledkom premyslenej úvahy či rozhodnutia niečo vyjadriť. „Inteligencia týchto systémov nie je prejavom porozumenia svetu, ale len spôsobom, ako napodobniť jazyk, ktorým svet opisujeme,“ uzavrel.
Modely ako GPT-4 prirovnal Jedlička k „duchu všetkých slov na internete“ – systému, ktorý vie hovoriť, no nič z toho, čo vyslovuje, nezažil. Aj keď sú trénované na miliardách textov, chýba im to, čo dáva slovám hĺbku: vedomie, skúsenosť a zakorenenie v realite. „Hovoria ako my, no nežijú ako my.“
Jednou z vážnych limitácií AI je aj neschopnosť preniesť naučené vedomosti do nového kontextu – čo odborníci označujú ako problém generalizácie. Stroje sa dokážu naučiť reagovať na konkrétne dáta, no pri miernej zmene zadania zlyhávajú. „Stačí zmeniť drobnosť na vstupe a model sa úplne pomýli,“ upozornil Jedlička.
Neurovedec zároveň upozornil, že zatiaľ čo stroj potrebuje milióny vstupných dát, dieťa sa vie naučiť pojem „tiger“ po jednom stretnutí. „My sa niekedy učíme strašne rýchlo. Keby sa teraz v tejto miestnosti zjavil tiger, tak si to do konca života zapamätáme. A nemusíme ho už vidieť druhýkrát,“ poznamenal.
Umelé neurónové siete navyše nepoznajú kauzalitu. To podľa neho spôsobuje zásadný rozdiel v chápaní sveta: stroje nepoznajú fyzikálne zákony cez skúsenosť, ale iba ako štatistické vzory. „Nemajú model sveta, v ktorom pohár spadne, keď ho pustíme z ruky,“ poznamenal. A hoci AI dokáže vytvoriť gramaticky správny a na pohľad presvedčivý text, často ide o tzv. halucináciu – vetu, ktorá síce znie zmysluplne, ale s realitou nemá nič spoločné.
Aj preto neurovedec apeloval na to, aby sme mladých ľudí viedli ku kritickému mysleniu. Upozornil, že umelá inteligencia nie je len technickým nástrojom, ale aj kultúrnym fenoménom, ktorý ovplyvňuje spôsob, akým premýšľame o realite. „Máme tendenciu považovať za inteligentné všetko, čo sformulovalo štylisticky pekný odsek. Ale jazyk sa ešte nerovná porozumeniu,“ zakončil.
Zásadný rozdiel medzi človekom a AI, ako neurovedec ďalej upozornil, nie je len v architektúre, ale aj v autonómii. Umelá inteligencia teda nie je len bez tela, ale aj bez vnútra. Chýba jej vedomý zámer a schopnosť konať na základe vlastných cieľov. Človek sa rozhoduje zvnútra, stroj len podľa vonkajšieho vstupu. „Umelá inteligencia žiadnu takúto autonómiu nemá – je nástrojom, nie aktérom,“ dodal.
GPT-4 má 96 vrstiev. Pričom nikto celkom presne nevie, čo sa v ktorej vrstve deje.
Tento rozdiel sa ukazuje aj v samotnej štruktúre modelov. „GPT-4 má 96 vrstiev. Pričom nikto celkom presne nevie, čo sa v ktorej vrstve deje. Ich výsledky sú často nepredvídateľné a musíme ich analyzovať podobne ako mozog – vrstvu po vrstve,“ vysvetlil.
To, čo človeka oddeľuje od umelej inteligencie podľa neho však nespočíva len v technickej komplexnosti, ale najmä v tom, že tieto modely nemajú vnútorný svet – neprežívajú, nereflektujú, nemajú emócie. Chýbajú jej aj dôležité procesy ako oscilácie – rytmické vlny mozgovej aktivity, ktoré zohrávajú úlohu pri vnímaní, rozhodovaní či udržiavaní pozornosti a vedomia.
„Tieto siete sú čisto technické systémy. Na rozdiel od nich má človek telo, ktoré cíti, reaguje a sprostredkuje skúsenosť. A vďaka tomu dokáže nielen vnímať realitu, ale aj utvárať dejiny – má pamäť, kontinuitu, osobný aj kultúrny príbeh. To všetko umelým modelom chýba,“ vysvetlil Jedlička.
Jedlička poznamenal, že otázka vedomia nie je vyriešená ani v samotnej neurovede. Spomenul, že zatiaľ čo niektorí vedci tvrdia, že vedomie má aj jednoduchý organizmus ako meňavka, iní sú presvedčení, že nie je prítomné ani u väčšiny zvierat.
Jedlička zastáva názor, že vedomie nevzniká len na základe zložitosti výpočtov, ale vďaka prežívanej skúsenosti. Umelá inteligencia tieto predpoklady podľa neho nemá – chýba jej telo, časová kontinuita, pamäť, sebareflexia.
Niektorí vedci síce veria, že pri dostatočnej komplexnosti systému sa vedomie „vynorí“, no Jedlička tento názor spochybňuje: „To, že niečo generuje správne odpovede, ešte neznamená, že chápe, čo hovorí.“
Rozdiel medzi napodobňovaním a porozumením vysvetlil pomocou filozofického experimentu čínskej izby: človek, ktorý neovláda čínštinu, vie pomocou kníh a pravidiel priraďovať znaky tak, že z vonkajšieho pohľadu pôsobí, akoby tomuto jazyku rozumel. V skutočnosti však len mechanicky manipuluje so symbolmi. Rovnako podľa Jedličku funguje aj AI: syntakticky spracúva znaky, ale sémanticky im nerozumie.
Presne tento princíp podľa neho funguje aj v prípade súčasných jazykových modelov. Umelá inteligencia síce dokáže vytvoriť gramaticky správnu vetu, ale bez toho, aby rozumela jej významu. „Je to podobné ako rozdiel medzi obsahom zákona a atramentom na papieri. Umelá inteligencia má len atrament.“ Hoci jej výstupy môžu pripomínať ľudský jazyk, chýba im to najpodstatnejšie – porozumenie.
Umelá inteligencia podľa Jedličku nie je ani jednoznačnou hrozbou, ani zázračným riešením. Nesie v sebe obrovský potenciál, no zároveň aj reálne riziká. Ak sa na ňu začneme spoliehať nekriticky, oslabí to našu schopnosť premýšľať. Ak si však uchováme kontrolu, AI môže byť neoceniteľným nástrojom – napríklad aj vo vede.
Sám priznal, že jazykové modely využíva pri simuláciách neurónových sietí. „Dokážeme tak rýchlejšie testovať hypotézy, upravovať parametre. AI môže pomáhať výskumu, ale aj my sa musíme učiť od nej,“ poznamenal.
Digitálna duša je len tieňom tej skutočnej – prežívanej, zakorenenej vo vzťahoch, v tele a v slobode.
Zároveň zdôraznil, že diskusia o umelej inteligencii si vyžaduje širokú spoluprácu rôznych odborov a prístupov. Nestačí, aby o nej rozhodovali len technológovia či vývojári. „Teológia, neuroveda, filozofia, právo, informatika – nikto z nás nevidí celý obraz. Iba spoločným rozhovorom sa môžeme pohnúť dopredu,“ dodal. Takýto medziodborový dialóg je podľa neho nevyhnutný, ak chceme porozumieť nielen technickým možnostiam, ale aj etickým a antropologickým dôsledkom, ktoré AI prináša.
Podľa Jedličku má do diskusie o umelej inteligencii vstúpiť aj Cirkev – nielen ako pozorovateľ, ale ako aktívny hlas, ktorý kladie hlboké otázky o človeku, vedomí a dôstojnosti. Ak by raz mala vzniknúť encyklika o umelej inteligencii, mala by podľa neho spájať vedecký prehľad so zmyslom pre to, čo nás robí ľudskými.
Ako pripomenul, pápež Lev XVI., ktorý študoval matematiku, bol schopný prepájať svet viery, vedy a filozofie. Práve takýto hlas je dnes potrebný – nie preto, aby AI odmietal, ale aby ju človeku pomohol pochopiť v širšom obraze.
„Digitálna duša je len tieňom tej skutočnej,“ povedal Jedlička. A práve hľadanie tej skutočnej – prežívanej, zakorenenej vo vzťahoch, v tele a v slobode – je úlohou, ktorú nijaký stroj za nás neprevezme.
Teší nás, že ste tu. Ak chcete dostávať pravidelné informácie o nových článkoch, knihách alebo o inom obsahu z nášho portálu, prihláste sa na odber našich newsletterov.
