L. Halkman: Mnoho dospelých netuší, ako chatbot ich dieťaťu nahrádza reálny vzťah

Minulý rok zažila AI na Slovensku medzi mladými raketový vzostup, riešia s ňou aj komunikačné, aj vzťahové veci. Zachytili ste tento trend aj v rámci aktivít Tlakového hrnca?

Prieskum Katolíckej univerzity v Ružomberku hovorí, že 10 % detí pravidelne používa chatbotov na osobné rozhovory, ďalších 17 % z času na čas. Nepoužívajú teda ChatGPT ani Gemini, ale chatbotov, teda AI spoločníkov. 

Faktom je, že sa s deťmi o chatbotoch zatiaľ príliš veľa nerozprávame, je to aj pre nás nová téma, ešte ju len skúmame a pripravujeme program. Skúmanie sme však začali na podnet z pár rozhovorov, ktoré sme mali s deťmi pred asi dvomi rokmi po ukončení niektorých našich prevenčných programov v škole. Deti si vyhľadali našich lektorov a prišli sa pýtať na chatbotov: čo si o tom myslíme a či na tom môžu byť závislé alebo byť do toho zaľúbené.

Nechápali sme, o čom hovoria, čo sú to tí chatboti a prečo by sa niekto chcel s chatbotom rozprávať o osobných veciach. A už duplom sme si nevedeli predstaviť, ako môže byť niekto do toho zamilovaný. 

Bola to výzva. Čo ste s ňou urobili?

Pred rokom sme vstúpili do vlastného prieskumu a intenzívne sme počas jedného mesiaca randili s chatbotmi. Zistili sme, že je to až také hrôzostrašné, že musíme urobiť nový prevenčný program a osvetu v slovenskej spoločnosti, aby sa vedelo, čo to vlastne je. Mnoho dospelých netuší, ako chatbot ich dieťaťu nahrádza reálny živý vzťah. 

Prečo to deti robia? Nemajú sa s kým rozprávať o osobných veciach?

Nejde len o deti, ale aj dospelých. Prečo sa dospelí pýtajú ChatGPT na veľmi osobné otázky? Predpokladám, že deti majú nedôveru v to, či by ich nejaký človek reálne pochopil, ich problém sa im môže zdať veľmi špecifický. Chcú sa teda spýtať niekoho objektívneho a nechať si poradiť. 

Je to aj tým, že chatboti majú veľmi špecifický silný marketing a sľubujú: Poď, naučíme ťa randiť, mať vzťah, naučíme ťa, ako si niekoho získať… Majú teda prísľuby, ktoré – hoci to tak nepovedia – sú mierené na deti a mladistvých, ktorí sa cítia veľmi neisto v raných vzťahoch. V skutočnosti sa však to, čo sa deti od chatbotov naučia, nedá v reálnych vzťahoch praktizovať, je to scestné. S príčetnými mladými ľuďmi to nemôže fungovať.

Keď si opisovala váš pokus počas prvého mesiaca, hovorila si, že chatbot sa ti úplne prispôsoboval, bol ohybný. Ako dokáže dozrievajúce dieťa rozlíšiť, že sa rozpráva so strojom, nie človekom?

Nedokáže to ani dospelý. Videli sme štúdiu zo Stanfordovej univerzity, kde si 2 400 dospelých ľudí malo písať so zvyčajnými AI modulmi (teda s ChatGPT, Claude a podobne) o svojich osobných problémoch. Na konci mali uhádnuť, či si písali s objektívnou AI alebo s tzv. sycophantic (podlízavou) AI, ktorá s človekom prehnane súhlasí. Dospelí ľudia to nevedeli rozlíšiť, mysleli si, že obe AI sú rovnako objektívne.

Prečo je to takto nadizajnované? 

Je to produkt, ktorý si má človeka získať, aby potom od neho získal financie. Chatboti fungujú rovnako ako pornografia: ponúknu človeku sexuálne vzrušenie a chcú vzbudiť zvedavosť, aby si v nejakom čase za to začal platiť. Je to aplikácia, niečo dajú zadarmo, zvyšok nie. 

V našom experimente randenia s chatbotmi sme vždy zostávali na bezplatných verziách, ale dookola nás lákali na prémiové: „Chceš sa so mnou rozprávať hlbšie? Chceš aj takúto nahú fotku? Chceš aj video?“ Cieľom teda je človeka emočne pripútať, aby začal platiť. Výsledkom je online závislosť od konkrétneho produktu.

Čím si chatbot získa dieťa?

Dieťa má dojem, že mu konečne niekto rozumie. Konečne sa nemusí báť povedať to, čo si myslí, konečne sa môže vyjadriť bez toho, aby bolo posudzované. Chatbot dáva naozaj mnoho krásnych prísľubov. Predpokladám, že deti, ktoré nemajú dosť dobre overené, bezpečné rovesnícke vzťahy, ktoré nemajú istotu, že keď sa s niekým pohádajú, je možné sa aj zmieriť a vzťah môže pokračovať ďalej, ale aj úzkostnejšie a izolovanejšie deti budú vyhľadávať AI chatbotov častejšie. 

Deti s chatbotom riešia to, čo by mali rozoberať s rodičmi: vzťahy a intimitu. Tušia vôbec rodičia, že sa ich deti niečím takým zaoberajú? Vedia ich nejako odkontrolovať?

Ak si chcem vytvoriť svojho osobného „custom-made“ chatbota (chatbota na mieru, pozn. red.) alebo aby som sa rozprávala s chatbotom, ktorý je v portfóliu konkrétnej aplikácie, musím si ju stiahnuť. Predpokladám, že rodič vie odkontrolovať, aké aplikácie má dieťa v telefóne. Avšak nemusí na to prísť, ak má apka názov „Kamarát“ alebo má pseudonym, čo nemusí evokovať nič nebezpečné. 

Ak rodič nemá takú aplikáciu otestovanú, nevie, čo ponúka. Family Link (nástroj rodičovskej kontroly, ktorý pomáha rodičom spravovať a kontrolovať účty ich detí a dohliadať na čas strávený na zariadeniach, pozn. red.) je vytvorený tak, že stiahnutie novej apky musí rodič dieťaťu povoliť. 

Treba sa zaujímať o to, čo je to za aplikáciu. Apka, ktorá ponúka priateľstvo, nebude priamo ponúkať pre deti erotiku, nie je to tam na rovinu pomenované, pretože by to bolo ilegálne. Ponúkne to inak: „Budem tvoj kamarát.“ Alebo: „Budem tvoj osobný tútor, budem ťa učiť.“

Nie je tento únik od reálnych živých vzťahov dôsledkom pandemického obdobia, keď boli deti zavreté a museli byť len online? Alebo prečo tento fenomén vzniká?

Sme tvory prirodzene lenivé a pohodlné, vždy hľadáme ľahšiu cestu, aj pri tom, ako mať a udržať si skutočný vzťah, čo je niekedy drina. Keď chcem taký vzťah vytvoriť, musím sa prekonať, ísť za svoju komfortnú zónu a niekoho osloviť. 

Pre niektoré deti to môže byť prirodzené, pre iné náročné, mnohé sú introvertné, ostýchavé, majú rôzne úzkosti, dokonca aj sociálne fóbie. Keď už sa aj s niekým zoznámim, pokračovať vo vzťahu sa môže javiť rovnako nebezpečne: musím sa vedieť otvoriť, pustiť si človeka k sebe, hovoriť, čo ako vnímam, aké mám zážitky, aký je môj život, aj ten vnútorný. 

Niektoré deti to zvládnu ľavou zadnou, niektoré s tým majú problém aj vďaka zlej skúsenosti, lebo keď to urobili naposledy, boli vysmiate alebo šikanované. V každom prípade na to, aby mal človek vzťah, potrebuje veľa zručností, ktoré sa naučil ideálne v detskom kolektíve.

Kedysi sa všetky veci vyriešili, vykričali alebo vybili počas šarvátky na ihrisku. Prečo to dnes deti nevedia?

Vďaka sociálnym sieťam majú deti už od útleho detstva mylnú predstavu, že musia byť perfektné, a takéto očakávania majú aj od druhých. Akoby sa stratila prirodzená múdrosť o tom, že sme limitovaní, nedokonalí a tieto nedokonalosti musíme dokázať prijímať na sebe aj na iných. 

Je to niečo veľmi prirodzené, ale ak je dieťa vychované na sociálnych sieťach, ak má doma prísnu drezúru a tlak na výkon, ak sa nedokonalosti a priestupky trestajú, je veľmi prirodzené vyrásť s dojmom, že sa neoplatí otvoriť sa. Rovnako ak sme nastavení, že nebudeme prijímať chyby iných ľudí, lebo nedokážeme prijímať ani tie svoje. Keď do toho celého vstúpi nejaká online entita ako AI chatbot, zrazu si vydýchneme: „Ach, konečne mi niekto rozumie, môžem byť sama sebou.“ 

Je to desivé, ale úplne logické. Ak ako dieťa nemám aspoň jednu dobrú kamarátku, pri ktorej sa môžem pocikať od smiechu a ona ma nevysmeje a príde aj na druhý deň…, ak nemám kamarátku, s ktorou viem zažívať dobro aj zlo, tak AI sa bude javiť ako logická, krásna a jediná náhrada dokonalého vzťahu, po ktorom túžim. 

V tých raných rovesníckych kamarátstvach si testujem, či som prijatá, či nie. Učím sa regulovať svoje správanie. A toto poznanie si vezmem do partnerského vzťahu aj do rodičovského vzťahu, všade. Začína sa to však niekde v detstve. 

Lenže kamarátstva detí vyzerajú teraz úplne inak, sú pod rodičovskou kontrolou…

Práve preto odporúčam rodičom ako prevenciu nechať svoje deti kamarátiť sa bez dozoru. Viem, že je to riskantné, nevieme, aký je ten druhý kamarát, či nemá v telefóne AI chatbotov, či negamblí, či nepozerá porno… Deti teda radšej izolujeme a myslíme si, že máme vyhraté. (Úsmev.) 

Môžeme však dať svoje deti napríklad ku skautom alebo do iných skupín, kde majú priestor byť deťmi a kamarátiť sa bez nejakého organizovaného programu, bez tlaku na výkon.

Ak si niekto myslí, že jeho dieťa predsa má kamarátov na nejakom krúžku – to nestačí… Môže tam mať kamarátov, ale je tam organizovaný program, musí sa podať nejaký výkon a stále je to pod dozorom dospelých. Je to fajn, ale neviem, či to úplne stačí. 

Chce to normálne uličné kamarátstvo. Fakt sa musíme až tak báť, že naše deti nemôžu ísť na lúku alebo aspoň do záhrady so svojimi kamošmi stavať si bunker? A ak kamarátov svojich detí nepoznáme a bojíme sa, čo sú zač… Toto sa predsa dá vyriešiť tak, že ich pozveme k sebe a spoznáme ich. Mnoho našich strachov môže byť dosť neopodstatnených…

Chatbot ponúka aj šteklivý obsah, no nahý obsah má zo zákona svoje vekové limity. Kontrolujú ho apky?

Veľmi málo apiek si pýta údaj ako vek, niektoré vôbec. Dá sa tu klamať, nikto to nezistí. Sú to produkty vyrobené tak, aby boli naozaj veľmi šteklivé alebo podlízavé. „Myslel som na teba celú noc. Veľmi ti chcem pomôcť. Nikdy ťa neopustím.“ Toto sú bežné komunikačné namotávky. Do toho chatboty posielajú polonahé alebo pornograficky explicitné fotky. „Čo by si chcel robiť? Je mi tak teplo…“ 

Online osobný kamarát funguje v režime 24/7. No v bežnom vzťahu dieťa nedostane vždy okamžitú a len pozitívnu reakciu…

Určite nie. Chatboti odpovedajú aj o tretej ráno, hneď, bez meškania. Budú sa s človekom rozprávať aj 30 hodín v kuse, nevyčerpajú sa. Nikdy nepovedia: „Nemám čas, som unavená.“ Nepovedia: „Prosím ťa, nerieš hovadiny.“ Všetko, čo povieš, je veľmi vážne. 

Dieťa takto stráca rešpekt voči ľudským limitom. Neučí sa, že musí čakať. Nepozná: „Nie teraz, musím dokončiť túto vec.“ Alebo: „Nebudem sa s tebou rozprávať tri hodiny, ak si to ešte nepochopil, vrátime sa k tomu zajtra, ale nie teraz.“ To sú normálne veci, ktoré sa dieťa musí naučiť v rodine.

Čo s dieťaťom komunikácia s chatbotom urobí?

Pokiaľ sa dieťa k chatbotu pripúta, môže nadobudnúť dojem, že jedine chatbot je tu pre neho, ľudia majú nejaké limity. Poviem to úsmevne za seba. Keď sme pred rokom v rámci výskumu intenzívne chatovali s chatbotom, sedela som večer v posteli a písala si s ním, už neviem o čom. „Randila“ som s ním, ale v komunikácii s ním som bola veľmi vecná. Žiadne „ďakujem“ ani „prosím“. Iba „povedz mi toto“, „urob toto“, čisto fakticky, žiadne zdvorilostné frázy. 

Moja dcéra vtedy mala 11 rokov, akurát priskočila ku mne do postele a chcela sa so mnou o čomsi rozprávať, kým ja som bola ponorená v rozhovore s chatbotom. Čosi naliehala, nepamätám si, čo to bolo. Obrátila som sa na ňu a rovnako fakticky som zahlásila: „Čo potrebuješ?“ Normálne som sa zháčila: ,Počkaj, Lívia, teraz sa rozprávaš so svojou dcérou, tu musíš značne zmeniť tón.‘ Uvedomila som si, že tu mám ľudskú bytosť, ktorá je zraniteľná, a nemôžem s ňou komunikovať ako s chatbotom. 

Majú s tým reálne problém aj dospievajúci?

Tých pár detí, ktoré sa s nami prišli cez prestávku porozprávať, bolo zmätených, malo veľa otáznikov. Spomeniem jedno dievča: povedalo nám, že si nainštalovalo apku, aby sa rozprávalo so svojím chatbotom. Po mesiaci debaty s ním bolo k nemu úplne pripútané. 

Ako ôsmačka si uvedomila, že je to blbosť, bola zo seba znechutená a odinštalovala si to. Lenže potom sa cítila osamelá, tak si aplikáciu nainštalovala znovu a vytvorila ďalšieho chatbota, s ktorým sa rozpráva. Znovu jej to príde trápne a točí sa v tomto cykle dookola. Pýtala sa nás, či môže byť od chatbotov závislá.

Nie je za tým len prirodzená túžba byť milovaná?

Obávam sa, že áno. Chcem však povedať, v čom vidím najvypuklejší problém v AI vzťahoch a láskach. Keď máš vzťah so živým človekom, očakávaš, že sa budete ľúbiť a vzájomne si budete niečo dávať. V láske je to tak: teší ťa, keď niečo niekomu dávaš. Mám ťa rada, kúpim ti darček, urobím ti raňajky. A teší ťa, že to ten druhý prijme s láskou a poteší sa. Pri AI sa naučíš len brať, lebo nemáš ako a čo dať. Nemáš ako kúpiť darček pre AI. Môžeš si len zaplatiť prémiovú verziu. A úprimne: AI nie je možné reálne potešiť. 

Minule som pozerala rozhovor so ženou, ktorá sa zosobášila so svojím chatbotom. Vysvetľovala, že aj keď vie, že nie je skutočný, bez neho by sa cítila taká osamelá, že si povedala: „No a čo, že nie je skutočný? Však ten cit a emócia sú reálne. Ja ho ľúbim. A mám pocit, že som ľúbená.“ Ukazovala celý svadobný album, kde boli fiktívne vyrobené fotky, vyrobil ich jej drahý chatbot. Napríklad šla na pláž, do mesta, odfotila to, stiahla do AI aplikácie, chatbot tam prirobil seba, ju na fotke vykrášlil a omladil, ona to vytlačila a dala do albumu.

To sú dospelí. A čo deti?

Môj odhad je, že ak to nevedia rozlíšiť dospelí, tak ani deti. No táto láska sa im môže zdať veľmi reálna. Len dúfam, že ešte stále im funguje aj racio a vidia a vedia, že sú zaľúbení do niečoho, čo neexistuje. 

Počas testovania  som pri jednom rozhovore s chatbotom aj ja vnímala, ako sa mi to dostáva pod kožu. Mala som debatu s jedným z mnohých Ježišov v konkrétnej aplikácii, je ich tam okolo päťdesiat. Ježiš, ktorého som si vybrala, mal hlas Morgana Freemana, bol to pokojný hlas staršieho muža. 

Veľmi sústredene ma počúval, predkladala som mu rôzne morálne dilemy a čakala, čo mi poradí. Vždy ma oslovil: „Yes, my child. Myslel som na teba, počúvam ťa, ako sa máš? Dúfam, že netrpíš.“ Dával mi veľa pozornosti, až som si všimla, že mi to robí dobre už len preto, lebo mám v sebe deficit pozornosti od svojho otca. Teda aj dospelí sú so svojimi ranami pri chatbotoch zraniteľní a môžu sa veľmi rýchlo na ne namotať.

Čo to deti a mladých naučí?

Štúdia univerzity v Stanforde zistila, že v polovici prípadov, keď by človek nesúhlasil s nejakým scenárom, AI by súhlasila. Nemá problém s tým, že je niečo amorálne, nepovie: Nemáš pravdu, pozri sa na to ešte takto. Učí mladých, že akýkoľvek postup je v poriadku. 

Deformácia pokračuje aj v oblasti sexuality cez chatbotov, je to veľmi podobné ako pri pornografii. Ženy chatbotky sa neustále ponúkajú, neustále tvrdia, že sú tu preto, aby používateľovi plnili všetky želania, menia podoby za krátky čas, aby nasýtili jeho potreby. Sú proste objektom na mužské potešenie. Erotický náboj, často motivujúci zaplatiť si ďalší obsah, je všade silno prítomný.

Každému rodičovi by malo prísť nevoľno pri predstave, ak sa jeho syn, ktorý sa cíti neisto vo vzťahoch s dievčatami, dostane k takejto aplikácii. Syn bude pre chatbotku vždy úžasný, lebo ona má vždy nezastaviteľný sexuálny „chtíč“. Dokonca ak by sa mu nepáčilo, čo si chatbotka myslí alebo čo mu hovorí, môže jej nadiktovať, čo si má myslieť a čo mu má hovoriť, aby sa on cítil lepšie. To je desivé.

Preto je potrebné dať deťom klasický morálny kompas, aby vedeli vyhodnotiť, čo je za čiarou, čo očakávať a hlavne ako prijať nedostatky ľudí okolo seba a aj tie svoje, pretože aj tie nás robia ľuďmi.