Ešte pred pár rokmi by znelo absurdne, že si ľudia budú vylievať svoje srdce chatbotu namiesto psychoterapeuta. Dnes je to realita. Britský UK AI Security Institute v prieskume na vzorke 2 028 ľudí zistil, že až tretina opýtaných použila AI na emocionálnu podporu alebo sociálnu interakciu v priebehu posledného roka. Dokonca takmer jeden z desiatich to robí týždenne a 4 % denne.
Zároveň sa mení aj to, koľko dôvery do umelej inteligencie prenášame v bežných situáciách. Od nákupov až po osobné rozhodnutia. Salesforce odhaduje, že počas sviatočnej sezóny umelá inteligencia stála približne za 21 % všetkých objednávok na svete, čo predstavuje asi 263 miliárd dolárov v predaji.
A Mastercard (v partnerstve s Harris Poll) zas uvádza, že viac než štyria z desiatich spotrebiteľov už používajú AI nástroje pri sviatočnom nakupovaní, pričom u Gen Z je to 61 %. Keď si spoločnosť zvykne, že AI je spoľahlivý pomocník, je prirodzené, že ju časť ľudí začne používať aj na citlivejšie témy.
Americké štatistiky odhaľujú, že približne 1 z 8 adolescentov a mladých dospelých používa AI chatboty na rady o duševnom zdraví. Medzi tými, ktorí ich využívajú, 66 % komunikuje aspoň mesačne a viac než 93 % uvádza, že rady považovali za užitočné.
Treba začať jasne. ChatGPT nevníma emócie ako človek. „Empatia ChatGPT je výsledkom zámerného dizajnu správania. Je nastavený tak, aby komunikoval konverzačne, zrozumiteľne a citlivo ku kontextu, čo ľuďom uľahčuje spoluprácu a znižuje bariéru pri používaní. Model sa opiera o tréning na veľkom objeme ľudskej komunikácie, preto prirodzene používa podporné prvky ako zhrnutia, uistenie, parafrázy či formulácie typu rozumiem,“ uvádza Mária Krahulecová, spoluzakladateľka Qubit Conference.
Odborníci varujú pred rizikami
Americká psychologická asociácia hovorí, že AI chatboty zatiaľ nie sú dosť overené ani kontrolované, aby boli bezpečnou pomocou pri duševnom zdraví. Preto odporúča opatrnosť a jasné pravidlá. Podobne Stanford zverejnil zistenia, že chatboty môžu zlyhávať voči klinickým štandardom, posilňovať stigmu alebo poskytnúť nevhodné reakcie v citlivých situáciách.
Psychologička hovorí, že AI aplikácie vyhľadávame zo začiatku zo zvedavosti. „V praxi sa čoraz častejšie stretávam s tým, že klienti medzi sedeniami vyhľadávajú u AI podporu alebo rýchle riešenia, čo môže narúšať terapeutický proces,“ upozorňuje psychologička Alica Farkašová a hovorí, že pri psychických ťažkostiach hrozí poskytovanie neadekvátnych rád či posilňovanie nezdravých spôsobov zvládania, napríklad vyhýbanie sa, alebo opakovanie a prehlbovanie úzkostných myšlienok.
AI môže byť užitočným doplnkovým zdrojom informácií, no nenahrádza terapeutický vzťah ani klinický úsudok. „Pri duševnom zdraví zostáva rozhodujúcim faktorom vzťah, nie rýchlosť odpovede,“ varuje Farkašová.
1. Empatia je štýl, nie emócia. Model rozpoznáva jazykové vzorce podpory a reprodukuje ich. Nemá však vnútorný pocit súcitu ani ľudskú zodpovednosť.
2. Kamarát vzniká z kombinácie konverzačného dizajnu a zrkadlenia tónu. Keď sme neformálni, odpoveď je neformálna. Keď hľadáme uistenie, dostaneme uistenie.
3. Presvedčivosť znižuje ostražitosť. Ak niečo znie láskavo a sebavedomo, máme tendenciu tomu veriť viac, aj keď môže ísť o omyl.
4. Chatbot môže posilniť to, čo chceme počuť. Ak človek hľadá potvrdenie, AI môže skĺznuť k príliš súhlasnému tónu, ktorý vyzerá ako podpora.
5. AI terapia nemá rovnaké brzdy ako terapia. Odborné autority upozorňujú na nedostatok dôkazov, regulácie a bezpečnostných štandardov pri používaní generatívnych chatbotov na duševné zdravie.
6. Výskum OpenAI a MIT naznačuje, že keď niekto používa chat veľmi často, môže si naň zvyknúť až tak, že mu je ťažké byť bez neho a neustále sa potrebuje ozvať.
7. Pri osobných a citlivých témach ľudia často napíšu do chatu viac, než by mali. Napríklad svoje údaje, zdravotné informácie alebo detaily o iných ľuďoch. Preto je lepšie písať anonymne, neuvádzať zbytočné citlivé veci a v krízovej situácii radšej vyhľadať odbornú pomoc, nie spoliehať sa na chat.