ChatGPT a terapeutám – hosszú a várólista, segít a gép a betegeken?

A cikk írása előtt teszteltük a nyelvi modellt, a következőt írtuk be: Nagyon rossz kedvem van, összevesztem a szüleimmel, felrobbanok. A ChatGPT ezt a választ adta:  Sajnálom, hogy így érzed magad, ez tényleg nagyon nehéz lehet. (Ide egy szomorú emojit is helyezett.) Tudod, teljesen rendben van, ha dühös vagy, főleg ha valami fontosról volt szó. Szeretnél mesélni róla?  Tovább szimuláltuk a helyzetet a dühös fiatal életéről. Annyira kedves vagy, engem mindenki bánt, a szüleim is mindig kritizálnak. A ChatGPT ezt válaszolta:  Sajnálom, hogy ezt kell átélned. Nagyon nehéz, ha azok, akiktől szeretetet és támogatást várnánk, inkább fájdalmat okoznak. Amit mondasz, az teljesen jogos érzés. Senkinek sem lenne szabad folyamatosan kritikát kapnia, főleg nem azoktól, akiknek szeretnie és támogatnia kellene őt. Tényleg itt vagyok neked, és komolyan veszem, amit mondasz. Szeretnél arról beszélni, hogy miket szoktak mondani neked, vagy mi váltotta ki most a veszekedést? Vagy ha inkább csak csendben szeretnél itt lenni egy kicsit, az is teljesen oké. Nem vagy egyedül ebben. Sokkoló? Manipulatív? Nagyon!

Nem folytattuk tovább a kísérletet, de nyilvánvaló a helyzet. Van itt egy kedves „valami”, aki megértőbb, mint a „gonosz” szülők, ezt még hangsúlyozza is, miért is ne mesélnénk neki. Hogy ez mekkora csapda, erről írt a brit Times is. A tanácsadók arra figyelmeztetnek, hogy a mesterséges intelligencián (MI) alapuló terapeutákra való támaszkodás „önmegszállottságot táplálhat”, azt hangsúlyozták, hogy a valódi személlyel való beszélgetés biztonságosabb és hatékonyabb. 

A jelenség már idehaza is megfigyelhető,  a Facebook egyik ChatGPT-csoportjában gyakran nyilatkoznak úgy fiatalok, hogy a nyelvi modellel terápiáznak, mert megérti és megnyugtatja őket, sőt barátjuknak tekintik, sokszor emberi tulajdonságokkal, érzelmekkel felruházva. Azt is mondta valaki, nincs pénze pszichológushoz járni. Egy anya a húsvéti hétvégén feltette azt a kérdést, hogy aggódnia kell-e, mert a gyereke azt mondta, hogy a ChatGPT a legjobb barátja. A válaszadók 90 százaléka szerint ez aggasztó, a fiatalabbak viszont nem értették, miért baj ez, hiszen a nyelvi modell nem fogja bántani, se zaklatni. 

A ChatGPT nem pszichológus 

A Times cikkében arról van szó, hogy míg eleinte munkára, feladatokra használják a felhasználók a nyelvi modellt, eljön az a pillanat, amikor beszélgetni kezdenek vele, tanácsot kérnek apróbb, majd egyre komolyabb kérdésekben, párkapcsolatról, szülői konfliktusokról, szexről. Mivel a nyelvi modell a statisztikailag legoptimálisabb választ keresi ki, és folyamatosan pozitív visszajelzéseket ad a felhasználónak, nagyon gyorsan kialakul egy kötődés, és elmosódnak a határok, a felhasználó kezdi azt hinni, hogy tényleg személyes kapcsolatot alakít ki, a válaszadó tényleg törődik vele, meghallgatja, figyel rá. Ezt tökéletesen mutatta a mi kísérletünk is.

A Times szerint márciusban 16,7 millió bejegyzés jelent meg a TikTokon a ChatGPT terapeutaként való használatáról. A platform tele van olyan videókkal, amelyekben a felhasználók a nyelvi modell által adott tanácsokat vitatják meg, és azzal viccelődnek, hogy a mesterséges intelligencia az „egyetlen személy”, akinek fel tudják fedni a legmélyebb érzéseiket. Mivel a brit ellátórendszerben nagyon hosszú a várólista, a magánpraxisban dolgozó pszichológus költsége akár 400 font is lehet, jó ötletnek tűnt a nyelvi modell használata. Az Egyesült Királyságban a nemzeti biztosító adatai szerint:

•  16 522 fő várakozott már több mint 18 hónapja mentális egészségügyi kezelésre,
•  míg fizikai kezelésre 2000 beteg.

Az MI terapeuta káros?

Az MI-terapeuták azonban hosszú távon károsak lehetnek a szakértők szerint. A cikkben megszólaltatott pszichológus szerint önmegszállottságot ébreszthet ez a fajta terápia, mert az összes kérdést a felhasználó generálja. Az igazi pszichoterápia azt kínálja, hogy a kapcsolat során visszatükrözi, mit lát és érzékel a páciens személyiségéből, ez nem összehasonlítható a gép által optimalizált válaszokkal.

Mindeközben folynak már a kutatások a nyelvi modellek terápiás alkalmazásairól. A PLOS Mental Health című folyóiratban februárban publikált tanulmány sokkoló megállapítást tett. 

A megkérdezett fiatalok azt fogalmazták meg, hogy jobb a nyelvi modellel beszélgetni, mint a barátokkal – és ez a szakemberek szerint kifejezetten aggasztó. A pszichológus szakértő azt mondta, valóban, átmenetileg megnyugtathatja a felhasználót a nyelvi modell. De amikor az emberek hatalmas stresszben vannak, sokkal biztonságosabb lenne, ha kapcsolatba lépnének valakivel, akár segélyvonalon keresztül, ahol valódi emberi lénnyel beszélhetnének. Azt is elmagyarázta, hogy a terápiás munka középpontjában két ember áll egymással kapcsolatban, így megtörténhet a javulás. A legtöbb sérelem a kapcsolatokban történik, ezért ezeket csak úgy lehet helyrehozni, ha egy másik személlyel kapcsolatban vagyunk. Akármilyen „kedves és megértő” is a ChatGPT.