Öngyilkos kamasz: mostantól beléphetnek a szülők a gyerek ChatGPT-fiókjába

„A következő hónapban a szülők összekapcsolhatják fiókjukat tizenéves gyermekük fiókjával”, és „ellenőrizhetik, hogy a ChatGPT hogyan válaszol gyermeküknek a modell viselkedési szabályai alapján” – közölte az OpenAI egy blogbejegyzésben. A vállalat szerint a szülők értesítést kaphatnak, ha a platform gyermekük beszélgetéseiben „akut szorongást” észlel, és ellenőrizhetik a fiók beállításait.

Mint ismert, gyermekük halála után egy 16 éves kaliforniai fiú szülei augusztusban pert indítottak az OpenAI ellen, azzal vádolva a céget, hogy a ChatGPT részletes utasításokat adott fiuknak az öngyilkossághoz. A mostani bejelentés „valóban a legszükségesebb minimum” – mondta Melodi Dincer ügyvéd, aki a szülőkkel és egy egyesülettel együtt vitte az ügyet bíróság elé. Úgy vélekedett, az ilyen intézkedéseknek már régóta érvényben kellene lenniük, egyben kétségét fejezte ki az OpenAI által bevezetett korrekcióval kapcsolatban. „Továbbra is fejlesztjük modelljeinket, hogy jobban felismerjék a mentális és érzelmi szorongás jeleit” – írta a cég blogbejegyzésében.

ChatGPT: türelmetlen, ellenséges

Szükség is van erre, hiszen az ilyen chatbotok nem helyettesíthetik az emberi segítséget, mivel nem képesek érezni, ezáltal az empátia is teljesen hiányzik belőlük, ez pedig veszélyes lehet, főleg a fiatalokra nézve. „Az, hogy milyen időben mit kérdez egy kiskamasz/kamasz/tinédzser, nem mindegy, és az sem mindegy, hogy a válasz nagyon sokszor pontatlan, helytelen. Sokszor lehet azt olvasni, hogy agresszív a ChatGPT, ellenséges, türelmetlen” – mondta Tari Annamária pszichoanalitikus, akivel Aczél Petra egyetemi professzor, kommunikációkutató beszélgetett A nagy AI-sztori adásában.

Tari Annamária hozzátette: ezek nem kezelhető helyzetek, nem valódi segítségek, egyedül a szeparációs szorongás azonnali kikapcsolását érik el. Elmondása szerint ma már azonnal látszik a pácienseken, „milyen az, amikor a pszichológus szabadságra megy, és ott van helyette a ChatGPT”. Aczél Petra kiemelte, hogy az éremnek van egy másik oldala is: egyre több az olyan cikk, amelyben arról írnak, hogy öngyilkos gondolatok kezelésére alkalmas lehet a ChatGPT, mert mindig jelen van, mindig elérhető.

Jó oldala is van a technológiának

Az éremnek, mint mindenhol, itt is két oldala van. Az internetes gyerekvédelem globális mozgalma új szakaszba lépett: a szabályozók mind Európában, mind az Egyesült Államokban olyan törvényeket vezetnek be, amelyek kötelezik a technológiai vállalatokat a gyerekek online védelmére, ebben pedig 

A középpontban egy brit cég, a Yoti áll, amely MI segítségével becsüli meg a felhasználó életkorát arcfelismerés alapján. A cég szerint algoritmusa a 13–24 éveseknél két év pontossággal működik, és már a brit postával is partnerséget kötött. Versenytársai, például az Entrust, a Persona vagy az iProov, szintén erősödnek, de egyelőre Yoti a legismertebb név a korhatár-biztosításban. A CNBC szerint azonban a személyazonosság digitális igazolása jelentős adatvédelmi kockázatokat hordoz. Az NSPCC brit gyermekvédelmi szervezet úgy látja, hogy léteznek olyan megoldások, amelyek a magánszféra tiszteletben tartásával is képesek hitelesíteni a felhasználókat, de ehhez a cégeknek etikus döntéseket kell hozniuk. A hardverpiacon is elindult az alkalmazkodás: a finn HMD Global augusztusban bemutatta a Fusion X1 nevű okostelefont, amely a brit SafeToNet technológiáját használja. A készülék MI-alapú rendszere automatikusan blokkolja a szexuális tartalmak készítését és megosztását, így próbálja kiszűrni a kiskorúak online veszélyeztetését.

A Google és a Meta még bőven fejlődhet 

A trend világos: az internetes óriásoknak nem maradt más választásuk, mint a gyerekvédelem komolyabb felvállalása. A Google és a Meta eddig szórványosan vezettek be szülői felügyeleti funkciókat, de a kritikusok szerint a passzivitás évei véget értek. Az MI-alapú korhatár-ellenőrzés és gyermekbiztonsági fejlesztések egy új iparágat hozhatnak létre, amelynek fő kérdése a következő hónapokban az lesz: mennyire lehet egyszerre hatékony és adatvédelmi szempontból elfogadható.