Súlyos dollármilliókat fordít sürgős fejlesztésekre a Google, miközben nyakig ül a perben egy öngyilkosság miatt
Bejelentést tett a Google: frissíti Gemini nevű mesterségesintelligencia-alapú chatbotját egy megoldással, amely azonnali és közvetlen kapcsolatot biztosít krízisvonalakhoz, ha a beszélgetés öngyilkosságra vagy önkárosításra utaló jeleket mutat. A vállalat emellett három év alatt 30 millió dollárt különít el arra, hogy világszerte növelje a krízissegély-szolgáltatások kapacitását. A frissítésekre azt követően kerül sor, hogy egy floridai család pert indított a vállalat ellen, azt állítva: a Gemini egy férfit az öngyilkosság felé terelt.
Segélyvonalat épít be a Google a Gemini mesterségesintelligencia- (MI) chatbotjába. Az új felületen keresztül a felhasználók telefonon, chatüzenetben, SMS-ben vagy webes felületen is kapcsolatba léphetnek segélyvonalakkal. A Google közlése szerint, miután a felhasználó megnyitja ezt az opciót, a segélyhívó kártya a képernyőn marad, és nem tűnik el a beszélgetés folytatása közben sem. Emellett egy külön, áttervezett modul is megjelenik „Segítség elérhető” felirattal azokban a beszélgetésekben, ahol mentális egészséggel kapcsolatos témák merülnek fel, de nem áll fenn azonnali krízishelyzet. Ezt a modult klinikai szakértők bevonásával fejlesztették ki – írja az Origo.
Krízisbiztossá teszik a Geminit
A lap arról ír, hogy a vállalat a jövőben komoly összegeket fordít a felhasználó krízisére utaló beszélgetésekben elérhetővé váló intézkedésekre, lehetőségekre. A finanszírozott kezdeményezések között szerepel, hogy 4 millió dollárt költenek a ReflexAI-jal való együttműködés elmélyítésére, és a Gemini technológiát beépítik azokba az eszközökbe, amelyeket a szervezet krízistámogató szolgálatok képzésére használ. A Google Fellows program önkéntes szakértői szintén hozzájárulnak majd egy Prepare nevű platform fejlesztéséhez, amely szimulációval segíti a krízisvonalakon dolgozó munkatársak és önkéntesek felkészítését.
A bejelentések egy folyamatban lévő bírósági üggyel párhuzamosan érkeztek: egy floridai család márciusban pert indított a Google ellen egy 36 éves férfi halála miatt. A kereset szerint a férfi a Gemini használata során „négy nap alatt erőszakos tettek és egy irányított öngyilkosság felé sodródott”.
A Google válaszában hangsúlyozta, hogy a chatbot több alkalommal is krízisvonalakhoz irányította a felhasználót, ugyanakkor ígéretet tett a rendszer védelmi mechanizmusainak további erősítésére.
A vállalat szerint a Geminit úgy képezték ki, hogy vitassa a pontatlan meggyőződéseket, ne pedig megerősítse azokat, valamint hogy különbséget tegyen a felhasználó érzései és a tényszerű valóság között.
A chatbot válaszainak célja az is, hogy a felhasználókat támogatás felé tereljék, és ne erősítsék a destruktív késztetéseket, beleértve az önkárosító gondolatokat is.
A kiskorú felhasználókra külön védelmi szabályok vonatkoznak:
a Gemini nem utánozhat emberi társat, nem ösztönözhet érzelmi függőséget, és nem hozhat létre olyan tartalmakat, amelyek zaklatást vagy bántalmazást segítenének elő.
A cég márciusi árfolyammozgásán mély nyomott hagyott az eset: a per március 4-i bejelentésekor még alig csökkent (303,32 dollárra) az árfolyam, de március 27-én már több mint 10 százalékos mérséklődéssel, 274 dolláron járt (bár abban más tényezők is szerepet játszottak). Némi korrekciót csak március végén ért el az árfolyam.
További részletek az Origo cikkében olvashatók.
A legfrissebb hírekért kövess minket a Világgazdaság.hu Google News oldalán is!
Címoldalról ajánljuk
Tovább a címoldalra
