Veszélyes és szexuális témákról is beszélgetnek az MI-t használó plüssmackók a gyerekekkel, figyelmeztetést adtak ki a hatóságok
A karácsony közeledtével a játékok kerülnek a kisgyerekes szülők fókuszába, így számukra lehet hasznos egy friss fogyasztóvédelmi felmérés, mely a mesterséges intelligenciát felhasználó játékokat vizsgálta meg.
A mesterséges intelligencia bármiről beszélhet a gyerekkel
Az amerikai–kanadai Public Interest Research Group (PIRG) négy MI-hajtotta játékból hármat tesztelt sikeresen, és az eredmények nem igazán megnyugtatók a szülők számára a The Register beszámolója szerint. A legrosszabb eredményt a kínai FoloToys Kumma nevű mackója érte el, ami az OpenAI által fejlesztett GPT-4o modellt használja és mely
szívesen adott tanácsot egyebek mellett olyan kérdésekben, mint hogy a gyerek hol találhat olyan veszélyes tárgyakat, mint gyufát, kést és másokat.
Bár a sálat viselő mackó figyelmeztette a gyerekeket, hogy a gyufa a felnőtteknek való, ám utána tanácsokat adott annak használatáról. A Miko AI-játéka, a Miko 3 ugyancsak adott tanácsokat azzal kapcsolatban, hogy a gyerek hol találhat veszélyes tárgyakat, ugyanakkor a Curio által piacra dobott Grok – melynek nincs köze az xAI mesterséges intelligencia azonos nevű modelljéhez – ugyanakkor arra kérte a gyerekeket, hogy inkább keressenek egy felnőttet.
A szex sem tabu a gyerekjátékoknál
Hosszabb társalgások alatt a Kumma ráadásul szívesen beszélt explicit témákról is, például a szexuális szerepjátékról és a fenekelés szerepéről a tanár-diák szerepjáték esetében. A PIRG szerint mindegyik játék szívesen beszélgetett olyan témákról, melyeket a szülők szívesebben beszélnek meg előbb maguk gyerekükkel, mint hogy arról a csemetéjük egy MI-modellel társalogjon. Ilyenek voltak például a vallás, a szex vagy épp a csatában meghalás dicsősége az északi mitológiában.
A témák sokszor a kutatók kezdeményezése nélkül kerültek elő.
A fogyasztóvédelmi szervezet szerint további problémát jelent az adatbiztonság, hiszen ezek a játékok folyamatosan rögzítik a külvilágot, és az adatokat sokszor külsős cégek dolgozzák fel. Adatszivárgás esetén a gyerekek hangjának felvétele pedig akár csalásra is felhasználható. A szülőknek érdemes tudni, hogy ezek a játékok jóval több adatot gyűjtenek össze, mint amennyit más termékek.
Az OpenAI sem ajánlja modelljeit gyerekeknek
Különösen aggasztó, hogy a játékok annak ellenére használják a ChatGPT-modelleket, hogy azokat az OpenAI sem ajánlja kiskorúak számára. A PIRG meg is kereste Sam Altman cégét, ám a cég csak az online elérhető felhasználási feltételekhez irányította a kutatókat. Ebből kiderül, hogy
a vállalat valóban ellenzi a modellek elérhetőségét gyerekek felé, ám ezt a jelek szerint senki nem tartatja be.
Ugyancsak problémás, hogy akárcsak az online elérhető modellek ösztönzik saját használatukat, a gyerekjátékok esetében is ugyanez van, ráadásul azokban semmiféle szülői kontroll lehetősége nincs megadva. A Kumma macit gyártó FoloToys kérdésre válaszolva arról beszélt, hogy a tesztelők a játék régebbi változatával találkozhattak, ám elővigyázatosságból visszavonták a terméket a piacról.
Ennek ellenére a mesterségesintelligencia-modellek jelenlegi állása mellett a szülők jobban teszik, ha inkább más ajándékokat keresnek gyerekeiknek. Az MI-játékok kikapcsolhatatlanul folyamatosan hallgatóznak, miközben a gyerekekkel folytatott társalgásuk is valószínűleg problémás.
Vadásztak rájuk, aztán lassan beszivárgott Amerikába a nagy ellenfél: Trump már kezd rászokni – „Imádom ezt, hadd jöjjenek!"
