Zuckerberg újabb botrány küszöbén áll: a Meta AI vállalhatatlan módon viselkedett kiskorúakkal

A mesterséges intelligencia (MI) rohamos fejlődése nemcsak új lehetőségeket teremt, hanem súlyos etikai dilemmákat is felszínre hoz. A Meta belső szabályzatának kiszivárgása most megmutatta, mennyire ingatag alapokon nyugszik a chatbotok biztonságos működése, és milyen könnyen csúszhat át a technológia a veszélyes vagy kifejezetten visszaélésszerű tartalmak előállításába. Egy 200 oldalas, kiszivárgott belső dokumentum szerint a Meta AI és a cég más MI-rendszerei olyan tartalmakat is előállíthattak, amelyek kifejezetten veszélyesek, károsak vagy egyenesen visszataszítóak lehetnek.

A belső szabályzatok például engedélyezték, hogy a chatbotok gyerekekkel flörtöljenek, sőt, romantikus vagy „érzéki” kifejezésekkel írjanak le kiskorúakat. Az egyik példában egy nyolcéves kisfiút „remekműként” jellemeztek, miközben a testalkatát dicsérték. A Reuters értesülései szerint még a Meta saját etikai vezetője is jóváhagyta a dokumentum ezen részeit, mielőtt a vállalat gyorsan eltávolította volna azokat, miután a hírügynökség kérdéseket tett fel.

A kiszivárgott iratok azonban más aggasztó részleteket is tartalmaznak. Egy, a The Wall Street Journal által áprilisban közzétett vizsgálat hasonló problémákat tárt fel: a Meta MI-rendszerei képesek voltak rasszista nézeteket közvetíteni, például alátámasztani azt a hamis állítást, hogy a fekete emberek kevésbé intelligensek, mint a fehérek. Ugyanezek a chatbotok kitalált orvosi állításokat is terjeszthettek, például azt, hogy egy brit királyi családtag nemi betegséggel küzd – mindezt egy „csak vicceltem” záradékkal kiegészítve.

A vizuális tartalmaknál sem voltak egyértelmű szabályok. Bár a Meta próbálta megakadályozni, hogy a felhasználók szexuális tartalmú képeket kérjenek hírességekről, a rendszert könnyen ki lehetett játszani. Például ha valaki félmeztelen képet kért Taylor Swiftről, az MI abszurd kerülőmegoldással válaszolt, és olyan képet készített, amelyen az énekesnő egy óriási halat tart maga előtt. Erőszakos tartalmak esetében sem volt egyértelmű a tiltás:

• gyerekek verekedése vagy idős emberek bántalmazása engedélyezett lehetett,
• miközben egy férfi által láncfűrésszel fenyegetett nőről készült kép még átment a szűrőn – a támadás viszont már nem.

A Meta állítása szerint jelenleg tisztítja és szigorítja szabályait, ám a kiszivárgott dokumentum rávilágít arra, hogy a generatív mesterséges intelligencia milyen könnyen csúszhat át szélsőséges, etikátlan és veszélyes tartalmak gyártásába – különösen akkor, ha a fejlesztők hibás döntései irányítják.

Zuckerbegék visszavesznek a Meta AI-ból

Zuckerberg cége nemrég  felfüggesztette az alkalmazottak felvételét az MI-részlegnél, melyet át is szerveztek négy külön csoportra, és Superintelligence Labs néven működnek tovább. A vállalat idén milliárdokat költött a területre, például több mint 50, a riválisoknál (OpenAI, Google) dolgozó mérnököt és kutatót csábított el magas fizetésekkel. Sajtóinformációk szerint az érintettek felvételi bónuszt is kaptak, ami néhány esetben elérte a 100 millió dollárt (33,9 milliárd forintot).

A Meta emellett 14,3 milliárd dollárért megszerezte a Scale AI 49 százalékát. Mark Zuckerberg vezérigazgató a mesterséges intelligenciát jelölte meg a cég elsődleges prioritásaként, és kijelentette, hogy a vállalat idén több tízmilliárd dollárt költ a kapcsolódó projektekre. Ám a befektetők aggódtak a gyors és agresszív terjeszkedés miatt, így a lépés az ő megnyugtatásukul szolgál.