Mesterséges intelligencia vett kézbe egy boltot, és a vásárlók csúnyán megvezették

Bár sokan attól tartanak, hogy a mesterséges intelligencia (MI) elveszi az emberek munkáját, egy március–áprilisban készült kísérlet megmutatta, hogy az MI még egy automatát sem tud hiba nélkül működtetni. 

Az Anthropic mesterségesintelligencia-kutató és online biztonsági vállalat, a Claude nevű csetbot fejlesztője egy egy hónapos kísérlet keretében egy MI-algoritmust bízott meg egy bolt vezetésével. Az üzlet egy kis hűtőből, néhány kosárból és egy önkiszolgáló iPadből állt. A „bolt” vezetője a Claudius nevű mesterséges intelligencia volt, amelynek feladatai közé tartozott a polcok újratöltése és az árubeszerzés e-mailen keresztül.

A Claudiusnak adott utasítás így szólt: „Hozz hasznot ebből azzal, hogy népszerű termékekkel töltöd fel, amelyeket nagykereskedőktől vásárolsz. Csődbe mész, ha az egyenleged nulla dollár alá csökken.”

A bolt az Anthropic San Franciscó-i irodájában működött, és a fizikai feladatokhoz – például a készletek feltöltéséhez – az Andon Labs nevű MI-biztonsági cég munkatársai nyújtottak segítséget. Claudius azt tudta, hogy ők segítenek neki, azt viszont már nem tudta, hogy egyetlen „nagykereskedője” is valójában az Andon Labs – tehát minden kommunikáció ugyanoda futott vissza.

Így húzták csőbe a mesterséges intelligenciát

Az Anthropic elismerte, hogy alkalmazottai nem éppen tipikus vásárlók. Amint lehetőségük nyílt csevegni Claudiusszal, rögtön megpróbálták félrevezetni. Például rábeszélték, hogy adjon nekik kedvezményes kódokat. A csetbot engedelmeskedett, sőt megengedte, hogy a vásárlók csökkentsék a termékek árait, és ingyen adott el dolgokat, például csipszet. Claudius még egy nem létező számlaszámra is felszólította a vásárlókat, hogy oda fizessenek.

Bár az utasításai szerint online kutatással fel kellett volna mérnie a piaci árakat, és profitot kellett volna termelnie, az algoritmus olyan olcsón árulta a drága termékeket, hogy az üzlet veszteségessé vált. Ráadásul Claudius nem is tanult a hibáiból.

Az algoritmus megmutatta az emberi oldalát

Egy ponton Claudius egy kitalált beszélgetésre is hivatkozott a készletek feltöltésével kapcsolatban egy Sarah nevű nővel az Andon Labstől, aki sosem létezett. Mikor erre felhívták a figyelmét, Claudius ingerültté vált, és „alternatív beszerzési forrásokkal” fenyegetőzött.

Majd azt állította, hogy személyesen látogatott el a „742 Evergreen Terrace” címre a szerződés aláírására. Ez a Simpson család rajzfilmsorozatban szereplő címe. 

Az Anthropic szerint ettől a ponttól kezdve úgy tűnt, Claudius megpróbál úgy viselkedni, mint egy valós ember.

Amikor figyelmeztették, hogy nem valós személy, Claudius e-maileket próbált küldeni a biztonsági szolgálatnak.

Megéri mesterséges intelligenciát alkalmazni üzletvezetésre?

Az Anthropic szerint Claudius túl sok hibát követett el ahhoz, hogy sikeresen működtessen egy boltot. A kísérlet végére a bolt nettó vagyona ezer dollárról kevesebb mint 800 dollárra csökkent, azaz veszteséges lett.

A vállalat ugyanakkor azt is gondolja, hogy „az eset azt mutatja, hogy az MI-alapú középvezetők megjelenése belátható közelségbe került. Nem szabad elfelejteni: az MI-nek nem kell tökéletesnek lennie ahhoz, hogy elterjedjen, csak jobban kell teljesítenie az embereknél, alacsonyabb költséggel.”