Elszabadult a TikTok új AI-funkciója: gyümölcsnek nézte a hatalmas sztárt, azonnal le is állították
Az átlag felhasználónak jó játék tud lenni a generatív mesterséges intelligencia, de amikor platformfejlesztésről van szó, akkor egy kis hiba is kínos eredményeket szülhet – erről Elon Musk is sokat tudna mesélni a Grok kapcsán. Most a TikTok futott bele egy kellemetlen szituációba: kénytelenek rövid pórázra kötni a platform új AI-funkcióját, mely automatikusan összefoglal videókat. A probléma azzal van, hogy ezek az összefoglalók látványosan félreértelmezik a videókat – ezek nem egyszerű pontatlanságok, hanem sok esetben teljesen értelmetlen, szürreális leírások.
A TikTok AI overview funkciója eredetileg arra szolgált volna, hogy kontextust adjon a videókhoz, felismerje a bennük szereplő termékeket, illetve ajánlásokat jelenítsen meg a felhasználóknak. A rendszer azonban több esetben teljesen elvesztette a kapcsolatot a valósággal. Az egyik legismertebb és talán legviccesebb példa Charli D’Amelio videóihoz köthető – ő volt a TikTok egyik legkorábbi sztárja, aki egyébként 2020 novemberében elsőként több mint százmillió követővel rendelkezett.
Az AI overview szerint Charli D’Ameliót „különböző feltétekkel ellátott áfonyák gyűjteményeként” írta le, miközben csak egy fehér fal előtt ült és beszélt.
Egy kutyakiképző videójáról pedig, mely a kutyák viselkedését magyarázta, azt állította a rendszer, hogy „egy bonyolult origamiművészeti bemutató” látható rajta – írja a Buseness Insider.
A hibák a zenészeket és filmsztárokat sem kerülték el. Shakira új dalát népszerűsítő videóját az AI „kék alakzatok ismétlődő mozgásaként” értelmezte, míg Olivia Rodrigo egyik promóciós videójáról azt írta, hogy egy arcot „értelmetlen betű- és számsorok” váltanak fel. Több felhasználó szerint úgy tűnt, mintha a rendszer nem is ugyanazt a videót elemezné, hanem teljesen véletlenszerű szövegeket generálna.
A TikTok máris tűzoltásba kezdett
A TikTok a felhasználói visszajelzések után megerősítette, hogy egy időre parkoló pályára teszik az AI-funkciót, legalábbis az általános felhasználását. A vállalat szerint a funkciót mostantól inkább a videókban szereplő termékek felismerésére használják majd, nem pedig a teljes tartalom automatikus leírására. A fejlesztést egyelőre csak korlátozott számú felhasználónál tesztelték az Egyesült Államokban és néhány más piacon.
A cég nem árulta el, pontosan milyen mesterségesintelligencia-modell működtette a rendszert.
Az alkalmazáson belüli leírás szerint részben saját fejlesztésű technológiát, részben külső modelleket használhattak.
A mostani hibák újabb példái annak, hogy még a legfejlettebb AI-rendszerek is hajlamosak hallucinációkra, teljesen kitalált információk előállítására.
A mesterséges intelligenciát fejlesztő cégek hónapok óta azt hangsúlyozzák, hogy az AI hamarosan alapjaiban alakíthatja át a munkaerőpiacot és a digitális szolgáltatásokat. Ehhez képest az olyan hibák, amikor egy videót áfonyáknak vagy origaminak néz a rendszer, súlyos reputációs kockázatot jelentenek.
Eszméletlen tempóban növekszik a TikTok
A TikTok körüli mostani AI-fiaskó azért is különösen kellemetlen a kínai ByteDance számára, mert a vállalat értéke közben elképesztő tempóban nő. A legfrissebb magánpiaci tranzakciók alapján a TikTok anyacégét már mintegy 550 milliárd dollárra (közel 200 ezer milliárd forintra) értékelik, amivel gyakorlatilag a világ legértékesebb technológiai óriásai közé került. Ez az érték már megközelíti a holland ASML piaci kapitalizációját, és meghaladja több globális félvezetőipari szereplő méretét is. A növekedés különösen látványos annak fényében, hogy
tavaly még nagyjából 330 milliárd dolláros értékeltségről beszéltek, vagyis a ByteDance értéke egy év alatt közel kétharmaddal emelkedett.
A befektetők azért is figyelnek minden apró hibára érzékenyen, mert a vállalat egy esetleges jövőbeli tőzsdei bevezetése minden idők egyik legnagyobb technológiai IPO-ja lehetne. A ByteDance ráadásul az amerikai TikTok-betiltási kísérletet is túlélte, miután tavaly decemberben olyan megállapodás született, amely lehetővé tette az alkalmazás további működését az Egyesült Államokban. Ebben a helyzetben egy látványos AI-kudarc nemcsak technológiai blama, hanem súlyos reputációs és üzleti kockázat is lehet egy olyan cégnél, amelynek befektetői már most a következő globális technológiai szuperóriást látják a ByteDance-ben.
