Deepfake-korszak: bárki gyárthat hamis valóságot ingyen vagy pár euróért – kisokos segít felismerni az MI-tartalmakat
A villamosmegállóban görgetett videók, a közösségi médiában felbukkanó, „megdöbbentő” felvételek vagy épp hírességek szájába adott mondatok egyre gyakrabban nem a valóságot tükrözik. Hosszú ideig magától értetődő volt, hogy amit videón látunk vagy hangfelvételen hallunk, az valóban megtörtént – a mozgókép bizonyítéknak számított. A mesterséges intelligencia (MI) azonban ezt az alapvető bizalmat írta felül: ma már meggyőzően hamis arcok, hangok és jelenetek is készíthetők, amelyek érzelmileg és vizuálisan is hitelesnek tűnnek.
Erre reagálva készített MI-kisokost az Umbrella Collective, amely nem algoritmusokat vagy technológiai részleteket magyaráz, hanem olyan visszatérő mintákat és jeleket mutat meg, amelyek segítenek felismerni, ha egy tartalom mesterséges intelligencia által készült.
Egyre több a megtévesztő tartalom
„Az Umbrella által készített kisokosnak alapvetően tájékoztató, edukációs jellege van, hiszen ahogy fejlődik a technológia, úgy egyre több MI felhasználásával előállított tartalommal találkozunk, sokszor anélkül, hogy tudnánk, hogy mesterséges intelligencia által készített tartalomról van szó” – mondta a Világgazdaságnak Bíró Áron, az Umbrella Collective operatív igazgatója.
Hozzátette: ez rengeteg veszélyt rejt, ezért ha egy tartalommal kapcsolatban bizonytalanok vagyunk, érdemes tudatosan végigmenni egy ellenőrzési folyamaton.
Bárki gyárthat már hamis valóságot mesterséges intelligenciával
A technológia mára széles körben elérhetővé vált:
akár ingyenesen vagy néhány euróért is lehet olyan alkalmazásokat használni, amelyekkel valósághű tartalmak állíthatók elő.
Ez azt is jelenti, hogy híres emberek szájába olyan mondatok adhatók, amelyek soha nem hangzottak el. A fejlődés üteme ráadásul rendkívül gyors, és egyelőre nem látszik, hol lehet a határa.
Nem a nagy hibák, hanem az apró jelek számítanak
A kisokos szerint az első és legegyszerűbb kapaszkodó az, ha egy tartalom egyértelműen jelölve van: egyre több platform és készítő tünteti fel, ha mesterséges intelligenciát használ, például „AI generated” vagy hasonló megjelöléssel. Ez segít abban, hogy a felhasználó kontextusban értelmezze a látottakat, és ne feltételezze automatikusan, hogy valódi eseményről van szó.
Ha ilyen jelölés nincs, akkor a felismerés sokszor finom részleteken múlik. A mesterséges intelligencia ugyanis nem mindig „érti” a fizikai világ működését:
- a szájmozgás furcsán alakulhat beszéd közben,
- a fej vagy a test mozgása túl sima vagy darabos lehet,
- a tekintet nem reagál a környezetre,
- miközben a háttérben szereplők torzulhatnak vagy hiányosak lehetnek.
Az is gyanús lehet, ha minden „túl jól működik”: az arc, a hang és a gesztusok tökéletesen illeszkednek egymáshoz, az érzelmek eltúlzottak vagy ismétlődnek, a hangsúly pedig végig azonos marad. Az emberi kommunikáció ugyanis természeténél fogva nem ennyire szabályos.
Az arc, a karakter és a részletek nem állnak össze
A kisokos külön kiemeli a karakterkonzisztencia problémáját: MI által generált szereplők esetében előfordul, hogy képkockáról képkockára finoman változik
- az arc,
- a szem,
- a hajvonal
- vagy akár a testarány,
mintha a karakter folyamatosan „újraszámolódna”. Emellett az is árulkodó lehet, ha valaki több nyelven, ugyanazzal a hangszínnel és akcentus nélkül szólal meg, vagy ha különböző platformokon visszatérően jelennek meg nagyon hasonló arcok és karakterek, mintha ugyanannak a „mintának” a variációi lennének.
Az arcok megjelenése is beszédes lehet: az MI gyakran túl sima, „olajos” hatású bőrt hoz létre, eltüntetve a pórusokat és a mikroárnyékokat, ami elsőre esztétikus, de természetellenes.
A forrás hiánya és a terjedés módja is jelzés
A kisokos szerint nemcsak a kép vagy a hang vizsgálata fontos, hanem az is, hogy honnan származik a tartalom. Gyanús lehet, ha egy videó sok helyen megjelenik, de nincs egyértelmű eredeti feltöltése, vagy ha csak újrafeltöltött változatok terjednek.
Különösen igaz ez hírességek esetében: ha egy ismert személy szerepel egy videóban, de az nem jelenik meg a hivatalos csatornáin, és nincs hiteles megerősítés, akkor érdemes fenntartásokkal kezelni.
A legveszélyesebb, ha „túl jól passzol”
A mesterséges intelligencia által generált tartalmak gyakran nemcsak vizuálisan, hanem érzelmileg is célzottak. Előfordul, hogy pontosan azt mondják, és azt a reakciót váltják ki, amit a néző elvár, mintha „neki készültek volna”.
Ez különösen megtévesztő lehet, mert az ilyen tartalmak megerősítik a meglévő véleményeket, és emiatt könnyebben is terjednek.
A kisokos arra is felhívja a figyelmet, hogy nem minden mesterséges intelligencia által előállított tartalom teljesen generált. Gyakran meglévő képeket módosítanak, apró, de jelentős eltérésekkel, amelyek elsőre nehezen észrevehetők, mégis torzítják a valóságot.
Nem félni kell tőle, hanem megtanulni használni
„Az MI egy eszköz, amit jóra is lehet használni. Gyorsíthat munkafolyamatokat, az emberek mindennapi életét is segítheti. A legfontosabb a transzparencia és az, hogy ne féljünk a technológiától, hanem ismerjük meg és edukálódjunk” – hangsúlyozta Bíró Áron.
Hozzátette: a médiaszereplőknek és a tartalomgyártóknak is felelősségük van abban, hogy egyértelműen jelezzék az MI használatát, a felhasználóknak pedig tudatosan kell viszonyulniuk a látottakhoz.
A kisokos szerint a digitális térben a látvány és a hang önmagában már nem bizonyíték. A felismerés első lépése nem technikai, hanem emberi: megállni egy pillanatra, kérdéseket feltenni, és nem azonnal továbbosztani a tartalmat. Ez a tudatosság nem bizalmatlanságot jelent, hanem annak felismerését, hogy a döntés szabadsága a felhasználó kezében maradjon.
Az Umbrella Collective MI-kisokosa hamarosan ingyenesen elérhető lesz a közösségi platformokon, és célja, hogy ebben a gyorsan változó digitális környezetben kapaszkodót adjon a felhasználóknak.
A mesterséges intelligenciánál a hozzáadott érték a Szent Grál
Muszáj nyitott szemmel járni, hiszen a filmiparban csak az tudja megállni a helyét, aki folyamatosan keresi az innovációt – mondta a Világgazdaságnak adott interjújában Hidvégi Zoltán, az Umbrella Collective társalapítója és vezérigazgatója. A hazai piac egyik legnagyobb filmipari szolgáltató cégének vezetője arról is beszélt, hogy a mesterséges intelligenciától nem félni kell, hanem inkább lehetőségként kell rá tekinteni, ők eddig csak felvettek embereket a technológia miatt.
Ajánlott videók
