Deep fake – egyre nehezebb elválasztani az igazat a hamistól a neten

Az ukrajnai orosz háború harmadik hetében egy furcsa videó kezdett terjedni az interneten: Volodimir Zelenszkij ukrán elnök sötétzöld felsőben, lassan és megfontoltan beszélt egy Ukrajna címerével díszített pulpitus mögül, teste a fejét leszámítva alig mozdult, és miközben szónokolt, hangja torznak, rekedtesnek tűnt. Arra szólította fel az ukránokat, hogy adják meg magukat az oroszoknak. 

Arra kérem önöket, hogy tegyék le a fegyvert, és menjenek vissza a családjukhoz. Ebben a háborúban nem éri meg meghalni. Azt javaslom, hogy éljenek tovább, és én is ezt fogom tenni

– mondta Zelenszkij a videóban, amelyet hamar hamisítványként, úgynevezett deep fake-ként azonosítottak.

Pár évvel ezelőtt még senki sem hallott a deep fake-ekről, vagyis a mesterséges intelligencia segítségével készített, meggyőzőnek tűnő, de hamis videó- és hangfájlokról, amelyek mára már az életünk részévé váltak, és ahogy Zelenszkij példája is mutatja, akár háborúk befolyásolására is használhatják őket. A hamis Zelenszkij-videón kívül széles körben terjedni kezdett egy másik deep fake videó is, amelyben Vlagyimir Putyin orosz elnök békét hirdet az ukrajnai háborúban.

A dezinformáció és a tartalomhitelesítés szakértői évek óta aggódnak a hazugságok és a félrevezető információk deep fake-eken keresztüli terjesztésének lehetősége miatt, különösen azért, mert egyre valósághűbbek ezek a kamuvideók.

Általánosságban elmondható, hogy a deep fake-ek viszonylag rövid idő alatt rengeteget fejlődtek, állítja a CNN Business. Igaz, ez éppen a már említett két videón (Zelenszkijén és Putyinén) nem látszik, hiszen azok rossz minőségűek, feltűnően alacsony felbontásúak, amely egyébként árulkodó jele annak, hogy hamisítványról van szó, hiszen a pixelek a hibákat is elfedik.

Nagyon meggyőzők voltak viszont azok a kamuvideók, amelyek tavaly terjedtek el a TikTokon, és amelyeken Tom Cruise volt látható golfozás közben, vagy amint éppen hasra esik egy ruhaüzletben. Ezek a tartalmak milliós nézettséget értek el, és rendkívül valósághűre sikeredtek.

Ahogy a deep fake videók egyre gyakoribbá válnak az interneten, úgy lesz egyre nehezebb elválasztani a tény a fikciótól.

Hatványozottan igaz ez egy olyan háború esetében, amelyik lényegében az interneten zajlik, és tele van félretájékoztatással. Egy ilyen helyzetben még egy rossz minőségű deep fake is veszélyes lehet.

Már 2019-ben is voltak aggályok, hogy a deep fake befolyásolni fogja a 2020-as amerikai elnökválasztás végkimenetelét. Mások mellett Dan Coats, az amerikai nemzeti hírszerzés akkori igazgatója is erre figyelmeztetett, de ezek a félelmek akkor nem váltak valóra, ez azonban Siwei Lyu, az Albany Állami Egyetem számítógépes látás- és gépitanulás-laboratóriumának igazgatója szerint ez egyszerűen csak az akkori technika fejletlenségének köszönhető, nem a szándék hiányának. Szerinte akkor nehezebb volt élethű deep fake-et készíteni, ma már könnyebb.

Az is megváltozott, hogy mire használják ezeket a tartalmakat. Jelenleg háborús befolyásolásra is alkalmasak, ami különösen veszélyes. Lyu úgy vélekedik, hogy normális körülmények között a deep fake-nek nem sok hatása lehet azon túl, hogy felkelti az érdeklődést és elterjed az interneten. „De kritikus helyzetekben, egy háború vagy egy nemzeti katasztrófa idején, amikor az emberek tényleg nehezebben tudnak racionálisan gondolkodni, és csak valóban rövid ideig tudnak figyelni, akkor problémává válik” – fogalmazott.

Azonban nemcsak a deep fake technológia egyre fejlettebb, hanem a felismerésére szolgáló eszközök is.

A kutatók és a vállalatok próbálnak lépést tartani a hamisítókkal, ami nem egyszerű feladat. Lyu megoldása például az volt, hogy létrehozott egy DeepFake-o-meter nevű platformot, ahová bárki feltölthette a gyanús videókat, hogy ellenőrizhesse azok hitelességét. Néhány vállalat, például a kiberbiztonsági szoftvereket kínáló Zemana is dolgozik saját szoftverén.

Az automatizált észleléssel azonban vannak problémák, és Lyu úgy véli, az embereknek végül nagyobb szerepük lesz az ilyen tartalmak visszaszorításában, mint a szoftvereknek. Szeretné, ha kialakulna egyfajta deep fake vadász program, és az emberek pénzt kapnának azért, hogy felkutassák ezeket a videókat az interneten. Lyu szerint ugyanis semmi sem vetekedhet az emberi szem képességeivel.