A deepfake-technológia annyira rohamosan fejlődik, hogy hamarosan már az emberi szem sem tudja majd megkülönböztetni az általa készített videókat a valós emberi arcoktól – figyelmeztet Jimmy Su, a Binance kriptotőzsde biztonsági főnöke.
A szakember szerint a mesterségesintelligencia-alapú mozgóképalkotó programok, azaz a deepfake-ek hamarosan annyira fejlettek lesznek, hogy a kriptoszektor biztonságának alapját adó Know Your Customer (KYC), azaz „ismerd ügyfeled” protokollt is játszi könnyedséggel ki tudják majd játszani.
A protokoll lényege, hogy a felhasználó az azonosítási folyamat során videókapcsolatot létesít a egy emberi operátorával, aki élőszóban utasításokat ad neki, például kacsintson a bal szemével, ráncolja szemöldökét, vagy mosolyogjon, ezzel bizonyítva, hogy valóban ő van a vonalban.
A KYC-t a tőzsdék a fiókok létrehozásakor és az extra azonosítást igénylő feladatok során használják jelenleg.
A protokoll eddig nagyon hatékonyan működött, mivel a mesterséges intelligencia elmúlt időszakban látott felfutását megelőzően nem volt mód az ilyesfajta élő videókapcsolatok során semmilyen visszaélés elkövetésére, és a csalók és bűnözők meg sem próbálkoztak vele – egészen mostanáig.
A Binance szakértője, Jimmy Su szerint ahogy a deepfake-ek minősége javul, a használatuk is egyszerűsödik:
A hekkereknek nincs más dolguk, mint keresni egy képet online az áldozatukról, amelynek alapján a program önállóan képes manipulált videók valós idejű generálására.
A technológia már ott tart, hogy az emberi operátorok szóbeli parancsai alapján is képes videók valós idejű manipulációjára. Su szerint a deepfake-eket ma már leginkább csak akkor lehet kiszűrni, ha azt kérjük tőlük, fordítsák oldalra fejüket – ezt a mozdulatot ugyanis egyelőre nem képes leképezni a technológia hibátlanul.
A technológia hiányosságai ellenére a vele való visszaélések már nagyban zajlanak: a fent látható videón például a Binance vezérigazgatója, Chagpeng Zao szájába adtak szöveget, de a vállalat kommunikációs vezetőjének képmásával is visszaéltek már.
Patrick Hillman elmondta: tavaly nyáron csalók egy csoportja korábbi interjúinak felvételeit felhasználva létrehozta az ő deepfake verzióját, amellyel utána Zoom-hívásokat kezdeményeztek különböző kriptodeviza-startupperekkel.
A deepfake Hillman ezek után felajánlotta nekik, hogy – jó pénzért cserébe – a Binance megfontolja termékeik bevezetését a tőzsdére.
Jimmy Su hozzátette: a deepfake-ek ellen egyelőre még szabad szemmel is lehet védekezni, de a technológia rohamos fejlődését látva erre már nem sokáig lesz lehetőség. Tűz ellen pedig tűzzel lehet a leghatékonyabban harcolni, ezért ők saját mesterséges intelligenciát fejlesztenek a csalások kiszűrésére.
