Deepfake-válság: már a hirdetések sincsenek biztonságban

A képmanipuláció már mondhatjuk, hogy évszázados probléma, a valódi fenyegetést azonban a mesterséges intelligenciával (MI) manipulált képek kora hozta el. A deepfake, azaz MI-vel manipulált és/vagy létrehozott képek vagy videók inkább csak problémát okoztak, főleg a személyi jogok megsértésének terén:

• magánszemélyek és közszereplők arcával éltek vissza;
• MI-vel hoztak létre vagy módosítottak képi anyagot 
• különböző szexuális zaklatást ábrázoló anyagokat hoztak létre és
• hamis információt terjesztettek.

Deepfake hirdetések és Jenna Ortega

A közösségi média a kezdetektől fogva ki van téve a különböző megtévesztéseknek, és ezzel nem győzik felvenni a versenyt az oldal üzemeltetői. A Meta platformjai nemrég megdöbbentő problémával néztek szembe: Jenna Ortega színésznőt meztelenül ábrázoló deepfake hirdetések árasztották el a Facebook és Instagram felületeit. A képeket a hírek szerint a RichAds cég által kifejlesztett Perky AI nevű alkalmazás manipulálta, amelyet az Apple App Store-ban olyan platformként írnak le, mely MI segítségével „szuperrealisztikus vagy fantáziaszerű személyeket hoz létre”. A Mashable beszámolója szerint a Perky AI alkalmazás oldalát a Meta azóta már felfüggesztette.

A beszámolók szerint a Perky AI 2023 szeptembere óta 260 különböző, hasonló tematikájú hirdetést futtatott a Meta platformjain – a Jenna Ortegát érintő reklámok csak februárban kezdtek el terjedni. Az alkalmazás hirdetései közül 30-at már így is felfüggesztettek azért, mert „ezek nem feleltek meg a cég hirdetési előírásainak”. A Meta szóvivője, Ryan Daniels leszögezte, hogy a cég teljesen elhatárolódik a gyermekekhez köthető szexuális tartalmaktól és az ezeket létrehozó deepfake-technológiától. „Bár ez az alkalmazás továbbra is széles körben elérhető, eltávolítottuk ezeket a hirdetéseket és a mögöttük lévő fiókokat” – mondta a Meta-szóvivő.

Nem kímélik sem az üzletet, sem a politikát

A deepfake-technológia rohamos fejlődése miatt lassan szabad szemmel sem tudjuk megkülönböztetni az általa készített videókat a valós emberi arcoktól. Sem az üzleti, sem pedig a politikai világ nincs biztonságban: például a kriptoszektor biztonságának alapját adó Know Your Customer (KYC), azaz „ismerd az ügyfeled” protokollt is játszi könnyedséggel ki tudják nemsokára játszani a csalók. A KYC-t a tőzsdék a fiókok létrehozásakor és az extra azonosítást igénylő feladatok során használják jelenleg.

Továbbá 2024 a választások éve is lesz, több mint hatvan országban kerül sor különböző szavazásokra, így hamar ki fog derülni, hogy bevetik-e a mesterséges intelligenciát a kampányok során az ellenfelek lejáratására. Egy ügyes felhasználó képes deepfake-technológiával elmosni a határt valóság és fikció között: láttunk már Balenciaga kabátot viselő Ferenc pápát, hamis karácsonyi üzenetet mondó II. Erzsébet királynőt, de még Vlagyimir Putyint is, ahogy angolul kioktatja az Egyesült Államok vezetőit.

Ahogyan a chatbotok, kép- és videógeneráló modellek esetében, úgy a deepfake esetében is a globális szabályozás szabhat gátat az illetéktelen felhasználásnak. Az Európai Unió tisztségviselői 2023 decemberének elején megállapodtak a mesterséges intelligencia használatát szabályozó, első átfogó törvényekről, amelyek többek között olyan rendszereket érintenek majd, mint a ChatGPT vagy az arcfelismerés, de a jogszabályok legalább 2025-ig nem lépnek hatályba.