A képmanipuláció már mondhatjuk, hogy évszázados probléma, a valódi fenyegetést azonban a mesterséges intelligenciával (MI) manipulált képek kora hozta el. A deepfake, azaz MI-vel manipulált és/vagy létrehozott képek vagy videók inkább csak problémát okoztak, főleg a személyi jogok megsértésének terén:
- magánszemélyek és közszereplők arcával éltek vissza;
- MI-vel hoztak létre vagy módosítottak képi anyagot
- különböző szexuális zaklatást ábrázoló anyagokat hoztak létre és
- hamis információt terjesztettek.
Fotó: Shutterstock
Deepfake hirdetések és Jenna Ortega
A közösségi média a kezdetektől fogva ki van téve a különböző megtévesztéseknek, és ezzel nem győzik felvenni a versenyt az oldal üzemeltetői. A Meta platformjai nemrég megdöbbentő problémával néztek szembe: Jenna Ortega színésznőt meztelenül ábrázoló deepfake hirdetések árasztották el a Facebook és Instagram felületeit. A képeket a hírek szerint a RichAds cég által kifejlesztett Perky AI nevű alkalmazás manipulálta, amelyet az Apple App Store-ban olyan platformként írnak le, mely MI segítségével „szuperrealisztikus vagy fantáziaszerű személyeket hoz létre”. A Mashable beszámolója szerint a Perky AI alkalmazás oldalát a Meta azóta már felfüggesztette.
A hirdetések egy elmosódott képet használtak Jenna Ortegáról, amelyen még csak 16 éves, és arra biztatják a felhasználókat, hogy megváltoztathatják a színésznő ruháját, beleértve a fehérnemű levételének lehetőségét is.
A beszámolók szerint a Perky AI 2023 szeptembere óta 260 különböző, hasonló tematikájú hirdetést futtatott a Meta platformjain – a Jenna Ortegát érintő reklámok csak februárban kezdtek el terjedni. Az alkalmazás hirdetései közül 30-at már így is felfüggesztettek azért, mert „ezek nem feleltek meg a cég hirdetési előírásainak”. A Meta szóvivője, Ryan Daniels leszögezte, hogy a cég teljesen elhatárolódik a gyermekekhez köthető szexuális tartalmaktól és az ezeket létrehozó deepfake-technológiától. „Bár ez az alkalmazás továbbra is széles körben elérhető, eltávolítottuk ezeket a hirdetéseket és a mögöttük lévő fiókokat” – mondta a Meta-szóvivő.
Jelenleg a Perky AI már nem elérhető sem az App Store-ban, sem pedig a Play Áruházban.
Fotó: AFP
Nem kímélik sem az üzletet, sem a politikát
A deepfake-technológia rohamos fejlődése miatt lassan szabad szemmel sem tudjuk megkülönböztetni az általa készített videókat a valós emberi arcoktól. Sem az üzleti, sem pedig a politikai világ nincs biztonságban: például a kriptoszektor biztonságának alapját Know Your Customer (KYC), azaz „ismerd az ügyfeled” protokollt is játszi könnyedséggel ki tudják nemsokára játszani a csalók. A KYC-t a tőzsdék a fiókok létrehozásakor és az extra azonosítást igénylő feladatok során használják jelenleg.
A deepfake-ek ellen egyelőre még szabad szemmel is lehet védekezni, de a technológia rohamos fejlődését látva erre már nem sokáig lesz lehetőség.
Továbbá 2024 a választások éve is lesz, több mint hatvan országban kerül sor különböző szavazásokra, így hamar ki fog derülni, hogy bevetik-e a mesterséges intelligenciát a kampányok során az ellenfelek lejáratására. Egy ügyes felhasználó képes deepfake-technológiával elmosni a határt valóság és fikció között: láttunk már Balenciaga kabátot viselő Ferenc pápát, hamis karácsonyi üzenetet mondó II. Erzsébet királynőt, de még Vlagyimir Putyint is, ahogy angolul kioktatja az Egyesült Államok vezetőit.
Ahogyan a chatbotok, kép- és videógeneráló modellek esetében, úgy a deepfake esetében is a globális szabályozás szabhat gátat az illetéktelen felhasználásnak. Az tisztségviselői 2023 decemberének elején megállapodtak a mesterséges intelligencia használatát szabályozó, első átfogó törvényekről, amelyek többek között olyan rendszereket érintenek majd, mint a ChatGPT vagy az arcfelismerés, de a jogszabályok legalább 2025-ig nem lépnek hatályba.
