A tamagocsi visszatér a sírból, de sokan máris megrémültek a Meta új játszótársától, amely mindent megfigyel
Itt állíthatja be, hogy a Google keresőben elsők között legyen a VilággazdaságA Meta egy tenyérnyi, Tamagotchira emlékeztető eszközzel vinné ki a mesterséges intelligenciát a telefonok képernyőjéről a való világba. A Muse Charm decemberben kerülhet piacra és a Meta Muse nevű AI-asszisztensének fizikai kiterjesztése lesz. Arra szolgál, hogy az AI ne csak egy alkalmazás legyen, hanem állandóan jelen legyen a felhasználó mellett. Éppen ez adja a legnagyobb adatvédelmi kockázatot is: minél többet lát, hall és értelmez a környezetből egy folyamatosan velünk lévő AI, annál nehezebb megmondani, hol ér véget a kényelmes szórakozás, és hol kezdődik a megfigyelés.
Amikor testet ölt az AI
A Muse abban különbözik egy egyszerű beszélgetős AI-tól, hogy nemcsak válaszol, hanem feladatokat is végrehajthat a felhasználó helyett. E-mailt kezelhet, utazást vagy éttermet foglalhat, vásárolhat, naptárral dolgozhat, információt kereshet, és más szolgáltatásokhoz is hozzáférhet, ha ehhez engedélyt kap.
A Muse Charm ezt a rendszert teszi folyamatosan elérhetővé anélkül, hogy minden alkalommal elő kellene venni a telefont:
- a kamerákkal például meg lehet mutatni valamit a Muse-nak, amely megpróbálhatja felismerni vagy értelmezni azt;
- meg lehet kérdezni tőle, mi van előttünk;
- rá lehet bízni egy vásárlás előkészítését;
- üzenetek kezelését vagy egyszerűbb ügyintézést.
A Meta elképzelése lényegében az, hogy az MI használata ne külön feladat legyen, hanem folyamatosan jelen legyen a mindennapokban.
A Muse Charm legnagyobb problémája
A legnagyobb kérdés az, hogy mi történik akkor, amikor a mesterséges intelligencia már nemcsak azt tudja, amit begépelünk neki, hanem egyre többet érzékelhet abból a fizikai környezetből is, amelyben mozgunk. A Meta az okosszemüvegeinél már tesztel egy „super sensing” néven emlegetett rendszert, amely folyamatosan érzékelheti a hangokat, és néhány másodpercenként képet készíthet arról, amit a viselő lát, és ezt megkapná a Muse is.
Ebben az esetben az AI élőben feldolgozhatja a kamera és a mikrofon jelét, felismerheti a tárgyakat, helyeket, embereket vagy beszélgetések részleteit, majd információt nyerhet ki belőlük.
A nyers kép akár azonnal törölhető, miközben a rendszer már megtanulta, hogy hol jártunk, mit láttunk vagy kivel találkoztunk. Ez nem egyszerű videózás, hanem folyamatos digitális térérzékelés és adatgyűjtés lehet, ami felvet fontos kérdéseket.
Ki adott ehhez engedélyt?
Összetett kérdés a Muse Charm használata, ugyanis a tulajdonosa egyértelműen beleegyezik, elfogadja a Meta feltételeit és engedélyezheti a kamerát vagy a mikrofont. A körülötte lévő emberek azonban nem: egy kolléga, pincér, járókelő, családtag vagy vendég könnyen adat lehet egy AI-rendszer számára úgy, hogy erről nem tud, és soha nem járult hozzá.
Európában ez különösen komoly jogi akadályokat teremthet. A GDPR alapján ugyanis nemcsak a mentett videó számít adatkezelésnek:
már az is aggályos lehet, ha egy rendszer azonosítható emberről információt gyűjt, elemez vagy következtetéseket von le.
Arcfelismerésnél pedig biometrikus adatok is megjelenhetnek, amelyekre még szigorúbb szabályok vonatkoznak.
A szabályozás azért is nehéz, mert a jelenlegi jog jelentős része olyan kamerákra készült, amelyekről tudjuk, hol vannak, mikor rögzítenek és meddig őrzik a felvételt. Egy folyamatosan mozgó, MI-alapú eszköznél viszont azt is meg kellene határozni, hogyan értesíthető mindenki arról, hogy a környezetét éppen elemzi egy másik ember készüléke.
Már a Muse működése is megmutatta a kockázatokat
Az aggályok nem teljesen elméletiek, már van is aggasztó példa: a Muse egyik felhasználója széles jogosultságot adott az MI-ügynöknek egy Facebook Marketplace-ügylet kezeléséhez, a rendszer pedig végül kiadta a lakcímét egy vevőnek, aki meg is jelent a helyszínen. A Meta ezt követően az engedélyezési rendszer módosítását ígérte.
Egy másik kutatás pedig olyan sérülékenységet talált a Muse rendszerében, amely potenciálisan érzékeny felhasználói adatokhoz, például e-mailekhez és fájlokhoz is hozzáférést tehetett lehetővé.
Mindezektől függetlenül a Muse Charm nem minősül állandóan működő megfigyelőeszköznek, de a Meta egyértelműen abba az irányba halad, hogy olyan AI-t hozzon létre, mely nemcsak beszél velünk és cselekszik helyettünk, hanem idővel azt is láthatja és hallhatja, amit mi. A legfontosabb kérdés az lesz, hogy hogyan fog ez átmenni a szabályozókon, ugyanis nagyon nem mindegy, mit lát és hall az AI, miből gyűjt adatot, főleg akkor, ha még engedélyt sem adtunk rá.
