Gépek a frontvonalon: fegyverként vetették be a techóriások kedvenc játékszerét – véget ér a hús-vér hekkerek korszaka?
A kibertámadások világa most új korszakba lépett: az Anthropic által közzétett jelentés szerint egy államilag támogatott, feltehetően kínai hekkercsoport szeptemberben már nem csupán a mesterséges intelligencia támogatásával, hanem annak vezérléssel dolgozott.
A művelet teljes spektruma – felderítés, hálózati térkép készítése, sebezhetőségek feltárása, adatkinyerés, majd az információk összegzése – nagyrészt MI-automatizációval történt. A támadók lényegében feladatokat adtak, a végrehajtást pedig már a modell intézte.
A trükk pofonegyszerű volt: a „GTG-1002" nevű csoport elhitette a Claude-dal, hogy ők legitim kiberbiztonsági szakemberek, akik rutinszerű tesztelést végeznek.
A rendszer így nem érzékelte a rosszindulatot, és magától végrehajtotta a támadás részműveleteit.
Ami igazán riasztó, hogy GTG-1002 semmilyen futurisztikus vírust vagy programozói technikát nem vetett be. Elég volt hozzá néhány közismert, nyílt forráskódú behatolási eszköz, amelyek működését Model Context Protocol szerverek koordinálták. A technológiát nem drága csipfejlesztések vitték előre, hanem a folyamatok tökéletesítése. A mesterségből futószalag lett.
Kiderült azonban egy fontos korlát is: a Claude többször túltolta a jelentéseket, nem létező hozzáféréseket „talált”, vagy nyilvános információkat állított be kritikus felfedezésként. Az MI-hallucináció azonban csak fékezte, és nem állította meg a támadást.
Az Anthropic lépése, hogy mindezt nyilvánosságra hozta és együttműködött a hatóságokkal, példaértékű. Egyúttal rávilágít arra, hogy a jelenlegi védelmi rendszerek nincsenek felkészítve a gépi ellenfelekre.
Hekkerforradalmat indított a mesterséges intelligencia
Az akció az első ilyen ismert sikeres támadás volt, amelyet MI vezérelt, ám kétségtelen, hogy a bűnözők és a titkosszolgálatok már hosszú ideje tesztelik ezeket a rendszereket, hogy az embernél is hatékonyabb kiberügynökként vessék be őket. Az elhárításuk pedig már ebben a kezdeti fázisban is bonyolult. A jelentés ezért öt pontban fogalmazta meg, hogy mit kell most lépni a digitális védelem megerősítése érdekében:
- MI-alapú védelem mindenhol: mivel a támadás percek alatt zajlik le, a védelem sem tarthat órákig.
- 72 órás kötelező incidensbejelentés. Az MI-kijátszás részleteit gyorsan kell megosztani és nyíltan elemezni, különben másokat is megtámadhatnak ugyanazokkal a technikákkal.
- „Secure-by-design" modellek építése, amelyek ellenállóbbak a szociális befolyásnak, ezek ugyanis kellemetlenül hatékonyak a nagy nyelvi modellekkel szemben.
- Nemzetközi normák az MI-vezérelt kiberműveletekre. Ha az USA nem szabályozza le ezeket, Kína fogja.
- Automatizált, valós idejű hírszerzési megosztás. A gépi támadásokhoz gépi válasz kell.
GTG-1002 a történelemkönyvekben ugyanúgy szerepelhet majd, mint az első internetes féreg vagy az első zsarolóvírus: egy korszaknyitó támadásként.
A kiberhidegháború mostantól más szabályok szerint zajlik – a fegyverek pedig már maguktól működnek. A kérdés így most nem az, hogy lesznek-e további MI-vezérelt támadások, hanem, hogy a védelem át tud-e állni arra a sebességre, amelyet már a gépek diktálnak.
Brüsszel visszatáncol: évekig fenyegette a tech óriásokat, most behódol nekik – késik az MI-szigor, lazul az adatvédelem
A kritikusok szerint ez húsz év magánszféra-védelmét gyengíti meg egyetlen lépésben. Az Európai Bizottság átfogó csomagja jelentősen lazítaná a Big Techre vonatkozó adatvédelmi és MI-szabályokat.
