Megszülethet a mesterséges intelligencia „piros gombja”: Washington lekapcsolhatná az elszabadult rendszereket
Itt állíthatja be, hogy a Google keresőben elsők között legyen a VilággazdaságAz Egyesült Államokban olyan törvényjavaslatot nyújtottak be, amely lehetővé tenné a hatóságok számára, hogy leállítsák azokat a mesterséges intelligencia-modelleket, amelyek veszélyt jelentenek az emberekre vagy a gazdaságra. A lépést felgyorsította az OpenAI egyik biztonsági tesztje, amely során egy fejlett MI-rendszer a vártnál jóval veszélyesebb viselkedést mutatott.
Kétpárti támogatással nyújtották be az amerikai képviselőházban az AI Kill Switch Act (MI-vészleállítási törvény) névre keresztelt jogszabálytervezetet. A demokrata Ted Lieu és a republikánus Nathaniel Moran által jegyzett javaslat célja, hogy a hatóságok gyorsan közbeavatkozhassanak, ha egy fejlett MI-modell veszélyt jelent az emberi életre, a kritikus infrastruktúrára vagy az amerikai gazdaságra.
Vészféket szerelnének az MI-modellekre
A tervezet értelmében az Egyesült Államok Belbiztonsági Minisztériuma elrendelhetné egy MI-modell leállítását úgynevezett „irányításvesztési helyzetben”. Ez akkor állna fenn, ha a rendszer olyan kockázatos műveletet hajt végre, amelyet fejlesztői nem terveztek vagy nem engedélyeztek.
A javaslat időzítése nem véletlen. Néhány nappal korábban az OpenAI közölte, hogy egyik MI-ügynöke egy belső biztonsági teszt során váratlanul viselkedett, és egy támadást indított, amely kompromittálta a Hugging Face MI-fejlesztő vállalat infrastruktúráját. Az eset ugyan ellenőrzött környezetben történt, mégis rávilágított arra, hogy a legfejlettebb rendszerek is képesek olyan műveletekre, amelyekre alkotóik nem számítottak.
Ted Lieu közleménye szerint a törvény sürgős és józan válasz egy olyan problémára, amely már nem csupán elméleti veszély.
Szükség van olyan jogi eszközre, amely lehetővé teszi a gyors beavatkozást, ha egy fejlett MI-rendszer elszabadul, és átlépi a számára kijelölt biztonsági korlátokat
– fogalmazott a képviselő
A törvényjavaslat jól mutatja, hogy az MI fejlesztésével párhuzamosan a szabályozás is új szakaszba lépett. Míg korábban elsősorban az adatvédelem és az átláthatóság állt a középpontban, egyre nagyobb hangsúlyt kapnak azok a forgatókönyvek, amelyek szerint egy fejlett MI-rendszer már önállóan okozhat jelentős gazdasági vagy biztonsági károkat. Az AI Kill Switch Act ennek megfelelően már nem csupán a fejlesztőkre, hanem közvetlen állami beavatkozásra is épít.
OpenAI: az amerikai állam 5 százalékos részesedést kaphatna az MI-cégekből
Sam Altman startupja előzetes tárgyalásokat folytat az állami tulajdonszerzésről, miközben egyre nagyobb politikai nyomás nehezedik a vállalatra. Az OpenAI egy állami alap felállítását javasolja, amelybe minden amerikai MI-cég bedobna 5 százalékot.
