A nagy AI-sztori: tűz ellen tűzzel – ez az MI ára

A mesterséges intelligencia egyszerre gyógyír és méreg – egy igazi „farmakon”, amelyben ugyanaz rejlik megoldásként és veszélyforrásként. A nagy AI-sztori legújabb epizódjában Keleti Arthur kiberbiztonsági szakértővel beszélgettünk arról, milyen kockázatokat és lehetőségeket hordoz az MI a digitális térben, és miért lehet a kiberszuverenitás a következő évtized egyik legnagyobb stratégiai kérdése. A beszélgetés állandó résztvevője ezúttal is Aczél Petra kommunikációkutató volt, aki a Széchenyi István Egyetem professzora.

A nagy AI-sztori legújabb epizódját itt tekinthetik meg:

A mesterséges intelligencia egyre emberibb nyelven kommunikál, mégis átláthatatlan a működése. „Az emberek hajlamosak túlzott bizalmat adni az AI-nak, csak azért, mert úgy tűnik, mintha értené őket. Ez illúzió, hiszen a neurális hálózat belső logikája számunkra megfejthetetlen” – hangsúlyozta Keleti Arthur. A jelenséghez hozzátartozik az MI „hallucinációja” is: amikor magabiztosan állít valótlanságokat. Aczél Petra szerint ez új kommunikációs kihívás: „Ha egy technológia ennyire meggyőzően tud hazudni, az gyökeresen változtatja meg, hogyan tekintünk a hitelességre”.

Tűz ellen tűzzel

Az MI megjelenése a kiberbűnözésben új szintet hoz. Automatizált támadások, személyre szabott átverések és a deepfake technológiák tömeges elterjedése várható. „A mesterséges intelligenciát a támadók is használják, ezért a védekezésben is alkalmaznunk kell. Tűz ellen tűzzel lehet küzdeni” – figyelmeztetett Keleti Arthur. A veszély ugyanakkor lehetőséget is rejt: 

A podcast egyik kulcsgondolata a kiberszuverenitás volt. Kié az adat, hol tárolják, ki fér hozzá, és milyen szabályok alapján működik egy-egy rendszer? „A kiberszuverenitás elvesztése egy ország jövőjét sodorhatja veszélybe. Ha a digitális teret nem tudjuk kontrollálni, akkor a gazdaság és a társadalom felett is elveszítjük az irányítást” – mondta Keleti Arthur. Aczél Petra ehhez hozzátette: „Ez nem pusztán technológiai kérdés, hanem politikai és kulturális is. Az MI-val kapcsolatos döntések megmutatják, milyen világban szeretnénk élni.”

A beszélgetés során felmerült az is, hogy meddig engedjük a mesterséges intelligenciának az önálló cselekvést. Ha a döntéseket fokozatosan gépekre bízzuk, mi marad az emberi felelősségből? „Az MI nem lehet alany, csak eszköz. De ha minden lényegi döntést rábízunk, könnyen elveszíthetjük saját kontrollunkat” – figyelmeztetett Keleti Arthur.

Részletek a beszélgetés tartalmából:

• Az MI mint „farmakon”: gyógyír és méreg egyszerre (03:00)
• Hallucinációk és a túlzott bizalom veszélyei (08:00)
• Hogyan használják a kiberbűnözők az MI-t, és miért kell tűzzel küzdeni a tűz ellen (15:00)
• Kiberszuverenitás – miért ez a jövő egyik legnagyobb stratégiai kockázata (22:00)
• Emberi felelősség és gépi döntések: hol húzódjon a határ?  (30:00)

A korábbi podcastjeinket itt hallgathatják meg.