Informatikai felügyelési témavizsgálatot folytatott le több pénzügyi intézménynél az általuk alkalmazott gépi tanulást és mesterséges intelligenciát használó informatikai megoldások IT-biztonsági ellenőrzésére a Magyar Nemzeti Bank (MNB). A vizsgálat három-három – az e megoldásokat már alkalmazó – bankra és biztosítóra terjedt ki.
A felügyelet átvilágította a gépi tanulás és mesterséges intelligencia (GT-MI) alkalmazásának szabályozottsági, ellenőrzési, valamint a kontrollrendszerek hatékonyságát, az ezzel kapcsolatos szervezeti működést, a fejlesztési és üzembeállítási feladatokat, az IT architektúrát, az üzemeltetést, a logikai- és adatbiztonságot, illetve a jogosultságok kezelését.
A hazai pénzügyi intézmények ma elsősorban az ügyfélazonosításkor, számlanyitáskor, marketingben, valamint az ügyfélkapcsolat-kezelésben (CRM) és kampánymenedzsment-folyamataikban alkalmaznak GT-MI-megoldást.
Mivel a GT-MI rendkívül friss kezdeményezés, még rá vonatkozó szabályozási keretrendszer is formálódóban van. Speciális külön szabályozás hiányában a témavizsgálat a pénzügyi intézmények, (viszont)biztosítók, befektetési vállalkozások és árutőzsdei szolgáltatók IT-rendszerének védelméről szóló kormányrendelet, illetve az MNB-nek az IT-rendszer védelméről szóló ajánlása alapján zajlott. Az MNB a téma újdonsága miatt szervezetén belül külön munkacsoportot hozott létre az új, egyedi vizsgálati módszertan kidolgozására és alkalmazására.
Forradalmi átalakulást hoz a vállalati világban a mesterséges intelligenciaA jövőben a vállalatok és a pénzintézetek napi működésében és életében egyre jelentősebb szerepet tölt majd be a mesterséges intelligencia – derült ki azon a tanácskozáson, amelyet az MBH Bank, hazánk egyik vezető hitelintézete szervezett vállalati ügyfelei számára a múlt héten. A tanácskozáson neves hazai szakértők osztották meg véleményüket a hallgatósággal a mesterséges intelligenciáról. |
A GT-MI IT-biztonsági kérdései mellett
az MNB olyan specifikus kockázatokat is áttekintett, hogy az érintett bankok, biztosítók által alkalmazott megoldás hogyan illeszkedik az intézmény stratégiájába, illetve hogy a folyamatokkal kapcsolatos döntéseket kellő szakértelem bevonásával, specifikus kockázatelemzéssel hozták-e meg.
A vizsgálat kiterjedt arra is, hogy a pénzügyi intézmények megfelelően kezelték-e az ügyfelek személyiségi jogait, a személyes, a különleges (akár biometrikus) adatokat.
Az MNB vizsgálta, hogy az intézmények gondoskodtak-e a tömeges összekapcsolt adatok védelméről, számoltak-e a modellből történő visszafejtés lehetőségére. Vizsgálati téma volt, hogy automatizált döntéshozatal esetén az intézmény alkalmazott-e minőségi kontrollt, és hiba esetén felülvizsgálta-e a döntéseket. Felmérte-e a gyártói támogatás megszűnése esetén alkalmazandó eljárásokat, különös tekintettel a rendszeresen újratanítandó modellekre.
Fontos szempont volt, hogy a vizsgált bankok, biztosítók kitértek-e a GT-MI tanítása során az „adatmérgezés” (adatbázisokban szereplő hibás modellek, információk) felismerésére vagy a széles körben választott mintákkal történő tanításra a diszkrimináció kivédése érdekében.
Az alkalmazott technológia jellemzőire vonatkozó tesztelések megtörténte mellett az MNB azt is vizsgálta, hogy az algoritmusok – különösen a folyamatos újratanítást igénylők – alkalmasak lehetnek-e egyes döntések felidézésére szükség esetén.
Az MNB témavizsgálata nem tárt fel a jelenlegi jogszabályokat sértő kockázatokat, hiányosságokat.
A felügyelet ugyanakkor több olyan (az intézményeknek vizsgálati levélben elküldött) javaslatot is megfogalmazott, amelyek – bár nem jogszabálysértő, ám mégis kezelendő – problémákra vonatkoznak. Ezek főként a kockázatelemzés, szabályozottság, tesztelések hiányából vagy nem teljes körű voltából fakadtak.
A témavizsgálat célja az volt, hogy az MNB megismerje a GT-MI mai felhasználási területeit, és értékelje egy ezzel kapcsolatos esetleges felügyeleti iránymutatás szükségességét, illetve elkészült módszertanát beépítse általános IT-felügyeleti vizsgálati módszertanába. Így a GT-MI-megoldások vizsgálata az MNB további átfogó vizsgálataiban is kiemelt fókuszt kap.
