Mesterséges intelligencia – tovább növelheti a Nyugat dominanciáját

A jelenlegi mesterségesintelligencia- (MI) modellekbe kialakításuk és képzésük révén már eleve kódolva van annak a kulturális közegnek a gondolkodásmódja, értékrendje, amelyből fejlesztőik származnak. E modellek globális térnyerésével párhuzamosan fennáll a veszélye annak, hogy azok az általuk generált válaszokkal az eltérő kultúrák eltérő perspektíváit háttérbe szorítják. Ezzel észrevétlenül hozzájárulnak ahhoz, hogy a mesterséges intelligenciát fejlesztő államok kulturális értékeinek globális dominanciája tovább erősödjön. E folyamatnak hosszú távon fontos társadalmi-politikai következményei lehetnek.

A kulturálisan elfogult mesterséges intelligencia

A jelenlegi generatív mesterségesintelligencia-megoldások alapját az úgynevezett nagy nyelvi modellek adják. Betanításukhoz rengeteg szöveges anyagra van szükség, és ezeket a modellek képzését végző szakemberek főleg az internetről (kisebb mértékben pedig könyvekből, illetve más forrásokból) szedik össze. A betáplált szövegek gondolati sémái, a bennük felfedezhető értékrend és nyelvi struktúrák ugyanakkor jelentős mértékben meghatározzák a modellek által előállított tartalmakat. Minél több, az MI betanítására felhasznált forrásban fordul elő ugyanis hasonló mintázat, annál valószínűbb, hogy az a nyelvi modellek által generált produktumokban is meg fog jelenni.

Kutatók a jelenség kapcsán észrevették, hogy a manapság leginkább elterjedtnek számító modellek gondolatfűzésében kitapintható egyfajta általános értelemben „nyugatinak” mondható, közelebbről vizsgálva pedig inkább az angolszász, protestáns, individualista, gazdag és demokratikus országok gondolkodását visszatükröző értékrend. Ennek egyik oka az, hogy e modellek betanítása során túlnyomórészt angol nyelvű forrásokat használtak (az interneten elérhető weboldalak közel fele még ma is angol nyelvű, és a bejegyzett weblapok többsége az Egyesült Államokban található). A másik ok viszont az, hogy a modellek működését az alapjaikat lefektető, az algoritmusaikat kidolgozó, illetve a válaszaikat kiértékelő emberek kulturális háttere, világnézete, előítéletei, tudományos módszertana és problémamegoldási eszközei is számottevő mértékben befolyásolják. Mivel a legtöbb nagy nyelvi modellt jelenleg az Egyesült Államokban fejlesztik, azok mélyen meghúzódó struktúrái az ottani (elsősorban hímnemű, fehér, illetve kelet-ázsiai származású) fejlesztők gondolkodását, kulturális normáit tükrözik vissza.

Kulturális hegemónia, puha hatalomgyakorlás és MI

A manapság is sokat idézett olasz gondolkodó, Antonio Gramsci a múlt század első harmadára koncentrálódó munkásságával irányította rá a figyelmet a kulturális hegemónia fogalmára. Eszerint egy uralkodó csoport a nyers erőszakon túl azáltal is fenntarthatja hatalmát, ha más csoportok nézeteit, normáit és értékrendjét úgy formálja, hogy az a saját világnézetét tükrözze. Ezáltal ugyanis e domináns csoport felfogása tűnhet a közmegegyezéses értékrendnek, így pedig csak kevesekben merül fel, hogy bizonyos problémákat ettől eltérő módon is lehetne szemlélni.

A hatalomgyakorlás eszköztárának, az érdekérvényesítésnek tehát fontos dimenziója, hogy az egyes szereplők mennyire hathatósan tudják keretezni a világ eseményeit, és mennyire sikeresen juttatják érvényre saját narratívájukat, illetve normarendszerüket. A nyugati országok és kiváltképp az Egyesült Államok már hosszú ideje élen járnak effajta puha hatalmi képességeik felépítésében és megőrzésében. A globális softpowerrangsort jelenleg is az Egyesült Államok vezeti, és jelentősen felül vannak benne reprezentálva az angolszász, illetve az európai országok.

E domináns pozíciónak a megőrzéséhez nagyban hozzájárulhat a mesterséges intelligencia fejlesztése, mivel az javarészt a fejlett nyugati országokban, illetve a softpowerrangsorban egyébként második helyen lévő Kínában folyik. A nyugati világban létrehozott nagy modellek ugyanis amiatt, hogy visszatükrözik készítőik normarendszerét, tovább fokozzák a világ kulturális homogenizálódását, ezzel párhuzamosan pedig az alulreprezentált kultúrák gondolkodásmódjának, szempontjainak a marginalizálódását. A folyamatot még jobban felerősíti az, hogy ezeket a modelleket manapság már a keresőmotorokba is beépítik, így azok egyfajta pozitív visszacsatolás révén önerősítő köröket hoznak létre, és használóiknak egyre kiemeltebb helyen kínálják a beléjük kódolt értékrendnek megfelelő, ám egyoldalú tartalmakat.

Mindez hosszú távon egyfajta kulturális neokolonializmust vagy technológiai gyarmatosítást is magával vonhat. Ez azt jelenti, hogy a háttérbe szoruló kultúrák képviselői fokozatosan képtelenné válnak saját valóságuk megkonstruálására, sőt – ami ennél is rosszabb – episztemológiai korlátok közé kerülnek, hiszen egyre jobban ki lesznek téve annak, hogy a világ történéseit egyetlen, a nyugati kultúrkörre jellemző nézőpontból ismerjék meg és értelmezzék. A folyamat természetesen valamilyen módon ki fog hatni az adott kultúra közbeszédére, társadalmi normáinak átalakulására és ezáltal a politikai folyamataira is, főleg, ha az övétől idegen alapokra épülő mesterséges intelligencia használata mind kiterjedtebbé válik az oktatásban.

Az előnytelen helyzetbe kerülő csoportok hátrányos helyzetét emellett a fenti kulturális dominancia egy másik aspektusa még tovább fokozhatja. Egyes kutatók szerint mivel ezek a modellek alapvetően az angolszász kultúrkörhöz kötődnek és az angol nyelvre épülnek, sokkal jobb eredményeket produkálnak, ha felhasználóik is angolul, illetve a nyugati logikának megfelelő módon adnak nekik parancsokat. Vagyis azoknak a kultúráknak a képviselői, akik nem anyanyelvi szinten beszélik az angolt, és a nyugatitól eltérő módon közelítik meg a problémákat, rosszabb minőségű válaszokat kaphatnak, és ezért számos területen hátrányba kerülhetnek az angol nyelvű, nyugati felhasználókkal szemben. Ez pedig még jobban megnövelheti a közöttük húzódó szakadékot, például a produktivitás vagy a tudományos kutatások terén. Ha pedig a fenti jelenségek révén a fejlett országok továbbra is dominálni tudják az adat- és ismeretáramlást, meg tudják erősíteni a korábbi évszázadok során megszerzett gazdasági és politikai vezető pozíciójukat.

Hogy lehetne mindezt kivédeni?

Jelenleg mindössze a mesterségesintelligencia-fejlesztésben szintén élen járó Kínának van esélye arra, hogy ezt a nyugati dominanciát megtörje. Az ország MI-fejlesztési versenyben való részvétele azonban nem feltétlenül járul hozzá a helyzet kiegyensúlyozottabbá tételéhez. A kínai mesterséges intelligenciában ugyanis nemcsak implicite, hanem explicit módon is jelen vannak a helyi politikai elit kulturális értékválasztásai, hiszen az országban előírás, hogy az ott fejlesztett modellek által előállított tartalmaknak tükrözniük kell a szocialista alapértékeket, és ezért nem generálhatnak az államhatalom által felforgatónak minősített állításokat, információkat (jó példája ennek, hogy az év elején a köztudatba berobbant DeepSeek nem hajlandó a Tienanmen téri vérengzésekről és más hasonlóan érzékeny témákról beszélgetni).

A mesterségesintelligencia-rendszerekbe beépült kulturális meghatározottságok kiiktatása, illetve mérséklése szükség esetén valószínűleg megoldható lenne. Ennek egyik legkézenfekvőbb módja, ha az egyes országok digitális szuverenitásuk megteremtése jegyében olyan saját modelleket alkotnának, amelyek alapvetően az ő kultúrájuk tartalmaira, attitűdjeire épülnek, s ezáltal az ő értékeiket tükrözik vissza. A technológia fejlesztésének erőforrás-szükségleteit figyelembe véve azonban ez a megoldás egyelőre nem tűnik reálisnak.

A problémát a mostani fejlesztőcégek is enyhíthetnék, ha ebben érdekeltté válnának. Javulást ugyanis akár azzal is el lehetne érni, ha programozócsapataik tagjainak kevésbé homogén szociokulturális háttere lenne, ha az MI képzésébe bevont anyagokban és azok felhasználása során erősítenék a diverzitást, illetve ha a különböző modellek által generált anyagokat rendszeresen auditálnák, és az auditok eredményeire támaszkodva az újabb képzések során tudatosan törekednének a hibák orvoslására. További segítséget jelentene, ha az MI működésével kapcsolatban sikerülne nemzetközileg elfogadott, a kisebb országok érdekeit is figyelembe vevő irányelveket lefektetni, és ezeket az érdekelt országok törvényhozói is adaptálnák a saját jogrendszerükbe, hogy a fejlesztőcégek ezekhez igazodva dobják piacra újabb termékeiket.

Van-e reális esély a változásra?

Az már eddig is nyilvánvaló volt, hogy a mesterséges intelligencia fejlesztésének jelentős hatása lehet a különböző modellek létrehozásában részt vevő országok hatalmi pozíciójára, emiatt pedig a területen nagy versengés bontakozhat ki a nagyhatalmak között azért, hogy ki szerezze meg az elsőbbséget. Ez az elsőbbség viszont nemcsak jól körülírható gazdasági és katonai előnyökkel jár, hanem egy sokkal kevésbé megfogható területen, a puha hatalomgyakorlás szempontjából is hatással van a fejlesztő országok pozícióira, azok más nemzetek feletti befolyásának biztosítására, illetve növelésére.

A jövőben tehát ez is egy figyelemre méltó aspektusa lehet a mesterséges intelligencia fejlesztése terén kibontakozó globális versengésnek. Éppen ezért, bár vélhetően nyílna lehetőség a modellekbe belekódolt egyoldalúságok, leegyszerűsítések és torzítások kiiktatására, erősen kérdéses, hogy ennek megtétele a marginalizált kultúrák képviselőin kívül bárkinek ténylegesen az érdekében áll-e. Jelenleg ugyanis a fejlesztés irányát néhány jelentős erőforrásokkal bíró állam, illetve vállalat határozza meg, és nem valószínű, hogy ez az oligopolista közösség a globális társadalom nézőpontját és érdekeit a saját nézőpontja és érdekei elé kívánná sorolni.