A ChatGPT sokat segíthet munkánk során, de cserébe nagy árat követel

A különböző mesterségesintelligencia- (MI) eszközök, mint a ChatGPT használata ronthatja a kritikus gondolkodásra való képességünket az MIT Media Lab egy friss tanulmánya szerint.

A kutatásban 54-en vettek részt a 18–39 év közötti korosztályból, akiket három csoportba osztottak, és az amerikai egyetemi felvételeket fontos szerepet betöltő SAT esszék írására kértek, miközben agyi aktivitásukat is figyelték EEG-készülék segítségével – írja a Time. Az első csoport használhatta a ChatGPT valamelyik modelljét, a második a Google keresőjét, míg a harmadik semmilyen digitális segítséget nem kapott.

A ChatGPT elkényelmesít

Az eredmények alapján a ChatGPT használóinál volt tapasztalható a legkisebb agyi aktivitás, miközben a kísérlet hónapjai alatt egyre lustábbakká is váltak, a kutatás végén pedig többen már csak a másolás-beillesztés folyamatra hagyatkoztak.

A szakmai ellenőrzésen (peer review) még át nem esett tanulmány szerint a nagy nyelvi modellek (LLM) valójában gátolhatják a tanulást, különösen a fiatalabb felhasználók körében. Nataliya Kosmyna, a tanulmány fő szerzője azért hozta az eredményeket nyilvánosságra az ellenőrzés előtt, mert attól tart, hogy az ehhez szükséges hat-nyolc hónapban lesz olyan döntéshozó, aki már az óvodában bevezetné a mesterséges intelligencia használatát, ami 

Az MIT Media Labs az elmúlt időszakban más, a mesterséges intelligenciával szemben kritikus tanulmányokat is megjelentetett, például arról, hogy minél több időt beszélget valaki egy csetbottal, annál magányosabbnak érzi magát. Kosmyna azonban kifejezetten a technológia iskolai hatását szerette volna kutatni, hiszen egyre több diák használ MI-eszközöket a házi feladatokhoz. Ezért íratott 20 perces SAT esszéket a kísérlet résztvevőivel, olyan témákról, mint a filantrópia etikája vagy épp a túl sok választási lehetőség árnyoldalai.

Az MI-eszközöket használók lélektelen alkotásokat hoztak létre

A ChatGPT-t használó csoport írásai rendkívül hasonlók lettek, melyekből hiányoztak az eredeti gondolatok, miközben még a felhasznált kifejezések is hasonlók voltak. Az értékelésüket végző két tanár is lélektelennek nevezte az esszéket. A résztvevők jó része a harmadik feladatnál már csak egyszerűen megadta a promptot a modellnek, és átmásolta a kapott választ. Az EEG is azt mutatta, hogy ez a csoport nem különösebben erőltette meg magát. 

A segédeszközt nem használó csoport esetében volt a legmagasabb a neurális aktivitás, legyen szó az agy kreatív gondolkodásért, memóriáért vagy épp szemantikai feldolgozásért felelős részeiről. A kutatók szerint 

A Google Search segítségével dolgozó csoport szintén elégedett volt munkájával, és nagy agyi aktivitást mutatott, ami azért lehet fontos, mert egyre többen használnak csetbotot a keresőoldalak helyett.

Miután három esszét megírtak a résztvevők, az egyiket újra kellett írniuk, de az eddig ChatGPT-t használók többé nem használhatták ezt az eszközt, míg azok, akik korábban nem kaptak segédeszközt, most megkapták az MI-modell segítségét. Míg az előbbi csoport alig emlékezett a korábbi írásaira, addig a második továbbra is erős agyi aktivitást mutatott, ami a kutatók szerint felveti annak a reményét, hogy lehet ezeket az eszközöket a tanulás javítására használni.

Kosmyna azt is elmondta, hogy azért hozták a tanulmányt nyilvánosságra a peer review előtt, mert már ma is egyre több a kérdés a mesterséges intelligencia oktatási célú felhasználása körül. A kutató szerint azonban az analóg tudásszerzésre szükség van az agy fejlődése során, amit a törvényalkotásnak is követnie kell, és ezen eszközök használatát is érdemes lenne kísérletekkel megelőzni. 

A kutatóval dr. Zishan Khan gyermek- és ifjúsági pszichiáter is egyetért, szerinte a ChatGPT és más LLM-ek túlzott használata gátolja például az információk elérését szolgáló neurális kapcsolatok kiépülését, más szóval a memória képességét.

A tanulmány az MI-összefoglalóknak is csapdát állított

A tanulmányban mindemellett csapdákat is elrejtettek, gondolva arra, hogy sokan csak az LLM-ek által készített összefoglalókat fogják elolvasni. Ezért az MI-modellek számára is találhatók utasítások, hogy egyes részeket hagyjanak ki, garantálva, hogy az összefoglalók csak korlátozott eredményeket adnak. A csetbotok azonban nemcsak elvettek a tanulmány tartalmából, de hozzá is gondoltak részeket, így azt állították, hogy a felhasznált modell a GPT-4o volt, noha ez sehol sem szerepel a szövegben.

A kutatók most egy másik, hasonló kutatáson dolgoznak, amely a szoftvertervezők agyi aktivitását vizsgálja ezen eszközök használata során, hiszen ez az a terület, ahol a csetbotokat leggyakrabban használják. Kosmyna szerint az eredmények még rosszabbak, aminek súlyos következményei lehetnek, miután egyre több tech cég cseréli csetbotokra a belépő szintű pozíciókat. Bár ez növelheti a hatékonyságot, 

A mesterséges intelligencia hatásait vizsgáló kutatások még csak most kezdődnek, és persze az eredmények is különbözők. Egy májusi Harvard-kutatás például arra jutott, hogy az MI-eszközök használata ugyan növeli a dolgozók produktivitását, ám csökkenti a motivációját, míg egy MIT-kutatás szerint a mesterséges intelligencia javítja a termelékenységet.

Bár Kosmyna és társainak kutatása csupán kis elemszámú, nem ellenőrzött kutatás, a hangnem mindenképpen különbözik a technológiát kritikátlanul ünneplő, a szektor részvényeit és vállalatértékeléseit az egekbe röpítő narratíváktól.