Mesterséges intelligencia: mégsem a méret a lényeg − elérhettük a fejlődési plafont?
Az elmúlt évtizedben a mesterségesintelligencia- (MI) kutatás alapjává vált az a tézis, miszerint egy MI-modell akkor lesz okosabb, mint elődei, ha nagyobbá válik: több információt dolgoz fel tanulása közben, több adathoz fér hozzá a válaszadás során, nagyobb számítási kapacitással tud dolgozni.
A skálázás és a mesterséges intelligencia
Ez a felvetés a „kínai Google”, a Baidu műhelyéből pattant ki még 2017-ben, öt évvel a ChatGPT világhódító útjának elindulása előtt, a jelenség elnevezése, a skálázási törvények hívószó viszont már a ChatGPT-s OpeanAI-hoz köthető, akik 2020-ban kvázi bebizonyították ezt a tézist, amit egészen napjainkig alapvetésként fogad el az MI-szakma.
Nem véletlenül: az elmúlt években, főleg a ChatGPT berobbanása óta számolatlanul döntik a pénzt az MI-fejlesztésbe a kockázatitőke-alapoktól az intézményi nagybefektetőkön át egészen a lakossági kisbefektetőkig a tőkepiacok minden fodrában és a cégek minden egyes érettségi szakaszában, az eddigi befektetések pedig busás hozamokat hoztak számukra.
Elég csak arra gondolni, hogy a folyamathoz csak áttételesen kapcsolt Nvidia részvényei 850 százalékot emelkedtek két év alatt.
Egyes kutatók azonban elkezdték kongatni a vészharangot: véleményük szerint ugyanis a skálázhatóság ugyan egy pontig minden kétséget kizáróan működött, ám ez nem lesz mindig így, sőt − a jelenlegi fejlettségi szintek jelenthetik a platót a folyamatban, innentől pedig csak az eddiginél sokkal kisebb, kvázi tőkearányos megtérülésre érdemes számítani az MI-fejlesztéstől.
A vészmadárhangokat több friss iparági fejlemény támasztja alá, ezek közül a legfontosabbnak talán az OpenAI nemrégiben belső tesztelésre bocsátott, Orion névre keresztelt modelljének teszteredményei tekinthetők, melyek a szakértők szerint elmaradtak a várakozásoktól, és az Andreessen Horowitz kockázatitőke-alap állásfoglalása szerint tökéletesen prezentálják, hogy a több pénz és több adat innentől fogva nem hoz már akkora teljesítményjavulást a modellek számára, mint eddig.
Ez persze csak egy vélemény, amelyből találni bőven a másik oldalon is.
Az Anthropic MI-cég egy közleményben egyenesen tagadta, hogy ennek a tézisnek bármilyen valóságalapja volna, szerintük egyelőre semmi sem támasztja alá, hogy a skálázhatóság véget ért. Az Andreessen Horowitz azonban messze nem az egyetlen, a témában érintett fél, amely aggodalmaskodik a fejlődés gátjai miatt. Gary Marcus író, az MI-szektor egyik legismertebb szószólója egy friss nyilatkozatában úgy fogalmazott:
Vannak bizonyos matematikai törvények, amelyek megmutatják, milyen pálya mentén kellene fejlődjön az MI-jük. A valóság viszont egyértelműen elmarad ezektől az előrejelzésektől. Elértük azt a plafont, amelyről én 2022 óta beszélek.
