Tenyérnyi méretű MI-szuperszámítógépet mutatott be az Nvidia
Az Nvidia bemutatta legújabb fejlesztését, a DGX Sparkot: egy tenyérnyi méretű, de petaflopos teljesítményű mesterségesintelligencia-szuperszámítógépet, melyet a cég szerint bárki az asztalára tehet. A cél: visszahozni az MI-fejlesztést a felhőből a helyi gépekre, és ezzel új korszakot nyitni a kutatók, fejlesztők és startupok számára.
A DGX Spark teljesítménye meglepően nagy a méretéhez képest: a rendszer egy petaflopnyi MI-számítási kapacitást kínál, és 128 gigabyte egységes memóriát. Ez elég ahhoz, hogy akár 200 milliárd paraméteres MI-modelleket futtasson, illetve 70 milliárdos modelleket finomhangoljon helyben, felhőszolgáltatás nélkül.
Az Nvidia ezzel egy új fejlesztői kategóriát hozott létre, mely elvileg képes elbírni a legújabb nyelvi modelleket is – például a ChatGPT méretű rendszerek korlátozott, kísérleti változatait.
A cég vezérigazgatója, Jensen Huang a bemutatón felidézte: „2016-ban az első DGX-1-et személyesen adtam át Elonnak, egy kis startupnál, amit OpenAI-nak hívtak – abból született a ChatGPT, és elindult az MI-forradalom. Most ugyanezt a szellemiséget szeretnénk visszahozni: hogy minden fejlesztő a saját asztalán is hozzáférhessen egy MI-szuperszámítógéphez”.
Az új gép a Grace Blackwell GB10 Superchipre épül, amit az Nvidia NVLink-C2C technológiája köt össze a CPU-val, ötszörös sávszélességet kínálva a hagyományos PCIe 5.0-hoz képest. A gépben ConnectX-7-es hálózati vezérlő biztosítja a 200 gigabites adatátvitelt.
Mit ígér az Nvidia DGX Spark?
A Spark egyik fő ígérete, hogy a helyi fejlesztés újra vonzó alternatívává válhat a felhőalapú megoldásokkal szemben. A kutatók például saját adatvédett hálózaton, külső szerverek nélkül próbálhatják ki az új algoritmusokat. Az NYU Global Frontier Lab vezetője, Kyunghyun Cho szerint „a DGX Spark asztali környezetben teszi lehetővé a petaflopos számításokat, ami forradalmasíthatja a gyors kísérletezést és a biztonságos fejlesztést, például az egészségügyi MI-alkalmazásokban”.
Az Nvidia az első példányokat látványos gesztussal indította útjára: Jensen Huang személyesen vitte el az egyik gépet Elon Muskhoz, a SpaceX texasi bázisára – mintegy visszautalva a nyolc évvel ezelőtti történetre, amikor az első DGX-1-et is Musk kapta meg az OpenAI számára.
A DGX Spark már október 15-től előrendelhető az Nvidia weboldalán,
és világszerte elérhető lesz több gyártó, például az Acer, Asus, Dell, HP, Lenovo és MSI kínálatában is. A cég szerint a rendszer nem az otthoni felhasználókat célozza, hanem azokat a fejlesztői csapatokat, akik eddig csak felhőn keresztül fértek hozzá ekkora számítási teljesítményhez. A DGX Spark tehát nem egyszerűen egy újabb gép, hanem egy kísérlet arra, hogy az MI-fejlesztés újra decentralizálódjon. Az Nvidia most azt ígéri, hogy a „felhő helyett az asztalra hozza a mesterséges intelligencia erejét” – a kérdés már csak az, mennyire lesz ez valóban elérhető és gazdaságos az átlagos fejlesztők számára.
Kínának már nincs szüksége az Nvidiára
Kína szigorította a csipimport ellenőrzését: az elmúlt hetekben országszerte a nagyobb kikötőkben vámellenőrcsapatokat mozgósítottak, hogy alaposan átvizsgálják az érkező szállítmányokat. A vizsgált félvezetők, például az Nvidia H20 és az RTX Pro 6000D úgy készültek, hogy megfeleljenek az amerikai exportkorlátozásoknak. A lépés az amerikai intézkedésekre adott válaszként szolgál, mivel Peking célja, hogy csökkentse a fejlettebb technológiák importját, helyette a hazai csipgyártókat preferálja.
Sőt, hatósági utasításra a nagyobb kínai vállalatok, mint a ByteDance és az Alibaba, szeptember közepétől leállították az Nvidia-termékek rendelését és tesztelését. Ez jelentős visszaesést okoz a vállalatnak a kínai piacon, ahol a korábbi korlátozások feloldása ellenére is gyenge maradt a kereslet.
