Zatiaľ čo systémy AI si podmanili svet, inžinieri z Nvidie stihli pripraviť systém, ktorý ich urobí ešte výkonnejšími. Spoločnosť totiž predstavila úplne novú triedu superpočítačov, ktoré budú slúžiť na trénovanie ďalšej generácie modelov AI. Na tému upozornil portál NewAtlas.

Nvidia predstavila nový „superčip“

Nový systém dostal označenie Nvidia DGX GH200 a podľa všetkého bude schopný dodať neuveriteľný 1 exaflop výkonu (10¹⁸). Ako ďalej upozorňuje spoločnosť na svojom webe, nová trieda superpočítača vo svojich útrobách spája až 256 čipov Grace Hopper Superchips do jediného GPU. Celý systém je pritom navrhnutý tak, aby zvládal tie najnáročnejšie „odporúčacie systémy“ (recommender systems), ale tiež generatívnu AI a rôzne veľké analýzy.

Systém bude navyše disponovať 144 TB zdieľanej pamäte. Pre porovnanie, to je takmer 500-krát viac, ako poskytoval predchádzajúci superpočítač Nvidie s kódovým označením DGX A100 predstavený len pred 3 rokmi.

Spoločnosť sa evidentne z tohto systému snažila vyťažiť aj poslednú kvapku energie, keďže každý GH200 sa skladá zo spomínaných procesorov Grace a tiež CPU H1000 Tensor Core, ktoré sú uložené v jednom balíku.

To umožňuje až 7-krát rýchlejšiu komunikáciu, ako bežné PCIe pripojenie. Všetky čipy sú prepojené cez systém „Nvidia NVLink Switch System“, aby spolu fungovali ako jedna gigantická GPU.

Posledné uvedené v podstate vyplýva zo samotnej povahy „superčipov“ Grace Hopper, ktoré eliminujú potrebu pripojenia PCIe CPU-GPU a to vďaka kombinácii systémov CPU Grace a GPU Hooper v jednom balíku. To podľa spoločnosti tiež až 5-násobne znižuje energetickú spotrebu.

Podľa informácií dostupných na webe TheRegister sa tak Nvidia môže pochváliť novým systémom, ktorý disponuje celkovo 18 432 jadrami, 256 GPU a 144 TB pamäte. Ako už zrejme tušíš, DGX GH200 bude ako stvorený pre prevádzkovanie veľmi veľkých modelov.

Konkrétne by mal byť systém využívaný na trénovanie nástupcov aktuálne využívaných generatívnych AI a veľkých jazykových modelov. Za zmienku stojí aj fakt, že najslávnejší zo systémov AI (ChatGPT) bol trénovaný na vlastnom superpočítači, ktorý Microsoft postavil z desiatok tisíc starších GPU A100 od Nvidie.

Nvidia však neplánuje zostať len pri tomto systéme. Jedným dychom totiž oznámila aj príchod, respektíve plány na vybudovanie vlastného superpočítača s názvom Helios, ktorého srdce bude tvoriť práve systém DGX GH200.

Presnejšie by mal Helios pozostávať zo štyroch navzájom prepojených systémov DGX GH200, alebo teda 1024 superčipov GH200. Helios tak podľa všetkého poskytne až 4 exaflopy výpočtového výkonu.

Nový najvýkonnejší superpočítač sveta?

Aktuálne najvýkonnejším superpočítačom sveta je Frontier US DOE s 1, 194 exaflopmi. Na prvý pohľad tak vyzerá, že Nvidia tento superpočítač tromfne až takmer 4-násobne. Je tu však jeden problém. Nvidia totiž využíva menej presný benchmark s označením FP8. Vo svete sa však využívajú omnoho presnejšie FP64.

Inak povedané, ak by sa Helios hodnotil systémom FP64, dosiahol by výpočtový výkon na úrovni 0,036 exaflopu. Stále teda pôjde o neuveriteľne výkonný stroj, avšak na aktuálneho kráľa superpočítačov zatiaľ nemá.