Nvidia predstavila superpočítač s umelou inteligenciou, ktorý ťa zrazí do kolien
Zatiaľ čo systémy AI si podmanili svet, inžinieri z Nvidie stihli pripraviť systém, ktorý ich urobí ešte výkonnejšími. Spoločnosť totiž predstavila úplne novú triedu superpočítačov, ktoré budú slúžiť na trénovanie ďalšej generácie modelov AI. Na tému upozornil portál NewAtlas.
Nvidia predstavila nový „superčip“
Nový systém dostal označenie Nvidia DGX GH200 a podľa všetkého bude schopný dodať neuveriteľný 1 exaflop výkonu (1018). Ako ďalej upozorňuje spoločnosť na svojom webe, nová trieda superpočítača vo svojich útrobách spája až 256 čipov Grace Hopper Superchips do jediného GPU. Celý systém je pritom navrhnutý tak, aby zvládal tie najnáročnejšie „odporúčacie systémy“ (recommender systems), ale tiež generatívnu AI a rôzne veľké analýzy.
Systém bude navyše disponovať 144 TB zdieľanej pamäte. Pre porovnanie, to je takmer 500-krát viac, ako poskytoval predchádzajúci superpočítač Nvidie s kódovým označením DGX A100 predstavený len pred 3 rokmi.
Spoločnosť sa evidentne z tohto systému snažila vyťažiť aj poslednú kvapku energie, keďže každý GH200 sa skladá zo spomínaných procesorov Grace a tiež CPU H1000 Tensor Core, ktoré sú uložené v jednom balíku.
To umožňuje až 7-krát rýchlejšiu komunikáciu, ako bežné PCIe pripojenie. Všetky čipy sú prepojené cez systém „Nvidia NVLink Switch System“, aby spolu fungovali ako jedna gigantická GPU.
Posledné uvedené v podstate vyplýva zo samotnej povahy „superčipov“ Grace Hopper, ktoré eliminujú potrebu pripojenia PCIe CPU-GPU a to vďaka kombinácii systémov CPU Grace a GPU Hooper v jednom balíku. To podľa spoločnosti tiež až 5-násobne znižuje energetickú spotrebu.
Podľa informácií dostupných na webe TheRegister sa tak Nvidia môže pochváliť novým systémom, ktorý disponuje celkovo 18 432 jadrami, 256 GPU a 144 TB pamäte. Ako už zrejme tušíš, DGX GH200 bude ako stvorený pre prevádzkovanie veľmi veľkých modelov.
Konkrétne by mal byť systém využívaný na trénovanie nástupcov aktuálne využívaných generatívnych AI a veľkých jazykových modelov. Za zmienku stojí aj fakt, že najslávnejší zo systémov AI (ChatGPT) bol trénovaný na vlastnom superpočítači, ktorý Microsoft postavil z desiatok tisíc starších GPU A100 od Nvidie.
Nvidia však neplánuje zostať len pri tomto systéme. Jedným dychom totiž oznámila aj príchod, respektíve plány na vybudovanie vlastného superpočítača s názvom Helios, ktorého srdce bude tvoriť práve systém DGX GH200.
Presnejšie by mal Helios pozostávať zo štyroch navzájom prepojených systémov DGX GH200, alebo teda 1024 superčipov GH200. Helios tak podľa všetkého poskytne až 4 exaflopy výpočtového výkonu.
Nový najvýkonnejší superpočítač sveta?
Aktuálne najvýkonnejším superpočítačom sveta je Frontier US DOE s 1, 194 exaflopmi. Na prvý pohľad tak vyzerá, že Nvidia tento superpočítač tromfne až takmer 4-násobne. Je tu však jeden problém. Nvidia totiž využíva menej presný benchmark s označením FP8. Vo svete sa však využívajú omnoho presnejšie FP64.
Inak povedané, ak by sa Helios hodnotil systémom FP64, dosiahol by výpočtový výkon na úrovni 0,036 exaflopu. Stále teda pôjde o neuveriteľne výkonný stroj, avšak na aktuálneho kráľa superpočítačov zatiaľ nemá.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
článok týždňa Prišla spása spaľovákov. Nový diesel má extrémnu efektivitu a spotrebu, ktorá prekoná aj elektromobil
Boja sa Rusov. Prvá krajina EÚ dostane najpokročilejšiu obranu sveta, stroskotal na nej aj Irán
Niečo zvláštne sa stalo 3 sekundy po štarte. Nová správa o havárii Air India šokuje
Recenzia TEST: Renault Kangoo ukazuje, že SUV nie je jediná možnosť. A možno ani najlepšia
Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
NAJČÍTANEJŠIE ZO STARTITUP
Rekordný júl: Odvážny Slovák stavil 200-tisíc eur, ďalší zbohatol o 13 332 %
Svetoznámu influencerku zo Slovenska sleduje 6,9 milióna ľudí: Na Tyršáku odhalí, prečo odišla do zahraničia
Vedci rozlúštili 3 000 rokov starý poklad z Babylonu. Pomohla im umelá inteligencia
Polícia vyšetruje úmrtie 4-ročného chlapca. Tragédia sa odohrala pri Liptovskej Mare
Nehoda lietadla pri Londýne: Letisko uzatvorili, stroj sa premenil na ohnivú guľu
- 24 hod
- 48 hod
- 7 dní
-
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
- Ľudstvo rieši energetickú krízu, zatiaľ čo nás potichu ničí ešte desivejší problém
- VIDEO: V Kanade natočili pri búrke záhadnú modrú guľu. Môže ísť o fenomén, ktorý rozdeľuje vedu
- Archeológovia ostali v nemom úžase. V Poľsku objavili tisíce rokov staré pyramídy
- Prišla spása spaľovákov. Nový diesel má extrémnu efektivitu a spotrebu, ktorá prekoná aj elektromobil
-
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
- Stellantis bankrotuje, Volkswagen zatvára závod. Globálni výrobcovia majú problém na dôležitom trhu
- Ľudstvo rieši energetickú krízu, zatiaľ čo nás potichu ničí ešte desivejší problém
- Slováci tajne dovážajú smartfóny z Ázie za stovky eur lacnejšie. Prečo sa im to oplatí a ako škodia operátorom?
- Koniec drahého odsoľovania: Z morskej vody vedci získajú čistú vodu aj drahú surovinu
-
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- V spoľahlivosti nemajú konkurenciu. Týchto 5+1 automobiliek má najlepšie motory (PREHĽAD)
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
- Benzín a nafta definitívne skončili. Čerpacie stanice ich nahradia „novými“ palivami, vieme kedy
- Slovensko čaká najväčšia dopravná novela za roky. Nový zákon udrie na cestných pirátov aj e-kolobežky (PREHĽAD)
Poslanci európskeho štátu chcú zaviesť kuriózny poplatok. Zaplatíš za to, že prechádzaš jeho územím
ÚRSO varuje: Brusel nás môže uvrhnúť do energetickej krízy, môže za to plyn
Slovensko je pod paľbou. Trumpove clá môžu stáť krajinu miliardy aj 20-tisíc miest
Hotovosť je pasé: Slováci prechádzajú na digitálne platby rýchlejšie než kedykoľvek predtým
Energetici idú modernizovať Slovensko. Čaká nás prerábka, aká tu ešte nebola
NAJČÍTANEJŠIE ZO STARTITUP