Nvidia oznámila príchod prelomovej platformy Blackwell, ktorá umožňuje spoločnostiam vytvárať a prevádzkovať generatívnu AI v reálnom čase na veľkých jazykových modeloch s biliónmi parametrov pri až 25-krát nižších nákladoch a spotrebe energie ako jej predchodca. Očakáva sa, že táto inovácia odomkne prelomové objavy v rôznych oblastiach vrátane spracovania údajov, inžinierskych simulácií, automatizácie elektronického dizajnu, počítačom podporovaného navrhovania liekov, kvantových výpočtov a generatívnej AI.

Na tému upozornila Nvidia na svojom webe.

Prelomová novinka

Architektúra GPU Blackwell obsahuje šesť transformačných technológií určených pre zrýchlené výpočty (pozn. redakcie: paralelné výpočty, distribuované výpočty a pod.) Medzi významné pokroky patria aj nové jadrá Tensor Cores a kompilátor TensorRT-LLM, ktoré spoločne znižujú prevádzkové náklady a spotrebu energie pri odvodzovaní LLM až 25-krát. Vďaka tomu je platforma Blackwell vysoko efektívnym riešením na spúšťanie rozsiahlych modelov umelej inteligencie.

Nvidia

Platforma získala širokú podporu od hlavných poskytovateľov cloudových služieb, výrobcov serverov a popredných spoločností zaoberajúcich sa AI vrátane spoločností Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla a xAI. Široké prijatie platformy technologickými gigantami je prísľubom revolučnej zmeny výpočtovej techniky v rôznych odvetviach.

Architektúra obsahuje aj piatu generáciu technológie prepojenia počítačov NVIDIA, NVLink s obojsmernou priepustnosťou na úrovni 1,8 terabajtov za sekundu. Mimo to Nvidia, označuje GPU s architektúrou Blackwell vybavenú 208 miliardami tranzistorov za najvýkonnejší čip na svete.

Masívny superčip

Predstavený bol tiež masívny superčip GB200 Grace Blackwell Superchip, ktorý  spája dva GPU NVIDIA B200 Tensor Cores  s procesorom NVIDIA Grace. Superčip GB200 Grace Blackwell, ktorý pozostáva z viacerých čipov v jednom balíku, sľubuje až 30-násobné zvýšenie výkonu pre úlohy LLM inferencie v porovnaní s predchádzajúcimi iteráciami.

Nvidia

GB200 je kľúčovým komponentom  NVIDIA GB200 NVL72 , viacuzlového, kvapalinou chladeného rackového systému pre najnáročnejšie úlohy. Spája v sebe 36 superčipov Grace Blackwell, ktoré obsahujú celkovo 72 GPU Blackwell a 36 CPU Grace vzájomne prepojených NVLink-om piatej generácie.

Celá platforma pritom slúži ako jediný GPU s 1,4 exaflopmi výkonu AI a 30 TB rýchlej pamäte a je stavebným kameňom pre najnovší DGX SuperPOD (infraštruktúra AI dátového centra)

Tento pokrok má byť predzvesťou transformačnej éry v oblasti výpočtovej techniky, pričom potenciálne aplikácie sa v budúcnosti rozšíria aj mimo tradičných oblastí, vrátane herného segmentu.

Čítajte viac z kategórie: Novinky