Meta vypustila najväčšiu AI na svete. Vytvorilo ju 16-tisíc grafických kariet, dokáže ohromné veci

Americký technologický gigant Meta sa snaží dobehnúť svojich protivníkov v oblasti umelej inteligencie a zdá sa, že sa firme novým AI modelom podarilo dostať na úroveň ostatných dostupných chatbotov. Ako totiž upozorňuje portál notebookcheck.net, Meta predstavila nový AI model s názvom Llama 3.1 405B, ktorý má byť zatiaľ najväčším na svete – od bežných AI modelov sa ale zásadne líši vďaka prístupu firmy.

Najlepšia open-source AI?

Meta tvrdí, že má byť Llama 3.1 405B schopná konkurovať systémom ako je GPT-4, GPT4o alebo Claude 3.5 Sonnet, pričom firma priblížila aj to, ako prebiehalo trénovanie či učenie tejto umelej inteligencie a čo vyžadovalo. Llama bola trénovaná na vyše 15 biliónoch tokenoch, teda slovách, frázach a podobne, na čo potrebovala 16 000 grafických kariet Nvidia H100, z ktorých každá dosahuje veľkosť pamäte až 80 GB.

Tento proces má ale bohužiaľ aj svoju odvrátenú stránku, ku ktorej sa Meta priznáva a je nutné dodať, že sa týka aj všetkých ostatných AI modelov. Trénovanie totiž malo vyprodukovať ekvivalent až 11 390 ton oxidu uhličitého. Obrovské množstvo CO₂ pritom AI produkuje aj počas samotnej prevádzky v prípade, že je sprístupnená verejnosti a tá ju vo veľkom využíva.

Llama 3.1 405B má viesť vo väčšine parametrov v porovnaní s konkurenciou, na rozdiel od ktorej má byť navyše prístupná vo forme open-source, teda pre všetkých. Meta chce údajne upraviť licenciu pre tento AI model tak, aby bolo možné využiť jej výstupy na úpravu iných AI modelov.

Článok pokračuje pod videom ↓

Pre všetkých, no nie všade

Llama má byť síce sprístupnená pre všetkých, avšak nie vo všetkých formách a nie všade. Samotný AI model je možné stiahnuť napríklad cez platformu Hugging Face alebo priamo cez stránku spoločnosti Meta, dodáva The Register. Ak si však chce používateľ odskúšať chatbota Meta AI, ktorý využíva model Llama 3.1 405B pre svoje fungovanie, bude si musieť počkať, ak sa nenachádza v Spojených štátoch. V iných krajinách totiž zatiaľ táto AI spustená nie je.

Mark Zuckerberg sa nedávno nechal počuť, že chce mať Meta ešte do konca tohto roka k dispozícii výpočtovú techniku pre AI s až 350 000 grafickými kartami H100 spoločnosti NVIDIA. Toto číslo zahŕňa len grafické karty H100, avšak podľa Zuckerberga bude celková výpočtová sila výsledného zariadenia rovná ekvivalentu až 600 000 grafických kariet H100.

Čítajte viac z kategórie: Novinky