Sektor umelej inteligencie urobil hneď niekoľko míľových krokov naraz. Jazykový model na úrovni GPT-3 si už môžeš stiahnuť do počítača a používať ho ako uznáš za vhodné. Prekvapivo to umožnila Meta, na tému ako prvý upozornil portál ArsTechnica.

Nie je tomu dávno, čo sme o jazykovom modeli LLaMA od Mety písali samostatný článok. Táto umelá inteligencia má 7 až 65 miliárd parametrov, vďaka čomu dokáže byť niekoľkonásobne menšia než GPT-3, no poráža ho v niektorých benchmarkoch.

Cieľom tohto AI, ktoré bolo oznámené 24. februára, mala byť v budúcnosti možnosť stiahnuť si ho do akéhokoľvek zariadenia – počítaču, tabletu, telefónu či smart hodiniek, čo umožňuje predovšetkým jeho kompaktnosť.

Na papieri to znie skvele, no nikto nečakal, že sa to podarí v najbližších rokoch. Avšak opak sa stal pravdou.

AI napreduje rýchlejšie než svetlo

Model LLaMA je síce open source, no k trénovacím setom (takzvaným „váham“) majú prístup len kvalifikovaní výskumníci. Bežní ľudia teda mali mať k dispozícii len prakticky nepoužiteľnú verziu. To sa však zmenilo 2. marca, kedy tieto váhy unikli na verejnosť.

V piatok, teda zhruba 2 týždne po tom, ako Meta svoje AI oznámila, softvérový vývojár Georgi Garganov zverejnil verziu, ktorú si môžeš stiahnuť do akéhokoľvek počítača Mac s čipom M1. Malo by pritom ísť o plnohodnotný jazykový model LLaMA aj s váhami.

Následne sa niekomu tento model podarilo sprevádzkovať na Windowse, mobile Google Pixel 6 a dokonca aj na Raspberry Pi. Pri Raspberry Pi však z pochopiteľných dôvodov systém bežal len veľmi pomaly.

Stiahnuť si ho môžeš aj ty, existujú návody

Každý si teda už dnes dokáže stiahnuť a sprevádzkovať model LLaMA so 7 miliardami parametrov, teda vo svojej najslabšej verzii. Nanešťastie ako píše ArsTechnica, model je podľa ich testovania stále veľmi reštriktívny.

Na druhú stranu skonštatovali, že aj na „najslabšom“ M1 Macbooku Air bežal plynule a bol plne použiteľný. Detailný návod na to, ako tieto systémy môžeš spustiť aj ty na svojom blogu zverejnil Simon Willson. Treba však upozorniť, že si vyžaduje pokročilejšie znalosti IT a väčšina ľudí aj tak nemá dôvod si model sťahovať, bude im stačiť ChatGPT.