Konečne je to tu. Umelú inteligenciu si môžeš stiahnuť aj do telefónu, je lepšia než ChatGPT
Sektor umelej inteligencie urobil hneď niekoľko míľových krokov naraz. Jazykový model na úrovni GPT-3 si už môžeš stiahnuť do počítača a používať ho ako uznáš za vhodné. Prekvapivo to umožnila Meta, na tému ako prvý upozornil portál ArsTechnica.
Dostaň Fontech do svojich Google odporúčaní
Pridať ako preferovaný zdroj Fontech, odkaz sa otvorí v novom okneNie je tomu dávno, čo sme o jazykovom modeli LLaMA od Mety písali samostatný článok. Táto umelá inteligencia má 7 až 65 miliárd parametrov, vďaka čomu dokáže byť niekoľkonásobne menšia než GPT-3, no poráža ho v niektorých benchmarkoch.
Cieľom tohto AI, ktoré bolo oznámené 24. februára, mala byť v budúcnosti možnosť stiahnuť si ho do akéhokoľvek zariadenia – počítaču, tabletu, telefónu či smart hodiniek, čo umožňuje predovšetkým jeho kompaktnosť.
Na papieri to znie skvele, no nikto nečakal, že sa to podarí v najbližších rokoch. Avšak opak sa stal pravdou.
AI napreduje rýchlejšie než svetlo
Model LLaMA je síce open source, no k trénovacím setom (takzvaným „váham“) majú prístup len kvalifikovaní výskumníci. Bežní ľudia teda mali mať k dispozícii len prakticky nepoužiteľnú verziu. To sa však zmenilo 2. marca, kedy tieto váhy unikli na verejnosť.
V piatok, teda zhruba 2 týždne po tom, ako Meta svoje AI oznámila, softvérový vývojár Georgi Garganov zverejnil verziu, ktorú si môžeš stiahnuť do akéhokoľvek počítača Mac s čipom M1. Malo by pritom ísť o plnohodnotný jazykový model LLaMA aj s váhami.
Následne sa niekomu tento model podarilo sprevádzkovať na Windowse, mobile Google Pixel 6 a dokonca aj na Raspberry Pi. Pri Raspberry Pi však z pochopiteľných dôvodov systém bežal len veľmi pomaly.
I've sucefully runned LLaMA 7B model on my 4GB RAM Raspberry Pi 4. It's super slow about 10sec/token. But it looks we can run powerful cognitive pipelines on a cheap hardware. pic.twitter.com/XDbvM2U5GY
— Artem Andreenko ?? (@miolini) March 12, 2023
Stiahnuť si ho môžeš aj ty, existujú návody
Každý si teda už dnes dokáže stiahnuť a sprevádzkovať model LLaMA so 7 miliardami parametrov, teda vo svojej najslabšej verzii. Nanešťastie ako píše ArsTechnica, model je podľa ich testovania stále veľmi reštriktívny.
Na druhú stranu skonštatovali, že aj na „najslabšom“ M1 Macbooku Air bežal plynule a bol plne použiteľný. Detailný návod na to, ako tieto systémy môžeš spustiť aj ty na svojom blogu zverejnil Simon Willson. Treba však upozorniť, že si vyžaduje pokročilejšie znalosti IT a väčšina ľudí aj tak nemá dôvod si model sťahovať, bude im stačiť ChatGPT.
Dostaň Fontech do svojich Google odporúčaní
Pridať ako preferovaný zdroj Fontech, odkaz sa otvorí v novom okneČítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Astronómovia pustili AI k riadeniu teleskopu. Svojím prvým rozhodnutím ich poriadne prekvapila

Nový trend si vyžiadal krutú daň. Amazon stavia obrovskú plynovú elektráreň

Kedy je výhodné vymeniť staré auto za elektromobil? Veda má jasný výpočet

Internet sa otriasa v základoch. EÚ zaviedla historické pravidlá pre AI, hrozia miliónové pokuty

OpenAI chce poslať klávesnice do minulosti. Prvé tajomné zariadenia majú prísť čoskoro
NAJČÍTANEJŠIE ZO STARTITUP

100-roční manželia raňajkujú v McDonalde a nepotrebujú biohacking. Ich recept na dlhovekosť je úplne jednoduchý
PREMIUM30 minút naraz alebo 10 minút po jedle? Neurogenetik vysvetľuje, čo s cukrom v krvi urobí obyčajná chôdza

Fitness tréner s 18-ročnou praxou odporúča metódu 3-6-9 na budovanie sily a svalov. Špeciálna rotácia búra stereotyp

SHMÚ zvyšuje výstrahy na druhý stupeň. Tropické teploty udrú v plnej sile, záchranári varujú pred kolapsom

Pozemok za 50 eur aj rodinný dom za 62-tisíc: Štát ponúka Slovákom nepotrebný majetok
- 24 hod
- 48 hod
- 7 dní
-
- VIDEO: Takto vyzerá najdrahší film všetkých čias. Ukáže vojnu o záchranu vesmíru
- Motor budúcnosti prešiel skúškou bez kvapky paliva. Na 100 % vodík zvládol štart, let aj pristátie
- Jeden z najväčších štátov sveta vysychá. Problém s vodou môže ohroziť globálny trh s potravinami
- Koniec búraniu a káblom. Vymysleli tepelné čerpadlo, ktoré jednoducho zapojíš do zásuvky
- Chystajú reaktor, aký na svete nemá obdoby. Z jadrového odpadu chce dostať až 500 MW výkonu
-
- VIDEO: Takto vyzerá najdrahší film všetkých čias. Ukáže vojnu o záchranu vesmíru
- Mala to byť lacná náhrada Jurského parku, ide o skvelé prekvapenie. Tento film stojí za pozornosť
- Na ČSFD má 87 % a už čoskoro pokračuje. Geniálna gangsterka hlási brutálny návrat (VIDEO)
- Jeden z najväčších štátov sveta vysychá. Problém s vodou môže ohroziť globálny trh s potravinami
- Motor budúcnosti prešiel skúškou bez kvapky paliva. Na 100 % vodík zvládol štart, let aj pristátie
-
- Nová česká komédia valcuje internet. Ponúka ju jediná služba, poráža aj Spider-Mana
- Astronómovia pustili AI k riadeniu teleskopu. Svojím prvým rozhodnutím ich poriadne prekvapila
- Stojí menej než 10 000 eur a len tak sa po ňom zapráši. Tento čínsky elektromobil nemá chybu
- Mala to byť lacná náhrada Jurského parku, ide o skvelé prekvapenie. Tento film stojí za pozornosť
- Mal to byť nový začiatok, nakoniec úplne pohorel. Akčný veľkofilm 2026 dorazil online aj s dabingom
Európa chcela odstrihnúť Putina, deje sa však opak. Dovoz ruského LNG prudko vzrástol
USA chystajú vesmírny štít za 160 miliárd eur. Prvý ostrý zásah príde v roku 2029
Mochovce dosiahli kľúčový míľnik. Štvrtý blok už rozbehol jadrovú reakciu
Ojazdené autá na Slovensku citeľne zdraželi. Priemerná cena stúpla, mení sa aj ponuka
Umelá inteligencia produkuje sofistikovaný podvod. Odborníci varujú pred novou vlnou
Zelená domácnostiam pokračuje, no podmienky stále chýbajú. SIEA prezradila, čo sa zmení
Extrémne sucho zasahuje už 38 % Slovenska. SHMÚ varuje pred kriticky vyschnutou pôdou
NAJČÍTANEJŠIE ZO STARTITUP

100-roční manželia raňajkujú v McDonalde a nepotrebujú biohacking. Ich recept na dlhovekosť je úplne jednoduchý
PREMIUM30 minút naraz alebo 10 minút po jedle? Neurogenetik vysvetľuje, čo s cukrom v krvi urobí obyčajná chôdza

Fitness tréner s 18-ročnou praxou odporúča metódu 3-6-9 na budovanie sily a svalov. Špeciálna rotácia búra stereotyp

SHMÚ zvyšuje výstrahy na druhý stupeň. Tropické teploty udrú v plnej sile, záchranári varujú pred kolapsom

