Hoci sa pozornosť mnohých expertov, ale aj vývojárov či rádových používateľov upiera k dlho očakávanému modelu GPT-5, spoločnosť OpenAI milo prekvapila uvedením GPT-4o mini na trh. Tento nový, efektívnejší model nahrádza GPT-3.5 Turbo a bude k dispozícií pre všetkých bezplatne, čo spôsobí ešte širšie využitie generatívnej AI aj pre spoločnosti s obmedzenými zdrojmi.

Tento nový model, firma vypustila do obehu 18. júla, pričom sa za svoj cieľ si dala poskytnúť dostupnejšiu alternatívu k existujúcemu portfóliu OpenAI, najmä čo sa týka GPT-3.5 Turbo a pri zachovaní konkurencieschopného výkonu v najrôznejších úlohách.

Model GPT-4o mini sa môže pochváliť obdivuhodnými schopnosťami. V benchmarku Massive Multitask Language Understanding (MMLU) dosiahol fantastické skóre 82 %, čím predbehol podobné modely konkurencie vrátane Gemini Flash od Google a Claude Haiku od Anthropic, ktoré dosiahli 77,9 %, resp. 73,8 %. Navyše podporuje kontextové okno s kapacitou až 128-tisíc tokenov a zvláda spracovanie textových aj vizuálnych vstupov.

Potešia sa aj vývojári. S cenou 15 centov za milión vstupných tokenov a 60 centov za milión výstupných tokenov je GPT-4o mini o viac ako 60 % lacnejší ako jeho predchodca GPT-3.5 Turbo. Toto výrazné zníženie nákladov má za cieľ sprístupniť technológiu AI širšiemu okruhu používateľov.

Čo energia?

Jednou z hlavných výziev veľkých jazykových modelov je ich energetická náročnosť. GPT-4o mini sa snaží tento problém riešiť optimalizáciou výkonu pri nižšej spotrebe energie. Tento prístup by mohol zmierniť obavy z rastúcej spotreby elektrickej energie v dôsledku rozvoja systémov umelej inteligencie.

Kľúčovou výhodou nového modelu je tak určite jeho efektivita. Náklady na prevádzku GPT-4o mini sú o 60 % nižšie v porovnaní s jeho predchodcom. Menšie jazykové modely vyžadujú menej výpočtového výkonu, čo nielen znižuje prevádzkové náklady, ale aj otvára dvere pre inovácie v oblasti AI pre širšie spektrum organizácií.