Vedci z Massachussettského technologického inštitútu (MIT) prišli na to, ako až 30-násobne zrýchliť generatívne nástroje využívajúce umelú inteligenciu (AI). TASR o tom informuje na základe správy servera Live Science.
Vedci vytvorili techniku označovanú ako destilácia distribučného spájania (distribution matching distillation – DMD), ktorý nástrojmi ako DALL·E 3, Midjourney a Stable Diffusion umožňuje kondenzovať celý proces so 100 krokmi do jediného kroku. Proces sa tak výrazne urýchli bez toho, aby došlo k zníženiu kvality výsledných obrázkov. Vedci podrobný popis svojho postupu uverejnili v decembri v elektronickom archíve preprintov vedeckých prác arXiv.
„Toto zlepšenie nielen výrazne znižuje výpočtový čas, no zároveň zachováva a možno dokonca zvyšuje kvalitu generovaného vizuálneho obsahu,“ uvádza vo vyhlásení jeden z hlavných autorov štúdie Tianwei Yin, ktorý na MIT pôsobí ako doktorand v odbore elektroinžinierstva a informačnej vedy.
Difúzne modely tvoria obrázky postupne viacerými krokmi. AI na tréning využije obrázky s deskriptívnymi popismi a inými metaúdajmi, ktoré jej pomáhajú lepšie pochopiť kontext a význam ukrytý za obrázkami, aby dokázala presne reagovať na zadávané príkazy.
Praktická stránka fungovania týchto modelov vyzerá tak, že vezmú náhodný obrázok a zakódujú ho poľom s náhodným šumom, čím ho zničia, vysvetľuje v príspevku na blogu odborník na fungovanie AI Jay Alammar. Tento proces sa nazýva „progresívna difúzia“ a je kľúčovým krokom v procese, ktorým sa AI učí. Následne prebieha až 100 krokov čistenia šumu – tento proces sa označuje ako „spätná difúzia“ a vzniká ním obrázok vytvorený na základe textového príkazu.
Vedci využili DMD pri spätnej difúzii a všetky kroky, ktoré v rámci nej prebiehali, spojili do jedného, čím sa im podarilo urýchliť vytvorenie obrázku. Pri jednom z pokusov použili nástroj Stable Diffusion vo verzii 1.5 a dosiahli skrátenie zobrazenia z 2590 milisekúnd (2,59 sekundy) na 90 milisekúnd, teda takmer 30-násobne menej.
AI sa učí čoraz rýchlejšie
DMD tvoria dve zložky, ktoré spoločne znižujú počet iterácií potrebných na vytvorenie použiteľného obrázku. Prvá zložka zvaná „regresná strata“ (regression loss) organizuje počas tréningu obrázky na základe podobnosti, čo AI umožňuje rýchlejšie učenie. Druhá zložka sa nazýva strata distribučného priraďovania (distribution matching loss), ktorá zaznamenáva pravdepodobnosť zobrazenia, napríklad nahryznutého jablka, a porovnáva ju s pravdepodobnosťou toho, ako často na takéto jablko možno naraziť v skutočnom svete. Obe zložky spoločne minimalizujú bizarnosť výsledkov, ktoré AI vygeneruje.
„Zníženie počtu iterácií bolo svätým grálom difúznych modelov od ich úplného počiatku. Sme nadšení tým, že sa nám konečne podarila generácia obrázku v jednom kroku, pretože to dramaticky zníži nároky na výpočtový výkon a celý proces sa výrazne urýchli,“ uvádza Fredo Durand, ďalší hlavný autor autor štúdie, ktorý na MIT pôsobí ako profesor v odbore elektroinžinierstva a informačnej vedy.
Nový prístup dramaticky znižuje výpočtový výkon potrebný na generáciu obrázkov, pretože obrázok vznikne už po jednom kroku, nie po stovke krokov postupného vylepšovania ako pri pôvodných modeloch, dodáva Yin. Tento model fungovania dokáže podľa vedcov priniesť výhody v odvetviach ťažiacich z bleskurýchleho a efektívneho vykresľovania, ktoré dokáže výrazne urýchliť tvorbu obsahu.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Stále používaš Google? Tvorcovia ChatGPT vytvorili náhradu, ktorá ti zmení život
Miliardári si z vedcov robia „dobré ráno“. Tento bizarný trend škodí celému ľudstvu
Má najkvalitnejší obsah, ľudia naň kašlú. Známa služba čelí katastrofe, skúsi napodobniť Netflix
Na Marse našli bizarný objekt. Podľa vedcov môže dokázať existenciu mimozemšťanov
4 dôvody, prečo je Huawei Pura 70 Pro ideálny smartfón (nielen) na dovolenku
- 24 hod
- 48 hod
- 7 dní
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
-
- EÚ pobúrila Slovákov: Za tankovanie a kúrenie si priplatíme stovky eur. Toto je dôvod
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
- F-16 sú proti ním hračky. Európa dostane stíhačky s lasermi, ktoré nič nezastaví
- Vedci ostali v nemom úžase. Merkúr v sebe ukrýva poklad za bilióny eur
Veľký operátor prekvapil Slovákov: Rozdáva najlepšie filmy a seriály úplne zadarmo (+návod)
Mercedes-Benz zaznamenal nižší zisk kvôli nízkemu dopytu v Číne
Ľudstvo postihla ďalšia epidémia. Tajomník OSN varoval svet pred „šialeným“ aktom
Ďalší bizarný krok Ruska. V krajine úmyselne spomalia YouTube, takýto je dôvod
Fantastická správa pre vodičov. Ceny pohonných hmôt dosiahli minimum, jeden fakt nepoteší
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené