Umelá inteligencia sa stáva čoraz univerzálnejšou. Veľké modely ako ChatGPT či CLIP dokážu pracovať s rôznymi typmi úloh od spracovania textu až po analýzu obrazov. Táto všestrannosť má však svoju cenu. Tieto modely sú náročné na energiu, drahé na prevádzku a pri špecializovaných úlohách ich výkon môže klesať.

Ako uvádza docent Go Irie, ktorý viedol výskum, v mnohých praktických situáciách nie je potrebné, aby modely rozpoznávali všetky typy objektov. Napríklad v autonómnych autách stačí identifikovať vozidlá, chodcov a dopravné značky. Rozpoznávanie iných kategórií, ako sú jedlo či nábytok, len zbytočne zaťažuje systém, znižuje presnosť a prináša riziko úniku dát. O téme informoval portál AI News.

AI zabudne dáta

Nový prístup, označovaný ako black-box forgetting je navrhnutý pre takzvané čierne skrinky, modely, ku ktorým používatelia nemajú priamy prístup do ich vnútorných parametrov. Tento koncept vychádza z optimalizácie bez derivácií, ktorá upravuje vstupné podnety (tzv. prompty) tak, aby model postupne zabudol konkrétne triedy dát.

Vedci použili evolučný algoritmus CMA-ES, ktorý optimalizuje riešenia krok za krokom. Pri experimentoch zameraných na model CLIP pre rozpoznávanie obrazov vyvinuli novú techniku nazvanú zdieľanie latentného kontextu. Táto metóda rozkladá dáta na menšie časti, čím znižuje výpočtovú náročnosť a umožňuje efektívne odstrániť až 40 % cieľových kategórií bez potreby prístupu k samotnému modelu.

Pixabay

Táto inovácia má praktické využitie v oblastiach, kde je dôležitá presnosť a efektivita. Jednoduchšie modely môžu bežať na menej výkonných zariadeniach, čo znižuje energetické náklady a rozširuje použitie AI do nových oblastí. Okrem toho môže selektívne zabúdanie pomôcť pri generovaní obsahu, napríklad vylúčením nežiaducich či škodlivých vizuálnych prvkov.

Najdôležitejším prínosom je však ochrana súkromia. Veľké modely často obsahujú citlivé alebo zastarané dáta, ktoré môžu byť problémové z hľadiska etiky aj legislatívy, napríklad v súvislosti s právom na zabudnutie.

Krok k zodpovednejšej AI

Nový prístup z Tokijskej univerzity predstavuje významný krok k zodpovednejšiemu a praktickejšiemu využívaniu AI. Tým, že umožňuje modelom zabudnúť, otvára cestu k šetrnejším, presnejším a bezpečnejším technológiám.

Hoci riziko zneužitia zostáva, ukazuje, že výskum umelých inteligencií sa čoraz viac zameriava na riešenie etických a praktických výziev.