Spoločnosť Apple oznámila nový krok smerom k väčšej transparentnosti pri používaní umelej inteligencie vo svojich službách. V priebehu najbližších týždňov Apple plánuje uviesť softvérovú aktualizáciu, ktorá jasne označí notifikačné súhrny generované Apple Intelligence, jej vlastným systémom umelej inteligencie.

Tento krok prichádza v čase rastúcej potreby jasnejšieho rozlíšenia AI obsahu vo všetkých technologických odvetviach. Hovorca spoločnosti Apple v oficiálnom vyhlásení zdôraznil, že nový systém umožní používateľom ľahko rozoznať, kedy sú texty v ich notifikáciách generované AI. O téme informoval portál TechCrunch.

„Softvérová aktualizácia v najbližších týždňoch jasnejšie označí, že zobrazovaný text je výsledkom sumarizácie poskytnutej Apple Intelligence. Používateľov povzbudzujeme, aby nahlásili prípadné obavy, ak zistia nečakané chyby v notifikačných súhrnoch,“ uviedol hovorca.

Doterajšie výzvy Apple Intelligence

Hoci Apple Intelligence dokáže poskytnúť užitočné a efektívne súhrny informácií, jej algoritmy sa už viackrát stretli s kritikou kvôli nepresnostiam. Minulý mesiac si napríklad britská televízna stanica BBC sťažovala na chybné zosumarizovanie správy o prípade vraždy.

Briana Thompsona, generálneho riaditeľa UnitedHealthCare. Apple Intelligence omylom naznačila, že Luigi Mangione, obvinený z vraždy, spáchal samovraždu. To bolo zavádzajúce a nepresné. Tieto prípady zvýrazňujú výzvy spojené s automatizovanou AI sumarizáciou obsahu, ktorá pri nesprávnej interpretácii môže spôsobiť zmätok či nedorozumenie.

Apple sa v tejto súvislosti snaží minimalizovať potenciálne chyby v oblastiach, kde by mohli mať vážne následky. Craig Federighi, senior viceprezident pre softvérové inžinierstvo Apple, vlani pre Wall Street Journal potvrdil, že Apple Intelligence zámerne nesumarizuje obsah, ktorý považuje za citlivý. Tento prístup odráža filozofiu spoločnosti, ktorej cieľom je chrániť užívateľov pred dezinformáciami alebo zle interpretovanými informáciami.

Apple

Transparentnosť AI ako štandard

Apple nie je jedinou technologickou spoločnosťou, ktorá sa zameriava na jasnejšie označovanie AI obsahu. Podobné kroky podnikli aj iné technologické giganty. Spoločnosť Meta v minulom roku prepracovala označovanie obrázkov upravovaných pomocou AI na svojich sociálnych sieťach.

Spravila tak po kritike profesionálnych fotografov, ktorí upozornili na nesprávne označovanie ich diel. Rovnako Google začal pridávať špecifické označenie k obrázkom generovaným jeho nástrojmi umelej inteligencie.

Tento trend zdôrazňuje význam transparentnosti pri zvyšujúcom sa vplyve umelej inteligencie na každodenný život používateľov. Čím viac sú používatelia informovaní o tom, ako technológia funguje, tým viac dôvery môže byť vybudovanej medzi spoločnosťou a jej zákazníkmi.