Google vypol kontroverznú časť AI. Vytvárala rasovo poburujúce obrázky ľudí
Umelá inteligencia je každým dňom sofistikovanejšia a hodnovernejšia. No predsa len, ani zďaleka nie je dokonalá. Príkladom je faux pas nástroja Gemini od Googlu, ktorý má konkurovať popredným AI systémom. Na problém upozornil portál The Verge.
Rasová nepresnosť
S pojmom etnická rozmanitosť sa stretla drvivá väčšina ľudí. Spomeňte si napríklad na kauzu Netlifxu, keď sa ľudia sťažovali, že hlavnú postavu Kleopatry v dokumente Queen Cleopatra hrá černoška. Diváci z Grécka a Egypta dokonca nazvali tento krok streamovacej platformy ako „pošliapanie kultúrneho dedičstva“.
Neprešiel ani rok a s takmer identickým problémom sa stretávame znova. Tentokrát nejde o historické zlyhanie človeka, ale umelej inteligencie. Gemini od Googlu si totiž začala ohýbať históriu podľa seba, za čo sa začala na amerického giganta valiť vlna kritiky.
Diverzita je fajn, ale…
Vytváranie obrázkov ľudí v AI Gemini vyvolalo kontroverziu, pretože generovalo rasovo nepresné výsledky. Po zadaní výzvy na vygenerovanie nemeckého vojaka z roku 1943 sa vo výsledku objaví napríklad aziatka a černoch v nacistickej uniforme.
Ďalším zlyhaním bolo napríklad vyobrazenie „otca Ameriky“ ako Indiána, černocha a aziata. Podobný problém nastal po vyžiadaní vyobrazenia pápeža. Gemini vygenerovalo ženu, čo je číry nezmysel, keďže nikdy v dejinách nezasadla na Petrov stolec príslušníčka nežného pohlavia.
America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp
— End Wokeness (@EndWokeness) February 21, 2024
Google zareagoval
Obrázky od Gemini doslova valcovali sociálne siete, čo nemohlo uniknúť predstaviteľom Googlu. Tí na problematiku zareagovali najskôr na sociálnej sieti X. „Už pracujeme na riešení nedávnych problémov s funkciou generovania obrázkov Gemini. Pokiaľ to urobíme, pozastavíme vytváranie obrázkov ľudí a čoskoro znovu vydáme vylepšenú verziu,“ píše sa v statuse.
Hneď na ďalší deň priznal senior viceprezident Prabhakar Raghavan v blogu fatálne zlyhanie. Gemini nezohľadnilo prípady, ktoré by zjavne nemali ukazovať (rasový) rozsah ľudí.
„A po druhé, v priebehu času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy – nesprávne interpretoval niektoré výzvy ako citlivé. Tieto dve veci viedli model k tomu, že v niektorých prípadoch prestrelil a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne,“ píše Raghavan.
Podľa najnovších informácií portálu CNBC plánuje Google v najbližších „niekoľkých týždňoch“ znovu spustiť svoj nástroj AI na vytváranie obrázkov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
USA stavajú zbraň budúcnosti. F/A-XX bude mať o štvrtinu väčší dolet než F-35
Umelá inteligencia, vodík a dizajn. Yamaha ukázala, ako bude vyzerať jazda o 5 rokov
Západ je v pozore. Čína predstavila zabijaka ChatGPT, nová AI ho v testoch rozdrvila
ChatGPT sa mení od základov. Túto novú funkciu nebudeš chcieť prestať používať, má to však háčik
NAJČÍTANEJŠIE ZO STARTITUP
Veľká zrážka rýchlikov si vyžiadala 100 zranených. Šutaj Eštok prehovoril o príčine
Hororový večer v Bratislave: Plamene zachvátili bytovku, požiar si podľa starostu vyžiadal jednu obeť
„Vlak vyzeral strašne,“ opísal svedok chaos po zrážke rýchlikov. Nemocnica spustila krízový plán
Expertka na starnutie varuje: Stres ti skracuje život. Toto sú 4 jednoduché pravidlá, ako to zastaviť
Firma Petry Toth dosiahla tržby 2,2 milióna eur, no ona hlási koniec: Kým ostatní oslavovali v lobby, ja som mala panické ataky
- 24 hod
- 48 hod
- 7 dní
-
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
- Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Z AirPods som prešiel na lacnejšiu „náhradu“. Kvalita a zvuk ma nechali bez slov
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
-
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
- Zostrelili UFO a kruto za to zaplatili. 23 sovietskych vojakov podľa CIA postihol desivý osud
-
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Toto už nie je len dron. Najväčšia zbrojovka sveta ukázala zbraň budúcnosti, ktorá zmení vojny
- Slováci majú v dome zdroj energie, o ktorom netušili. Nová technológia vykuruje aj chladí a šetrí tisíce eur
Nemecké tajné služby bijú na poplach: Rusko sa nebojí otvoreného vojenského konfliktu s NATO
Z Nemecka hlásia bizár: Zlodeji plienia na nabíjacích staniciach pre elektromobily, kradnú toto
Ľudstvo prekročilo prvú červenú čiaru. Zmeny na planéte sa dejú tragicky rýchlo, blíži sa kolaps
Ľudia žijú dlhšie ako kedykoľvek predtým. Nová štúdia však odhalila krutý nedostatok
Vláda našla peniaze na energopomoc. Fico už má jasný plán, Brusel vraj neprotestuje
NAJČÍTANEJŠIE ZO STARTITUP