Google vypol kontroverznú časť AI. Vytvárala rasovo poburujúce obrázky ľudí
Umelá inteligencia je každým dňom sofistikovanejšia a hodnovernejšia. No predsa len, ani zďaleka nie je dokonalá. Príkladom je faux pas nástroja Gemini od Googlu, ktorý má konkurovať popredným AI systémom. Na problém upozornil portál The Verge.
Rasová nepresnosť
S pojmom etnická rozmanitosť sa stretla drvivá väčšina ľudí. Spomeňte si napríklad na kauzu Netlifxu, keď sa ľudia sťažovali, že hlavnú postavu Kleopatry v dokumente Queen Cleopatra hrá černoška. Diváci z Grécka a Egypta dokonca nazvali tento krok streamovacej platformy ako „pošliapanie kultúrneho dedičstva“.
Neprešiel ani rok a s takmer identickým problémom sa stretávame znova. Tentokrát nejde o historické zlyhanie človeka, ale umelej inteligencie. Gemini od Googlu si totiž začala ohýbať históriu podľa seba, za čo sa začala na amerického giganta valiť vlna kritiky.
Diverzita je fajn, ale…
Vytváranie obrázkov ľudí v AI Gemini vyvolalo kontroverziu, pretože generovalo rasovo nepresné výsledky. Po zadaní výzvy na vygenerovanie nemeckého vojaka z roku 1943 sa vo výsledku objaví napríklad aziatka a černoch v nacistickej uniforme.
Ďalším zlyhaním bolo napríklad vyobrazenie „otca Ameriky“ ako Indiána, černocha a aziata. Podobný problém nastal po vyžiadaní vyobrazenia pápeža. Gemini vygenerovalo ženu, čo je číry nezmysel, keďže nikdy v dejinách nezasadla na Petrov stolec príslušníčka nežného pohlavia.
America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp
— End Wokeness (@EndWokeness) February 21, 2024
Google zareagoval
Obrázky od Gemini doslova valcovali sociálne siete, čo nemohlo uniknúť predstaviteľom Googlu. Tí na problematiku zareagovali najskôr na sociálnej sieti X. „Už pracujeme na riešení nedávnych problémov s funkciou generovania obrázkov Gemini. Pokiaľ to urobíme, pozastavíme vytváranie obrázkov ľudí a čoskoro znovu vydáme vylepšenú verziu,“ píše sa v statuse.
Hneď na ďalší deň priznal senior viceprezident Prabhakar Raghavan v blogu fatálne zlyhanie. Gemini nezohľadnilo prípady, ktoré by zjavne nemali ukazovať (rasový) rozsah ľudí.
„A po druhé, v priebehu času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy – nesprávne interpretoval niektoré výzvy ako citlivé. Tieto dve veci viedli model k tomu, že v niektorých prípadoch prestrelil a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne,“ píše Raghavan.
Podľa najnovších informácií portálu CNBC plánuje Google v najbližších „niekoľkých týždňoch“ znovu spustiť svoj nástroj AI na vytváranie obrázkov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Vedci odhalili, ktoré zamestnania nahradí AI ako prvé. Je tvoje v bezpečí?

YouTube dostáva revolučné vylepšenie. Nová AI funkcia automaticky vylepší staré videá

Historický míľnik pre ľudstvo. Prvý humanoidný robot s umelou inteligenciou sa dá objednať ako spotrebič

Musk dnes spustil ďalší kontroverzný projekt. Sľubuje revolúciu, už teraz má tisíce chýb a klame

Svet zúri: Experti odhalili, čo spôsobilo masívny kolaps internetu. Hackeri to neboli
NAJČÍTANEJŠIE ZO STARTITUP

Dom s pozemkom a príslušenstvom za 28 000 eur. Štát predáva nepotrebný majetok

„Väzenie za horalku končí“: Recidivistov-zlodejov čakajú zmeny, vyhlásil Šutaj Eštok

„Neobjednali sme si 280 kíl čokolády.“ Blanárov rezort reaguje na kritiku Holečkovej

Putin mení tón po 3 rokoch vojny na Ukrajine. Z triumfálnej invázie je mierová misia

Po rokoch budú obchody 1. novembra otvorené. Niektoré reťazce však obmedzia prevádzku (PREHĽAD)
- 24 hod
- 48 hod
- 7 dní
- 
					- Experti ostali bez slov. Najväčšiu pliagu ľudstva našli na mieste, kde nemá vôbec čo robiť
- Najväčšia bitka roka je tu. Netflix ukazuje finále svojho sci-fi hitu, v slovenských premiérach je zmätok
- Vedci neverili vlastným očiam. Na Slnku prší a konečne vieme ako je to možné
- VIDEO: Zbláznila sa Čína? Neuveríš, čím pokryli celé pohorie
- Netflix priznáva zlyhanie. Zaklínač končí v predstihu, tvorcovia priznali smutnú pravdu
 
- 
					- Experti ostali bez slov. Najväčšiu pliagu ľudstva našli na mieste, kde nemá vôbec čo robiť
- Netflix priznáva zlyhanie. Zaklínač končí v predstihu, tvorcovia priznali smutnú pravdu
- VIDEO: Zbláznila sa Čína? Neuveríš, čím pokryli celé pohorie
- Pochopili, že ubližujú sami sebe. Bohatá krajina chce okamžite zrušiť clá na elektromobily z Číny
- Najväčšia bitka roka je tu. Netflix ukazuje finále svojho sci-fi hitu, v slovenských premiérach je zmätok
 
- 
				- Bez Západu by rýchlo prehrali. Ukrajina zistila, čo v skutočnosti poháňa „ruské“ drony
- Pochopili, že ubližujú sami sebe. Bohatá krajina chce okamžite zrušiť clá na elektromobily z Číny
- Vodiči sú proti nim bezradní. Nové radary rozdávajú pokuty za niečo, čo by ti nikdy nenapadlo
- VIDEO: Zbláznila sa Čína? Neuveríš, čím pokryli celé pohorie
- Akčný film 2025 neprestáva udivovať. Ohúril aj Slovákov a naďalej láme rekordy
 
Spojenec Ruska sa pustil do USA a varuje pred novou hrozbou. Ste pokrytci, odkazuje
Európsky Detroit má problém. Slovenský automobilový priemysel sa dostal do slepej uličky
Svetová elita ničí Zem. Oxfam odhalil katastrofálne rozdiely v emisiách
To, čo Nvidia dokázala, nemá v histórii obdoby. Svet financií stojí v nemom úžase
Takú astronomickú hodnotu dosiahli len tri firmy. Technologický gigant prekonal historický míľnik
NAJČÍTANEJŠIE ZO STARTITUP

Dom s pozemkom a príslušenstvom za 28 000 eur. Štát predáva nepotrebný majetok

„Väzenie za horalku končí“: Recidivistov-zlodejov čakajú zmeny, vyhlásil Šutaj Eštok

„Neobjednali sme si 280 kíl čokolády.“ Blanárov rezort reaguje na kritiku Holečkovej

Putin mení tón po 3 rokoch vojny na Ukrajine. Z triumfálnej invázie je mierová misia

 
			 
				 
				 
                 
				 
				 
				

 
		