Google vypol kontroverznú časť AI. Vytvárala rasovo poburujúce obrázky ľudí
Umelá inteligencia je každým dňom sofistikovanejšia a hodnovernejšia. No predsa len, ani zďaleka nie je dokonalá. Príkladom je faux pas nástroja Gemini od Googlu, ktorý má konkurovať popredným AI systémom. Na problém upozornil portál The Verge.
Rasová nepresnosť
S pojmom etnická rozmanitosť sa stretla drvivá väčšina ľudí. Spomeňte si napríklad na kauzu Netlifxu, keď sa ľudia sťažovali, že hlavnú postavu Kleopatry v dokumente Queen Cleopatra hrá černoška. Diváci z Grécka a Egypta dokonca nazvali tento krok streamovacej platformy ako „pošliapanie kultúrneho dedičstva“.
Neprešiel ani rok a s takmer identickým problémom sa stretávame znova. Tentokrát nejde o historické zlyhanie človeka, ale umelej inteligencie. Gemini od Googlu si totiž začala ohýbať históriu podľa seba, za čo sa začala na amerického giganta valiť vlna kritiky.
Diverzita je fajn, ale…
Vytváranie obrázkov ľudí v AI Gemini vyvolalo kontroverziu, pretože generovalo rasovo nepresné výsledky. Po zadaní výzvy na vygenerovanie nemeckého vojaka z roku 1943 sa vo výsledku objaví napríklad aziatka a černoch v nacistickej uniforme.
Ďalším zlyhaním bolo napríklad vyobrazenie „otca Ameriky“ ako Indiána, černocha a aziata. Podobný problém nastal po vyžiadaní vyobrazenia pápeža. Gemini vygenerovalo ženu, čo je číry nezmysel, keďže nikdy v dejinách nezasadla na Petrov stolec príslušníčka nežného pohlavia.
America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp
— End Wokeness (@EndWokeness) February 21, 2024
Google zareagoval
Obrázky od Gemini doslova valcovali sociálne siete, čo nemohlo uniknúť predstaviteľom Googlu. Tí na problematiku zareagovali najskôr na sociálnej sieti X. „Už pracujeme na riešení nedávnych problémov s funkciou generovania obrázkov Gemini. Pokiaľ to urobíme, pozastavíme vytváranie obrázkov ľudí a čoskoro znovu vydáme vylepšenú verziu,“ píše sa v statuse.
Hneď na ďalší deň priznal senior viceprezident Prabhakar Raghavan v blogu fatálne zlyhanie. Gemini nezohľadnilo prípady, ktoré by zjavne nemali ukazovať (rasový) rozsah ľudí.
„A po druhé, v priebehu času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy – nesprávne interpretoval niektoré výzvy ako citlivé. Tieto dve veci viedli model k tomu, že v niektorých prípadoch prestrelil a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne,“ píše Raghavan.
Podľa najnovších informácií portálu CNBC plánuje Google v najbližších „niekoľkých týždňoch“ znovu spustiť svoj nástroj AI na vytváranie obrázkov.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Tisíce ľudí prídu o prácu. Firma, ktorú pomohol založiť Elon Musk, prináša robota budúcnosti
Súboj gigantov sa vyostruje. Microsoft pracuje na novej AI, ktorá „pohltí“ ChatGPT aj Gemini
Prelomový nápad slovenského AI génia. S mimozemšťanmi chce komunikovať cez umelú inteligenciu
Prerazili etické dno. Kontroverznú AI používajú na „oživenie” mŕtvych
Zabudni na skutočných ľudí. Instagram chce zmeniť jednu z najväčších výhod internetu
- 24 hod
- 48 hod
- 7 dní
-
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
-
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
-
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Nové radary s AI nahnevali vodičov. Odhalia aj prekvapivý priestupok
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
Analýza: Ojazdené autá zlacneli, a na trhu ich bolo medzimesačne menej
Japonská automobilka Toyota dosiahla v uplynulom finančnom roku rekordný zisk
USA zrušili povolenia na dodávky pre čínsku spoločnosť Huawei
Rusko podniklo ďalší rozsiahly útok na energetickú infraštruktúru Ukrajiny
Apple rozzúril fanúšikov. Z balení potichu odstránil ďalšiu vec, dôvodom je ekológia
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené