Google vypol kontroverznú časť AI. Vytvárala rasovo poburujúce obrázky ľudí
Umelá inteligencia je každým dňom sofistikovanejšia a hodnovernejšia. No predsa len, ani zďaleka nie je dokonalá. Príkladom je faux pas nástroja Gemini od Googlu, ktorý má konkurovať popredným AI systémom. Na problém upozornil portál The Verge.
Rasová nepresnosť
S pojmom etnická rozmanitosť sa stretla drvivá väčšina ľudí. Spomeňte si napríklad na kauzu Netlifxu, keď sa ľudia sťažovali, že hlavnú postavu Kleopatry v dokumente Queen Cleopatra hrá černoška. Diváci z Grécka a Egypta dokonca nazvali tento krok streamovacej platformy ako „pošliapanie kultúrneho dedičstva“.
Neprešiel ani rok a s takmer identickým problémom sa stretávame znova. Tentokrát nejde o historické zlyhanie človeka, ale umelej inteligencie. Gemini od Googlu si totiž začala ohýbať históriu podľa seba, za čo sa začala na amerického giganta valiť vlna kritiky.
Diverzita je fajn, ale…
Vytváranie obrázkov ľudí v AI Gemini vyvolalo kontroverziu, pretože generovalo rasovo nepresné výsledky. Po zadaní výzvy na vygenerovanie nemeckého vojaka z roku 1943 sa vo výsledku objaví napríklad aziatka a černoch v nacistickej uniforme.
Ďalším zlyhaním bolo napríklad vyobrazenie „otca Ameriky“ ako Indiána, černocha a aziata. Podobný problém nastal po vyžiadaní vyobrazenia pápeža. Gemini vygenerovalo ženu, čo je číry nezmysel, keďže nikdy v dejinách nezasadla na Petrov stolec príslušníčka nežného pohlavia.
America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp
— End Wokeness (@EndWokeness) February 21, 2024
Google zareagoval
Obrázky od Gemini doslova valcovali sociálne siete, čo nemohlo uniknúť predstaviteľom Googlu. Tí na problematiku zareagovali najskôr na sociálnej sieti X. „Už pracujeme na riešení nedávnych problémov s funkciou generovania obrázkov Gemini. Pokiaľ to urobíme, pozastavíme vytváranie obrázkov ľudí a čoskoro znovu vydáme vylepšenú verziu,“ píše sa v statuse.
Hneď na ďalší deň priznal senior viceprezident Prabhakar Raghavan v blogu fatálne zlyhanie. Gemini nezohľadnilo prípady, ktoré by zjavne nemali ukazovať (rasový) rozsah ľudí.
„A po druhé, v priebehu času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy – nesprávne interpretoval niektoré výzvy ako citlivé. Tieto dve veci viedli model k tomu, že v niektorých prípadoch prestrelil a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne,“ píše Raghavan.
Podľa najnovších informácií portálu CNBC plánuje Google v najbližších „niekoľkých týždňoch“ znovu spustiť svoj nástroj AI na vytváranie obrázkov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Jedna z najlepších funkcií ChatGPT je konečne zadarmo. OpenAI pridáva aj bezpečnostné novinky
Spojí 10-tisíc bojových robotov v akomkoľvek teréne. Čína odhalila tajnú zbraň, buduje AI armádu
Spravia za teba všetko. TOP 8 AI nástrojov, ktoré Slováci tajne používajú na školu a prácu
Totálne zmenia to, ako funguješ. Toto je 30 AI nástrojov, ktoré za teba urobia úplne všetko
Umelá inteligencia dostala „ľudský mozog“. Nový model z nečakanej krajiny porazil ChatGPT v najťažšom teste
NAJČÍTANEJŠIE ZO STARTITUP
Experti náhle menia predpoveď na zimu 2025: Odhalili, kedy k nám prenikne arktický vzduch
Fico sa stretol v Užhorode so Zelenským tvárou v tvár. Dohodli sa na rokovaní na Slovensku
Nález tela neznámeho muža v centre mesta: Polícia spustila vyšetrovanie
Kamenický ostro skritizoval PS: „Tomuto sa nehovorí veľký tresk, ale skôr hanba na sto rokov“
Stretnutie Fico–Zelenskyj nie je náhoda: „Bude naozaj veľmi dôležité, ak k nemu príde,“ tvrdí odborník
- 24 hod
- 48 hod
- 7 dní
-
- Dorazila spása letectva. Prelomový motor neprodukuje emisie a efektivitou preráža všetky rekordy
- Prekonáva drony aj satelity. NATO nasadí čudnú „zbraň“ s podceňovaným pohonom (+ na čo slúži)
- VIDEO: Netflix ulovil veľrybu. Tvorca Peaky Blinders ukázal svoj nový seriál, dorazí už čoskoro
- AKTUÁLNE: Na Slovensku končia tri obľúbené české stanice. Toto je ich náhrada
- Z plastov urobíme hodnotné suroviny. Vedci našli spôsob, ako premeniť odpad na peniaze
-
- Nový plán Tesly je fiasko. Elektromobily zmizli, toto má podľa Muska zachrániť budúcnosť
- Nič lepšie vraj na Netflixe tento rok neuvidíš. Hrozivo aktuálny film ohromil kritikov, 11 minút mu tlieskali v stoji
- BMW to myslí naozaj vážne. Už čoskoro spustí sériovu výrobu odpísaného pohonu áut
- VIDEO: Kultový horor sa vracia vo veľkom štýle. Trailer ukazuje nebezpečný kult aj návrat milovanej postavy
- Akčný film s Jasonom Stathamom konečne dorazil online. Mrzačí v ňom mafiu stavbárskym kladivom
-
- AKTUÁLNE: Na Slovensku končia tri obľúbené české stanice. Toto je ich náhrada
- Ochráni kontinent pred Rusmi aj CO₂. Európa má v rukách tajnú zbraň, odborníci zvažujú jej nasadenie
- Nemajú proti nej šancu. F-16 dostane desivú zbraň, ktorá môže zachrániť Ukrajinu
- Sylvester Stallone ako mafián aj veľký hit Netflixu. TOP 14 noviniek na streamovacích službách v septembri
- BMW to myslí naozaj vážne. Už čoskoro spustí sériovu výrobu odpísaného pohonu áut
Historický úspech na trhu ojazdených áut. SUV a crossovery vedú naprieč regiónom
Liga proti rakovine spustila AI poradkyňu. Ženám radí nonstop a zadarmo
Fico a Zelenskyj sa stretli v Užhorode. Témou bola energetika aj mier
Oficiálne závery sú vonku. SAV potvrdzuje bezpečné množstvá DNA v dávke
Putin a Si Ťin-pching sa rozprávali o nesmrteľnosti. Chcú sa dožiť 150 rokov, televízia zvuk vypla
NAJČÍTANEJŠIE ZO STARTITUP