Google vypol kontroverznú časť AI. Vytvárala rasovo poburujúce obrázky ľudí
Umelá inteligencia je každým dňom sofistikovanejšia a hodnovernejšia. No predsa len, ani zďaleka nie je dokonalá. Príkladom je faux pas nástroja Gemini od Googlu, ktorý má konkurovať popredným AI systémom. Na problém upozornil portál The Verge.
Rasová nepresnosť
S pojmom etnická rozmanitosť sa stretla drvivá väčšina ľudí. Spomeňte si napríklad na kauzu Netlifxu, keď sa ľudia sťažovali, že hlavnú postavu Kleopatry v dokumente Queen Cleopatra hrá černoška. Diváci z Grécka a Egypta dokonca nazvali tento krok streamovacej platformy ako „pošliapanie kultúrneho dedičstva“.
Neprešiel ani rok a s takmer identickým problémom sa stretávame znova. Tentokrát nejde o historické zlyhanie človeka, ale umelej inteligencie. Gemini od Googlu si totiž začala ohýbať históriu podľa seba, za čo sa začala na amerického giganta valiť vlna kritiky.
Diverzita je fajn, ale…
Vytváranie obrázkov ľudí v AI Gemini vyvolalo kontroverziu, pretože generovalo rasovo nepresné výsledky. Po zadaní výzvy na vygenerovanie nemeckého vojaka z roku 1943 sa vo výsledku objaví napríklad aziatka a černoch v nacistickej uniforme.
Ďalším zlyhaním bolo napríklad vyobrazenie „otca Ameriky“ ako Indiána, černocha a aziata. Podobný problém nastal po vyžiadaní vyobrazenia pápeža. Gemini vygenerovalo ženu, čo je číry nezmysel, keďže nikdy v dejinách nezasadla na Petrov stolec príslušníčka nežného pohlavia.
America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp
— End Wokeness (@EndWokeness) February 21, 2024
Google zareagoval
Obrázky od Gemini doslova valcovali sociálne siete, čo nemohlo uniknúť predstaviteľom Googlu. Tí na problematiku zareagovali najskôr na sociálnej sieti X. „Už pracujeme na riešení nedávnych problémov s funkciou generovania obrázkov Gemini. Pokiaľ to urobíme, pozastavíme vytváranie obrázkov ľudí a čoskoro znovu vydáme vylepšenú verziu,“ píše sa v statuse.
Hneď na ďalší deň priznal senior viceprezident Prabhakar Raghavan v blogu fatálne zlyhanie. Gemini nezohľadnilo prípady, ktoré by zjavne nemali ukazovať (rasový) rozsah ľudí.
„A po druhé, v priebehu času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy – nesprávne interpretoval niektoré výzvy ako citlivé. Tieto dve veci viedli model k tomu, že v niektorých prípadoch prestrelil a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne,“ píše Raghavan.
Podľa najnovších informácií portálu CNBC plánuje Google v najbližších „niekoľkých týždňoch“ znovu spustiť svoj nástroj AI na vytváranie obrázkov.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Dokáže vidieť, počuť aj rozprávať. Spustili novú umelú inteligenciu, ktorá je až 5-násobne lepšia
Aj Google bude zastaralý. OpenAI má nástroj, ktorý zmení, ako používaš internet
V rukách majú prevratný nástroj. Vycvičili „špionážnu“ AI, ktorá nepotrebuje internet
Video: Trvalo to pár sekúnd. Umelá inteligencia naučila robota niečo, čo človek trénuje mesiace
Tisíce ľudí prídu o prácu. Firma, ktorú pomohol založiť Elon Musk, prináša robota budúcnosti
- 24 hod
- 48 hod
- 7 dní
-
- Video: Tesla oklamala ľudí. Takto vyzerali preteky Cybertrucku a Porsche v skutočnosti
- Nič podobné si ešte nevidel. Veľkolepý výbuch blízkej hviezdy uvidíš aj voľným okom
- Je lepší hybrid alebo plug-in hybrid? Testovali sme to isté auto s dvomi motormi a máme jasný verdikt
- Muskov sen sa rozpadá. Až 98 % majiteľov Tesly odmieta jeho „geniálny“ vynález
- Dal do neho 120 miliónov z vlastného vrecka a natáčal ho 40 rokov. Nesfilmovateľné sci-fi dostalo nový trailer
-
- Video: Tesla oklamala ľudí. Takto vyzerali preteky Cybertrucku a Porsche v skutočnosti
- Nič podobné si ešte nevidel. Veľkolepý výbuch blízkej hviezdy uvidíš aj voľným okom
- Je lepší hybrid alebo plug-in hybrid? Testovali sme to isté auto s dvomi motormi a máme jasný verdikt
- Muskov sen sa rozpadá. Až 98 % majiteľov Tesly odmieta jeho „geniálny“ vynález
- Dal do neho 120 miliónov z vlastného vrecka a natáčal ho 40 rokov. Nesfilmovateľné sci-fi dostalo nový trailer
-
- Slovákovi z účtu ukradli 500 € cez bežnú aplikáciu. Polícia varuje ľudí, aby neprišli o všetko
- Na Mars prídeme za pár sekúnd. Warpový pohon je reálny, hlásia vedci
- Prišla spása spaľovákov. Nový diesel má extrémnu efektivitu a spotrebu, ktorá prekoná aj elektromobil
- Dal do neho 120 miliónov z vlastného vrecka a natáčal ho 40 rokov. Nesfilmovateľné sci-fi dostalo nový trailer
- To nemôžu myslieť vážne. Veľmoc chce zaviesť 100 % daň na čínske elektromobily
Herečka Zdena Studenková má dnes 70 rokov
Obyvatelia Slovenska považujú kyberhrozby za vážnejšie než krádež
NAKA obvinila tri osoby za schvaľovanie konania útočníka v Handlovej
Elon Musk spustil v Indonézii satelitný internet Starlink
Štart vesmírnej lode Boeing Starliner s posádkou odložili
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené