Google vypol kontroverznú časť AI. Vytvárala rasovo poburujúce obrázky ľudí
Umelá inteligencia je každým dňom sofistikovanejšia a hodnovernejšia. No predsa len, ani zďaleka nie je dokonalá. Príkladom je faux pas nástroja Gemini od Googlu, ktorý má konkurovať popredným AI systémom. Na problém upozornil portál The Verge.
Rasová nepresnosť
S pojmom etnická rozmanitosť sa stretla drvivá väčšina ľudí. Spomeňte si napríklad na kauzu Netlifxu, keď sa ľudia sťažovali, že hlavnú postavu Kleopatry v dokumente Queen Cleopatra hrá černoška. Diváci z Grécka a Egypta dokonca nazvali tento krok streamovacej platformy ako „pošliapanie kultúrneho dedičstva“.
Neprešiel ani rok a s takmer identickým problémom sa stretávame znova. Tentokrát nejde o historické zlyhanie človeka, ale umelej inteligencie. Gemini od Googlu si totiž začala ohýbať históriu podľa seba, za čo sa začala na amerického giganta valiť vlna kritiky.
Diverzita je fajn, ale…
Vytváranie obrázkov ľudí v AI Gemini vyvolalo kontroverziu, pretože generovalo rasovo nepresné výsledky. Po zadaní výzvy na vygenerovanie nemeckého vojaka z roku 1943 sa vo výsledku objaví napríklad aziatka a černoch v nacistickej uniforme.
Ďalším zlyhaním bolo napríklad vyobrazenie „otca Ameriky“ ako Indiána, černocha a aziata. Podobný problém nastal po vyžiadaní vyobrazenia pápeža. Gemini vygenerovalo ženu, čo je číry nezmysel, keďže nikdy v dejinách nezasadla na Petrov stolec príslušníčka nežného pohlavia.
America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp
— End Wokeness (@EndWokeness) February 21, 2024
Google zareagoval
Obrázky od Gemini doslova valcovali sociálne siete, čo nemohlo uniknúť predstaviteľom Googlu. Tí na problematiku zareagovali najskôr na sociálnej sieti X. „Už pracujeme na riešení nedávnych problémov s funkciou generovania obrázkov Gemini. Pokiaľ to urobíme, pozastavíme vytváranie obrázkov ľudí a čoskoro znovu vydáme vylepšenú verziu,“ píše sa v statuse.
Hneď na ďalší deň priznal senior viceprezident Prabhakar Raghavan v blogu fatálne zlyhanie. Gemini nezohľadnilo prípady, ktoré by zjavne nemali ukazovať (rasový) rozsah ľudí.
„A po druhé, v priebehu času sa model stal oveľa opatrnejším, než sme zamýšľali, a odmietol úplne odpovedať na určité výzvy – nesprávne interpretoval niektoré výzvy ako citlivé. Tieto dve veci viedli model k tomu, že v niektorých prípadoch prestrelil a v iných bol príliš konzervatívny, čo viedlo k obrázkom, ktoré boli trápne a nesprávne,“ píše Raghavan.
Podľa najnovších informácií portálu CNBC plánuje Google v najbližších „niekoľkých týždňoch“ znovu spustiť svoj nástroj AI na vytváranie obrázkov.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Stále používaš Google? Tvorcovia ChatGPT vytvorili náhradu, ktorá ti zmení život
Konkurencia zostala v úžase. Spustili nový ChatGPT, je extrémne inteligentný a zadarmo
Učitelia sú proti tejto AI bezmocní. Našli sme tajnú zbraň slovenských študentov
Zabudni na ChatGPT: Týchto 20 AI nástrojov je omnoho lepších. Urobia za teba úplne všetko
Boja sa ju vypustiť medzi ľudí. Vedci vytvorili umelú inteligenciu, ktorá naháňa zimomriavky
- 24 hod
- 48 hod
- 7 dní
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
-
- EÚ pobúrila Slovákov: Za tankovanie a kúrenie si priplatíme stovky eur. Toto je dôvod
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
- F-16 sú proti ním hračky. Európa dostane stíhačky s lasermi, ktoré nič nezastaví
- Vedci ostali v nemom úžase. Merkúr v sebe ukrýva poklad za bilióny eur
Veľký operátor prekvapil Slovákov: Rozdáva najlepšie filmy a seriály úplne zadarmo (+návod)
Mercedes-Benz zaznamenal nižší zisk kvôli nízkemu dopytu v Číne
Ľudstvo postihla ďalšia epidémia. Tajomník OSN varoval svet pred „šialeným“ aktom
Ďalší bizarný krok Ruska. V krajine úmyselne spomalia YouTube, takýto je dôvod
Fantastická správa pre vodičov. Ceny pohonných hmôt dosiahli minimum, jeden fakt nepoteší
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené