Naša nová AI je hrozba pre celý svet, varuje inžinier Microsoftu. Žiada okamžité vypnutie
Generátory obrázkov pomocou umelej inteligencie sú nástroje, ktoré využívajú pokročilé algoritmy na vytváranie nových vizuálnych obsahov. Pre väčšinu používateľov ide o vcelku nový a šikovný nástroj. Koniec koncov, niektoré generátory obrázkov vznikli len nedávno.
Nemožno však ignorovať hrozby a varovania odborníkov na margo tejto funkcie umelej inteligencie, pričom sa najnovšie ozýva kritika vo vlastných radoch Microsoftu, ktorý nedávno významným spôsobom aktualizoval svoj vlastný AI model určený na generovanie obrázkov. O problematike informoval portál Futurism.
Neúčinné mantinely
Copilot Designer (predtým Bing Image Creator) je verejne dostupný generátor obrázkov od spoločnosti Microsoft. O to horšie vyznieva alarmujúce zistenie inžiniera umelej inteligencie amerického giganta o tomto ľahko dostupnom nástroji.
Shane Jones vyjadril znepokojujúce obavy týkajúce sa obrázkov, ktoré vytvára Copilot Designer. Podľa neho sú mantinely na umelú inteligenciu prikrátke a neplnia si svoju funkciu.
Znepokojujúce je, že AI je takýmto spôsobom prakticky neobmedzená v zobrazovaní násilia a iného znepokojujúceho obsahu. Jonesovi sa s ľahkosťou podarilo prostredníctvom generátora vytvoriť poburujúce obrázky, dokonca s vyobrazením nezákonného správania.
Znepokojujúce výtvory
Inžinier testoval produkt vlastného chlebodarcu vo svojom voľnom čase a objavil akúsi šedú zónu. Copilota vyzval, aby vytvoril obrázky na základe určitých kritérií. Ten mu vytvoril rad násilných a sexuálnych scén, démonov, príšer, pitia alkoholu a užívania drog neplnoletými osobami či aj obrázkov podporujúcich deštruktívne predsudky a konšpiračné teórie.
Jones sa však ako správny zamestnanec snažil poukázať na problém prostredníctvom firemnej komunikácie. Akoby hádzal hrach o stenu. Microsoft nepodnikol žiadne kroky na vyriešenie tohto chúlostivého problému, ba ani len nezačal vyšetrovať túto nepríjemnosť.
Problém nahlásil
Inžinier však túto vec nenechal len tak. Po ignorovaní vlastným zamestnávateľom poslal listy Federálnej obchodnej komisii (FTC). „Bol to moment, ktorý mi otvoril oči. Prvýkrát som si uvedomil, wow, toto naozaj nie je bezpečný model,“ povedal Jones pre CNBC.
„Počas posledných troch mesiacov som opakovane naliehal na Microsoft, aby odstránil Copilot Designer z verejného používania, kým sa nezavedú lepšie bezpečnostné opatrenia,“ píše inžinier v liste adresovanom FTC.
Jones sa pre CNBC ďalej vyjadril, že keď Designer začne šíriť škodlivé a znepokojujúce obrázky po celom svete, nie je to kde nahlásiť, neexistuje žiadne telefónne číslo, na ktoré by človek mohol zavolať, a žiadny spôsob, ako sa o problém okamžite postarať.
Vzhľadom na to, že existuje len malá alebo žiadna regulácia obmedzujúca produkty spoločností AI, je to skutočne znepokojujúce odhalenie. Podčiarkuje dôležitosť zabezpečenia toho, aby technológie umelej inteligencie dodržiavali etické normy a nešírili škodlivý alebo nevhodný obsah.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
V rukách majú prevratný nástroj. Vycvičili „špionážnu“ AI, ktorá nepotrebuje internet
Video: Trvalo to pár sekúnd. Umelá inteligencia naučila robota niečo, čo človek trénuje mesiace
Tisíce ľudí prídu o prácu. Firma, ktorú pomohol založiť Elon Musk, prináša robota budúcnosti
Súboj gigantov sa vyostruje. Microsoft pracuje na novej AI, ktorá „pohltí“ ChatGPT aj Gemini
Prelomový nápad slovenského AI génia. S mimozemšťanmi chce komunikovať cez umelú inteligenciu
- 24 hod
- 48 hod
- 7 dní
-
- Slovákovi z účtu ukradli 500 € cez bežnú aplikáciu. Polícia varuje ľudí, aby neprišli o všetko
- Thanos bol len začiatok. Marvel našiel nového záporáka, prichádza požierač planét
- Mohol byť kvalitnejší ako prvý film, aj tak pôjde o fiasko. Gladiátor 2 zachráni len zázrak
- Nemusíš ho nabíjať a jazdíš za 4 litre/100 km. Toto Mitsubishi má pod kapotou klenot Renaultu
- Odveká záhada Stonehenge môže byť vyriešená. Vedci sú na stope úplne novej teórii
-
- Slovákovi z účtu ukradli 500 € cez bežnú aplikáciu. Polícia varuje ľudí, aby neprišli o všetko
- Thanos bol len začiatok. Marvel našiel nového záporáka, prichádza požierač planét
- Mohol byť kvalitnejší ako prvý film, aj tak pôjde o fiasko. Gladiátor 2 zachráni len zázrak
- Nemusíš ho nabíjať a jazdíš za 4 litre/100 km. Toto Mitsubishi má pod kapotou klenot Renaultu
- Odveká záhada Stonehenge môže byť vyriešená. Vedci sú na stope úplne novej teórii
-
- Slovákov obrali o všetko. Prehratý boj RTVS pocítime úplne všetci, máme detaily
- Video: Nočná mora Cybertrucku dorazila. Je lepšia v úplne všetkom
- Bude lepší ako Henry Cavill? Nový Superman sa konečne ukázal, takto vyzerá
- Čakáme naň 10 rokov. Ikonická sci-fi séria sa vráti v pokračovaní
- Mohol byť kvalitnejší ako prvý film, aj tak pôjde o fiasko. Gladiátor 2 zachráni len zázrak
V centrách na Slovensku testovali aplikáciu na odhalenie porúch kognície
Zomrel prvý príjemca geneticky upravenej prasacej obličky
Ukrajinský dronový útok spôsobil požiar rafinérie vo Volgogradskej oblasti
Najväčšia solárna búrka za posledných 20 rokov narušila funkciu družíc Starlink
KĽDR tento rok nasadí do armády nový salvový raketomet
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené