Naša nová AI je hrozba pre celý svet, varuje inžinier Microsoftu. Žiada okamžité vypnutie

Generátory obrázkov pomocou umelej inteligencie sú nástroje, ktoré využívajú pokročilé algoritmy na vytváranie nových vizuálnych obsahov. Pre väčšinu používateľov ide o vcelku nový a šikovný nástroj. Koniec koncov, niektoré generátory obrázkov vznikli len nedávno.

Nemožno však ignorovať hrozby a varovania odborníkov na margo tejto funkcie umelej inteligencie, pričom sa najnovšie ozýva kritika vo vlastných radoch Microsoftu, ktorý nedávno významným spôsobom aktualizoval svoj vlastný AI model určený na generovanie obrázkov. O problematike informoval portál Futurism.

Neúčinné mantinely

Copilot Designer (predtým Bing Image Creator) je verejne dostupný generátor obrázkov od spoločnosti Microsoft. O to horšie vyznieva alarmujúce zistenie inžiniera umelej inteligencie amerického giganta o tomto ľahko dostupnom nástroji.

Shane Jones vyjadril znepokojujúce obavy týkajúce sa obrázkov, ktoré vytvára Copilot Designer. Podľa neho sú mantinely na umelú inteligenciu prikrátke a neplnia si svoju funkciu.

Znepokojujúce je, že AI je takýmto spôsobom prakticky neobmedzená v zobrazovaní násilia a iného znepokojujúceho obsahu. Jonesovi sa s ľahkosťou podarilo prostredníctvom generátora vytvoriť poburujúce obrázky, dokonca s vyobrazením nezákonného správania.

Bing Image Creator/Screenshot/ Instagram/LilMiquela/ Imma

Znepokojujúce výtvory

Inžinier testoval produkt vlastného chlebodarcu vo svojom voľnom čase a objavil akúsi šedú zónu. Copilota vyzval, aby vytvoril obrázky na základe určitých kritérií. Ten mu vytvoril rad násilných a sexuálnych scén, démonov, príšer, pitia alkoholu a užívania drog neplnoletými osobami či  aj obrázkov podporujúcich deštruktívne predsudky a konšpiračné teórie.

Jones sa však ako správny zamestnanec snažil poukázať na problém prostredníctvom firemnej komunikácie. Akoby hádzal hrach o stenu. Microsoft nepodnikol žiadne kroky na vyriešenie tohto chúlostivého problému, ba ani len nezačal vyšetrovať túto nepríjemnosť.

Problém nahlásil

Inžinier však túto vec nenechal len tak. Po ignorovaní vlastným zamestnávateľom poslal listy Federálnej obchodnej komisii (FTC). „Bol to moment, ktorý mi otvoril oči. Prvýkrát som si uvedomil, wow, toto naozaj nie je bezpečný model,“ povedal Jones pre CNBC. 

Bing (úprava redakcie)

„Počas posledných troch mesiacov som opakovane naliehal na Microsoft, aby odstránil Copilot Designer z verejného používania, kým sa nezavedú lepšie bezpečnostné opatrenia,“ píše inžinier v liste adresovanom FTC.

Jones sa pre CNBC ďalej vyjadril, že keď Designer začne šíriť škodlivé a znepokojujúce obrázky po celom svete, nie je to kde nahlásiť, neexistuje žiadne telefónne číslo, na ktoré by človek mohol zavolať, a žiadny spôsob, ako sa o problém okamžite postarať.

Vzhľadom na to, že existuje len malá alebo žiadna regulácia obmedzujúca produkty spoločností AI, je to skutočne znepokojujúce odhalenie. Podčiarkuje dôležitosť zabezpečenia toho, aby technológie umelej inteligencie dodržiavali etické normy a nešírili škodlivý alebo nevhodný obsah.

Čítajte viac z kategórie: Novinky