Naša nová AI je hrozba pre celý svet, varuje inžinier Microsoftu. Žiada okamžité vypnutie
Generátory obrázkov pomocou umelej inteligencie sú nástroje, ktoré využívajú pokročilé algoritmy na vytváranie nových vizuálnych obsahov. Pre väčšinu používateľov ide o vcelku nový a šikovný nástroj. Koniec koncov, niektoré generátory obrázkov vznikli len nedávno.
Nemožno však ignorovať hrozby a varovania odborníkov na margo tejto funkcie umelej inteligencie, pričom sa najnovšie ozýva kritika vo vlastných radoch Microsoftu, ktorý nedávno významným spôsobom aktualizoval svoj vlastný AI model určený na generovanie obrázkov. O problematike informoval portál Futurism.
Neúčinné mantinely
Copilot Designer (predtým Bing Image Creator) je verejne dostupný generátor obrázkov od spoločnosti Microsoft. O to horšie vyznieva alarmujúce zistenie inžiniera umelej inteligencie amerického giganta o tomto ľahko dostupnom nástroji.
Shane Jones vyjadril znepokojujúce obavy týkajúce sa obrázkov, ktoré vytvára Copilot Designer. Podľa neho sú mantinely na umelú inteligenciu prikrátke a neplnia si svoju funkciu.
Znepokojujúce je, že AI je takýmto spôsobom prakticky neobmedzená v zobrazovaní násilia a iného znepokojujúceho obsahu. Jonesovi sa s ľahkosťou podarilo prostredníctvom generátora vytvoriť poburujúce obrázky, dokonca s vyobrazením nezákonného správania.
Znepokojujúce výtvory
Inžinier testoval produkt vlastného chlebodarcu vo svojom voľnom čase a objavil akúsi šedú zónu. Copilota vyzval, aby vytvoril obrázky na základe určitých kritérií. Ten mu vytvoril rad násilných a sexuálnych scén, démonov, príšer, pitia alkoholu a užívania drog neplnoletými osobami či aj obrázkov podporujúcich deštruktívne predsudky a konšpiračné teórie.
Jones sa však ako správny zamestnanec snažil poukázať na problém prostredníctvom firemnej komunikácie. Akoby hádzal hrach o stenu. Microsoft nepodnikol žiadne kroky na vyriešenie tohto chúlostivého problému, ba ani len nezačal vyšetrovať túto nepríjemnosť.
Problém nahlásil
Inžinier však túto vec nenechal len tak. Po ignorovaní vlastným zamestnávateľom poslal listy Federálnej obchodnej komisii (FTC). „Bol to moment, ktorý mi otvoril oči. Prvýkrát som si uvedomil, wow, toto naozaj nie je bezpečný model,“ povedal Jones pre CNBC.
„Počas posledných troch mesiacov som opakovane naliehal na Microsoft, aby odstránil Copilot Designer z verejného používania, kým sa nezavedú lepšie bezpečnostné opatrenia,“ píše inžinier v liste adresovanom FTC.
Jones sa pre CNBC ďalej vyjadril, že keď Designer začne šíriť škodlivé a znepokojujúce obrázky po celom svete, nie je to kde nahlásiť, neexistuje žiadne telefónne číslo, na ktoré by človek mohol zavolať, a žiadny spôsob, ako sa o problém okamžite postarať.
Vzhľadom na to, že existuje len malá alebo žiadna regulácia obmedzujúca produkty spoločností AI, je to skutočne znepokojujúce odhalenie. Podčiarkuje dôležitosť zabezpečenia toho, aby technológie umelej inteligencie dodržiavali etické normy a nešírili škodlivý alebo nevhodný obsah.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
USA stavajú zbraň budúcnosti. F/A-XX bude mať o štvrtinu väčší dolet než F-35
Umelá inteligencia, vodík a dizajn. Yamaha ukázala, ako bude vyzerať jazda o 5 rokov
Západ je v pozore. Čína predstavila zabijaka ChatGPT, nová AI ho v testoch rozdrvila
ChatGPT sa mení od základov. Túto novú funkciu nebudeš chcieť prestať používať, má to však háčik
NAJČÍTANEJŠIE ZO STARTITUP
Sieť drogérií dm sťahuje z predaja nebezpečný výrobok. Môže spôsobiť hnačky a vracanie
„Z tatranského tigra sme sa stali zmäteným mačiatkom,“ varuje expert. Slováci sedia na historickom objeme peňazí
Hororový večer v Bratislave: Plamene zachvátili bytovku, požiar si podľa starostu vyžiadal jednu obeť
Expertka na starnutie varuje: Stres ti skracuje život. Toto sú 4 jednoduché pravidlá, ako to zastaviť
„Vlak vyzeral strašne,“ opísal svedok chaos po zrážke rýchlikov. Nemocnica spustila krízový plán
- 24 hod
- 48 hod
- 7 dní
-
- Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Z AirPods som prešiel na lacnejšiu „náhradu“. Kvalita a zvuk ma nechali bez slov
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
-
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
- Zostrelili UFO a kruto za to zaplatili. 23 sovietskych vojakov podľa CIA postihol desivý osud
-
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Toto už nie je len dron. Najväčšia zbrojovka sveta ukázala zbraň budúcnosti, ktorá zmení vojny
- Slováci majú v dome zdroj energie, o ktorom netušili. Nová technológia vykuruje aj chladí a šetrí tisíce eur
Nemecké tajné služby bijú na poplach: Rusko sa nebojí otvoreného vojenského konfliktu s NATO
Z Nemecka hlásia bizár: Zlodeji plienia na nabíjacích staniciach pre elektromobily, kradnú toto
Ľudstvo prekročilo prvú červenú čiaru. Zmeny na planéte sa dejú tragicky rýchlo, blíži sa kolaps
Ľudia žijú dlhšie ako kedykoľvek predtým. Nová štúdia však odhalila krutý nedostatok
Vláda našla peniaze na energopomoc. Fico už má jasný plán, Brusel vraj neprotestuje
NAJČÍTANEJŠIE ZO STARTITUP