Naša nová AI je hrozba pre celý svet, varuje inžinier Microsoftu. Žiada okamžité vypnutie
Generátory obrázkov pomocou umelej inteligencie sú nástroje, ktoré využívajú pokročilé algoritmy na vytváranie nových vizuálnych obsahov. Pre väčšinu používateľov ide o vcelku nový a šikovný nástroj. Koniec koncov, niektoré generátory obrázkov vznikli len nedávno.
Nemožno však ignorovať hrozby a varovania odborníkov na margo tejto funkcie umelej inteligencie, pričom sa najnovšie ozýva kritika vo vlastných radoch Microsoftu, ktorý nedávno významným spôsobom aktualizoval svoj vlastný AI model určený na generovanie obrázkov. O problematike informoval portál Futurism.
Neúčinné mantinely
Copilot Designer (predtým Bing Image Creator) je verejne dostupný generátor obrázkov od spoločnosti Microsoft. O to horšie vyznieva alarmujúce zistenie inžiniera umelej inteligencie amerického giganta o tomto ľahko dostupnom nástroji.
Shane Jones vyjadril znepokojujúce obavy týkajúce sa obrázkov, ktoré vytvára Copilot Designer. Podľa neho sú mantinely na umelú inteligenciu prikrátke a neplnia si svoju funkciu.
Znepokojujúce je, že AI je takýmto spôsobom prakticky neobmedzená v zobrazovaní násilia a iného znepokojujúceho obsahu. Jonesovi sa s ľahkosťou podarilo prostredníctvom generátora vytvoriť poburujúce obrázky, dokonca s vyobrazením nezákonného správania.
Znepokojujúce výtvory
Inžinier testoval produkt vlastného chlebodarcu vo svojom voľnom čase a objavil akúsi šedú zónu. Copilota vyzval, aby vytvoril obrázky na základe určitých kritérií. Ten mu vytvoril rad násilných a sexuálnych scén, démonov, príšer, pitia alkoholu a užívania drog neplnoletými osobami či aj obrázkov podporujúcich deštruktívne predsudky a konšpiračné teórie.
Jones sa však ako správny zamestnanec snažil poukázať na problém prostredníctvom firemnej komunikácie. Akoby hádzal hrach o stenu. Microsoft nepodnikol žiadne kroky na vyriešenie tohto chúlostivého problému, ba ani len nezačal vyšetrovať túto nepríjemnosť.
Problém nahlásil
Inžinier však túto vec nenechal len tak. Po ignorovaní vlastným zamestnávateľom poslal listy Federálnej obchodnej komisii (FTC). „Bol to moment, ktorý mi otvoril oči. Prvýkrát som si uvedomil, wow, toto naozaj nie je bezpečný model,“ povedal Jones pre CNBC.
„Počas posledných troch mesiacov som opakovane naliehal na Microsoft, aby odstránil Copilot Designer z verejného používania, kým sa nezavedú lepšie bezpečnostné opatrenia,“ píše inžinier v liste adresovanom FTC.
Jones sa pre CNBC ďalej vyjadril, že keď Designer začne šíriť škodlivé a znepokojujúce obrázky po celom svete, nie je to kde nahlásiť, neexistuje žiadne telefónne číslo, na ktoré by človek mohol zavolať, a žiadny spôsob, ako sa o problém okamžite postarať.
Vzhľadom na to, že existuje len malá alebo žiadna regulácia obmedzujúca produkty spoločností AI, je to skutočne znepokojujúce odhalenie. Podčiarkuje dôležitosť zabezpečenia toho, aby technológie umelej inteligencie dodržiavali etické normy a nešírili škodlivý alebo nevhodný obsah.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Experti bijú na poplach. AI vypočítala, ako drasticky sa zmení svet v roku 2030
Zrodil sa skutočný Transformer. Tím z Caltechu spojil lietanie, chôdzu aj jazdu v jednom stroji
Sudca nemal na výber. ChatGPT pomohol Američanke dosiahnuť nemožné
Paranoja alebo predvídavosť? Ďalší miliardár chce stavať vlastný bunker. Dôvodom má byť umelá inteligencia
Toto zariadenie prekonalo všetky robotické vysávače. Novinka na Kickstarteri je prvá na svete s unikátnou vlastnosťou
NAJČÍTANEJŠIE ZO STARTITUP
64-ročný Slovák s rodinou ovláda majetok v hodnote 180 miliónov eur. Začínal doručovaním telegramov na Trabante
Sociálna poisťovňa sprísnila kontrolu PN. Firmy podozrivých zamestnancov nahlasujú online
Rastlinné jedlá dokážu poškodiť srdce, tvrdia vedci. Niektoré potraviny môžu byť rovnako škodlivé ako fast food
Slovensko zvažuje úpravu vyplácania 13. dôchodku. V Maďarsku majú aj 14., no seniori sú stále nespokojní
Slovenský tínedžer Michal je nezvestný už dva mesiace. Naposledy ho videli v New Yorku
- 24 hod
- 48 hod
- 7 dní
-
- Máš doma staré mobily? Nevyhadzuj ich, obľúbený operátor ti za každý jeden dá až 100 GB dát
- Experti bijú na poplach. AI vypočítala, ako drasticky sa zmení svet v roku 2030
- Ak nepriateľ zaútočí, bude čeliť vlastnému koncu. Európsky štát otestoval 8100-tonový jadrový kolos
- Automobilky oklamali svet a budú platiť. Obľúbený pohon zlyhal na celej čiare, produkuje veľké emisie
- Z vesmíru sa zrútil na Zem žeravý objekt. Ak sa ho človek dotkne, riskuje veľké zdravotné problémy
-
- Automobilky oklamali svet a budú platiť. Obľúbený pohon zlyhal na celej čiare, produkuje veľké emisie
- Ak nepriateľ zaútočí, bude čeliť vlastnému koncu. Európsky štát otestoval 8100-tonový jadrový kolos
- Máš doma staré mobily? Nevyhadzuj ich, obľúbený operátor ti za každý jeden dá až 100 GB dát
- Vedci objavili 2000-ročný hrob, ktorý popiera logiku. Rímska mohyla blízko Slovenska ukrýva veľkú záhadu
- Experti bijú na poplach. AI vypočítala, ako drasticky sa zmení svet v roku 2030
-
- Ak nepriateľ zaútočí, bude čeliť vlastnému koncu. Európsky štát otestoval 8100-tonový jadrový kolos
- Automobilky oklamali svet a budú platiť. Obľúbený pohon zlyhal na celej čiare, produkuje veľké emisie
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
- Sovieti mali v rukách väčší klenot ako Concorde, no bol úplnou nočnou morou
- Vedci objavili 2000-ročný hrob, ktorý popiera logiku. Rímska mohyla blízko Slovenska ukrýva veľkú záhadu
Zelenskyi otvorene: Iba tieto ničivé zbrane vrátia Putina späť do reality a zmenia vojnu
Viac než 2000 vedcov varuje EÚ: Takáto klimatická politika bude devastačná, vzďaľuje sa faktom
89 rokov si to nikto nevšimol. Študentka urobila prevratný objav, vylepší kľúčový zdroj energie
Nahradia zastarané Tornáda. Štát EÚ chce kúpiť ďalšie stíhačky od USA, ponesú jadrové bomby
Dosiahne rýchlosť 309 km/h a Rusov privedie do šialenstva. Ukrajina našla odpoveď na zákernú zbraň
NAJČÍTANEJŠIE ZO STARTITUP