Naša nová AI je hrozba pre celý svet, varuje inžinier Microsoftu. Žiada okamžité vypnutie
Predplatné PREMIUM na mesiac ZDARMA.
Generátory obrázkov pomocou umelej inteligencie sú nástroje, ktoré využívajú pokročilé algoritmy na vytváranie nových vizuálnych obsahov. Pre väčšinu používateľov ide o vcelku nový a šikovný nástroj. Koniec koncov, niektoré generátory obrázkov vznikli len nedávno.
Nemožno však ignorovať hrozby a varovania odborníkov na margo tejto funkcie umelej inteligencie, pričom sa najnovšie ozýva kritika vo vlastných radoch Microsoftu, ktorý nedávno významným spôsobom aktualizoval svoj vlastný AI model určený na generovanie obrázkov. O problematike informoval portál Futurism.
Neúčinné mantinely
Copilot Designer (predtým Bing Image Creator) je verejne dostupný generátor obrázkov od spoločnosti Microsoft. O to horšie vyznieva alarmujúce zistenie inžiniera umelej inteligencie amerického giganta o tomto ľahko dostupnom nástroji.
Shane Jones vyjadril znepokojujúce obavy týkajúce sa obrázkov, ktoré vytvára Copilot Designer. Podľa neho sú mantinely na umelú inteligenciu prikrátke a neplnia si svoju funkciu.
Znepokojujúce je, že AI je takýmto spôsobom prakticky neobmedzená v zobrazovaní násilia a iného znepokojujúceho obsahu. Jonesovi sa s ľahkosťou podarilo prostredníctvom generátora vytvoriť poburujúce obrázky, dokonca s vyobrazením nezákonného správania.
Znepokojujúce výtvory
Inžinier testoval produkt vlastného chlebodarcu vo svojom voľnom čase a objavil akúsi šedú zónu. Copilota vyzval, aby vytvoril obrázky na základe určitých kritérií. Ten mu vytvoril rad násilných a sexuálnych scén, démonov, príšer, pitia alkoholu a užívania drog neplnoletými osobami či aj obrázkov podporujúcich deštruktívne predsudky a konšpiračné teórie.
Jones sa však ako správny zamestnanec snažil poukázať na problém prostredníctvom firemnej komunikácie. Akoby hádzal hrach o stenu. Microsoft nepodnikol žiadne kroky na vyriešenie tohto chúlostivého problému, ba ani len nezačal vyšetrovať túto nepríjemnosť.
Problém nahlásil
Inžinier však túto vec nenechal len tak. Po ignorovaní vlastným zamestnávateľom poslal listy Federálnej obchodnej komisii (FTC). „Bol to moment, ktorý mi otvoril oči. Prvýkrát som si uvedomil, wow, toto naozaj nie je bezpečný model,“ povedal Jones pre CNBC.
„Počas posledných troch mesiacov som opakovane naliehal na Microsoft, aby odstránil Copilot Designer z verejného používania, kým sa nezavedú lepšie bezpečnostné opatrenia,“ píše inžinier v liste adresovanom FTC.
Jones sa pre CNBC ďalej vyjadril, že keď Designer začne šíriť škodlivé a znepokojujúce obrázky po celom svete, nie je to kde nahlásiť, neexistuje žiadne telefónne číslo, na ktoré by človek mohol zavolať, a žiadny spôsob, ako sa o problém okamžite postarať.
Vzhľadom na to, že existuje len malá alebo žiadna regulácia obmedzujúca produkty spoločností AI, je to skutočne znepokojujúce odhalenie. Podčiarkuje dôležitosť zabezpečenia toho, aby technológie umelej inteligencie dodržiavali etické normy a nešírili škodlivý alebo nevhodný obsah.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Apple to dokázal. Na iPhone príde zmena, po ktorej už žiadny Android nebude dávať zmysel
Táto umelá inteligencia vie, kedy zomrieš. Experti ale varujú, aby sme boli opatrní
iPhone už nikdy nebude ako predtým. Prichádza novinka, ktorá ho posunie o úroveň vyššie
Slováci už nikdy nemusia strácať čas. Vyskúšali sme prelomovú AI, práca s PC nikdy nebola lepšia
Video: Umelá inteligencia prvýkrát bojovala s ľudským pilotom, takto dopadla
- 24 hod
- 48 hod
- 7 dní
-
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Tesla oklamala ľudí. Za toto môžu všetci skončiť vo väzení
- Veľký elektropredajca na Slovensku končí. Toto bude jeho náhrada
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
- Naplnili sa najhoršie obavy. Slávny výrobca elektromobilov sa rúti do ďalšieho bankrotu
-
- Tisíce počítačov môžeme hodiť do koša. Windows chystá zmenu, po ktorej budú nepoužiteľné
- Slováci zbytočne platia. Obľúbenú streamovaciu službu môžeš mať zadarmo, tu je návod
- Už žiadny Iron Man, Thor či Hulk. Prichádza zvrátená náhrada Avengerov
- Budeš sa báť zaspať: Prichádza nálož hororov, aká tu už roky nebola. Tieto sú najlepšie
- Naplnili sa najhoršie obavy. Slávny výrobca elektromobilov sa rúti do ďalšieho bankrotu
-
- Slováci zase naleteli. Slávnu appku okamžite vymaž, kradnú ti cez ňu heslá aj peniaze
- Vedcom padla sánka. V slnečnej sústave našli tajomný objekt
- Telekom predstavil novinku, aká tu ešte nebola. Náramne poteší jednu skupinu Slovákov
- Okamžite si skontroluj účet. Známa aplikácia Slovákom strháva desiatky eur
- Najbrutálnejší slovenský film si čoskoro pozrieš online. V špeciálnej edícii bude len na jednom mieste
Väčšina Rakúšanov považuje vlastníctvo automobilu za dôležité
Poľský jadrový program napreduje smerom k fáze výstavby elektrární
Elon Musk rozbieha novú firmu. Vyzbieral na ňu milliardy, takto chce zmeniť svet
Macron chce otvoriť diskusiu o európskej obrane vrátane jadrových zbraní
Hodinky pasažiera Titanicu sa vydražili za rekordnú sumu
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené