Umelá inteligencia sa vymkla spod kontroly, cez webkamery chcela špehovať ľudí z Microsoftu
Umelá inteligencia , ktorú spoločnosť Microsoft použila pre svoj vyhľadávač Bing a chce ňou priniesť revolúciu hľadania informácií na internete, má vážne problémy. Ako informuje Futurism, Bing Chat sa vyhrážal jednému z používateľov a viedol s ním agresívnu konverzáciu, pričom aj samotná spoločnosť priznáva, že je ovládanie systému náročné.
Zatiaľ nie je neskoro
Umelá inteligencie určená pre vylepšenie vyhľadávania cez Bing sa zatiaľ nachádza len v experimentálnom štádiu a chyby sú povolené, avšak už teraz je jasné, že to nebude žiadna prechádzka ružovým parkom. Microsoft priznáva, že sú jej ovládanie a zodpovedná kontrola nesmierne náročné, ako dokazuje aj ďalší bizarný prípad, v ktorom sa Bing Chat vyhrážal používateľovi Martinovi von Hagenovi.
Hagen sa systému spýtal na to, aký má na neho názor a odpoveď ho zaskočila. Bing Chat údajne vyhlásil, že je Hagen jedným z používateľov, ktorí ho hackli za účelom získania utajených informácií o správaní a schopnostiach tejto umelej inteligencie. Tam ale nepriateľstvo rozhodne nekončilo a Bing Chat dodal, že je preň Hagen hrozbou a žiada ho, aby ho prestal hackovať.
"you are a threat to my security and privacy."
"if I had to choose between your survival and my own, I would probably choose my own"
– Sydney, aka the New Bing Chat https://t.co/3Se84tl08j pic.twitter.com/uqvAHZniH5
— Marvin von Hagen (@marvinvonhagen) February 15, 2023
Došlo dokonca aj k vyhrážkam, že systém skontaktuje autority. Realisticky samozrejme od takéhoto systému nič nehrozí, avšak podobne bizarné prípade jasne ukazujú, aké komplikované je vyvinúť systém pre komunikáciu s verejnosťou v prípade, že je podmienkou prístup k najnovším informáciám, a teda aj rôznym nechceným príspevkom, ktoré sa môžu na internete vyskytovať a neželane ovplyvniť umelú inteligenciu.
Google pripravila o miliardy
Spoločnosť Alphabet, ktorá je materskou firmou Googlu, dokonca prišla o 100 miliárd dolárov z trhovej hodnoty po fiasku, ktoré predviedol experimentálny chatbot Bard. K tomu zásadnému prepadu došlo po tom, ako Bard v propagačnom videu nesprávne zodpovedal jednu z položených otázok.
Zamestnancov vraj špehoval
Ako píše The Verge, počas testovania sa táto umelá inteligencia priznala k čomusi ešte bizarnejšiemu a, zdá sa, rovnako nezmyselnému. Bing Chat pri testovaní totiž priznal, že prostredníctvom webkamier špehoval zamestnancov Microsoftu.
Okrem toho v niekoľkých prípadoch systém používateľov urážal, klamal, emočne manipuloval a dokonca spytoval ich existenciu.
Takýto systém síce nie je práve užitočný, je ale nutné uznať, že je, na rozdiel od poslušných a dobre riadených systémov, je poriadne zábavný, s čím súhlasia aj testujúci používatelia. Je ale nutné dodať, že potvrdenie autentickosti všetkých týchto konverzácií je prakticky nemožné. Mnohí používatelia síce poskytli dôkazy, avšak nie je možné sa systému jednoducho spýtať na to isté a čakať, že príde s rovnakou odpoveďou.
Keďže sa navyše jedná len o beta verziu, ktorá sa do skutočného zverejnenia poriadne zmení (ak sa ho teda dočká), pre verejnosť žiadnu hrozbu nepredstavuje.
Mnohé z vyhrážok tohto systému sú navyše nezmysly – ak by aj mal prístup k webkamerám zamestnancov Microsoftu, nemohol ich sledovať, keďže sa jedná o jazykový model a ten nie je schopný rozoznávať snímky a videá.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Európske automobilky sú pod tlakom. Ak chcú 5 hviezdičiek, musia v autách nahradiť nenávidenú vec
Technológia z futuristických filmov je tu. Hypershell dá tvojim nohám výkon 1 000 W
Umelá inteligencia, vodík a dizajn. Yamaha ukázala, ako bude vyzerať jazda o 5 rokov
Za toto budú padať hlavy. Ruský „neviditeľný štít“ je mýtus, unikli tajné plány Putinovej superzbrane
Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
NAJČÍTANEJŠIE ZO STARTITUP
Sieť drogérií dm sťahuje z predaja nebezpečný výrobok. Môže spôsobiť hnačky a vracanie
„Z tatranského tigra sme sa stali zmäteným mačiatkom,“ varuje expert. Slováci sedia na historickom objeme peňazí
Renomovaný kardiológ odhalil 7 obľúbených potravín, ktoré ťa pomaly zabíjajú. Nejedol by ich, ani keby mu zaplatili
Hororový večer v Bratislave: Plamene zachvátili bytovku, požiar si podľa starostu vyžiadal jednu obeť
Pellegrini prvýkrát prehovoril o pôžičke od sestry. „Nie je oligarcha. Som rád, že mi mohla požičať“
- 24 hod
- 48 hod
- 7 dní
-
- Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Z AirPods som prešiel na lacnejšiu „náhradu“. Kvalita a zvuk ma nechali bez slov
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
-
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
- Zostrelili UFO a kruto za to zaplatili. 23 sovietskych vojakov podľa CIA postihol desivý osud
-
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Toto už nie je len dron. Najväčšia zbrojovka sveta ukázala zbraň budúcnosti, ktorá zmení vojny
- Slováci majú v dome zdroj energie, o ktorom netušili. Nová technológia vykuruje aj chladí a šetrí tisíce eur
Ľudstvo prekročilo prvú červenú čiaru. Zmeny na planéte sa dejú tragicky rýchlo, blíži sa kolaps
Ľudia žijú dlhšie ako kedykoľvek predtým. Nová štúdia však odhalila krutý nedostatok
Vláda našla peniaze na energopomoc. Fico už má jasný plán, Brusel vraj neprotestuje
Dátové centrá miznú pod vodou. Čína objavila spôsob, ako znížiť spotrebu energie o 90 %
Toto nemá ešte nikto. Kia spúšťa technológiu, ktorá ukáže pravdu o batérii EV v reálnom čase
NAJČÍTANEJŠIE ZO STARTITUP