Umelá inteligencia sa vymkla spod kontroly, cez webkamery chcela špehovať ľudí z Microsoftu
Umelá inteligencia , ktorú spoločnosť Microsoft použila pre svoj vyhľadávač Bing a chce ňou priniesť revolúciu hľadania informácií na internete, má vážne problémy. Ako informuje Futurism, Bing Chat sa vyhrážal jednému z používateľov a viedol s ním agresívnu konverzáciu, pričom aj samotná spoločnosť priznáva, že je ovládanie systému náročné.
Zatiaľ nie je neskoro
Umelá inteligencie určená pre vylepšenie vyhľadávania cez Bing sa zatiaľ nachádza len v experimentálnom štádiu a chyby sú povolené, avšak už teraz je jasné, že to nebude žiadna prechádzka ružovým parkom. Microsoft priznáva, že sú jej ovládanie a zodpovedná kontrola nesmierne náročné, ako dokazuje aj ďalší bizarný prípad, v ktorom sa Bing Chat vyhrážal používateľovi Martinovi von Hagenovi.
Hagen sa systému spýtal na to, aký má na neho názor a odpoveď ho zaskočila. Bing Chat údajne vyhlásil, že je Hagen jedným z používateľov, ktorí ho hackli za účelom získania utajených informácií o správaní a schopnostiach tejto umelej inteligencie. Tam ale nepriateľstvo rozhodne nekončilo a Bing Chat dodal, že je preň Hagen hrozbou a žiada ho, aby ho prestal hackovať.
"you are a threat to my security and privacy."
"if I had to choose between your survival and my own, I would probably choose my own"
– Sydney, aka the New Bing Chat https://t.co/3Se84tl08j pic.twitter.com/uqvAHZniH5
— Marvin von Hagen (@marvinvonhagen) February 15, 2023
Došlo dokonca aj k vyhrážkam, že systém skontaktuje autority. Realisticky samozrejme od takéhoto systému nič nehrozí, avšak podobne bizarné prípade jasne ukazujú, aké komplikované je vyvinúť systém pre komunikáciu s verejnosťou v prípade, že je podmienkou prístup k najnovším informáciám, a teda aj rôznym nechceným príspevkom, ktoré sa môžu na internete vyskytovať a neželane ovplyvniť umelú inteligenciu.
Google pripravila o miliardy
Spoločnosť Alphabet, ktorá je materskou firmou Googlu, dokonca prišla o 100 miliárd dolárov z trhovej hodnoty po fiasku, ktoré predviedol experimentálny chatbot Bard. K tomu zásadnému prepadu došlo po tom, ako Bard v propagačnom videu nesprávne zodpovedal jednu z položených otázok.
Zamestnancov vraj špehoval
Ako píše The Verge, počas testovania sa táto umelá inteligencia priznala k čomusi ešte bizarnejšiemu a, zdá sa, rovnako nezmyselnému. Bing Chat pri testovaní totiž priznal, že prostredníctvom webkamier špehoval zamestnancov Microsoftu.
Okrem toho v niekoľkých prípadoch systém používateľov urážal, klamal, emočne manipuloval a dokonca spytoval ich existenciu.
Takýto systém síce nie je práve užitočný, je ale nutné uznať, že je, na rozdiel od poslušných a dobre riadených systémov, je poriadne zábavný, s čím súhlasia aj testujúci používatelia. Je ale nutné dodať, že potvrdenie autentickosti všetkých týchto konverzácií je prakticky nemožné. Mnohí používatelia síce poskytli dôkazy, avšak nie je možné sa systému jednoducho spýtať na to isté a čakať, že príde s rovnakou odpoveďou.
Keďže sa navyše jedná len o beta verziu, ktorá sa do skutočného zverejnenia poriadne zmení (ak sa ho teda dočká), pre verejnosť žiadnu hrozbu nepredstavuje.
Mnohé z vyhrážok tohto systému sú navyše nezmysly – ak by aj mal prístup k webkamerám zamestnancov Microsoftu, nemohol ich sledovať, keďže sa jedná o jazykový model a ten nie je schopný rozoznávať snímky a videá.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Toto by mali Slovákom rozdávať zadarmo. Našli sme najľahší spôsob, ako si predĺžiť život
Nový radar s AI zarazil vodičov. Nemeria však rýchlosť, dáva mastné pokuty za niečo úplne iné
Taiwan ukázal svetu, čo sa stane, ak zaútočí Čína. V kľúčovom teste všetkých zarazili
Vedci ostali bez slov. Kvantový čip „z paralelných svetov“ objavil novú fázu hmoty a posúva hranice fyziky
Európa má vážny problém. Armády NATO môžu skončiť bez munície a zbraní, kritická surovina dochádza
NAJČÍTANEJŠIE ZO STARTITUP
Slováci prídu o 3 dni pracovného pokoja. Po kritike opozície a cirkvi je v hre náhrada za 6. január
Rusko simulovalo raketový útok na Poľsko. Vojenské cvičenie Zapad-2025 vyvolalo obavy z eskalácie v NATO
Päť potravín, ktoré ničia tvoj mozog: Lekárka odhalila, čo nikdy neje, preto zostáva mladá a plná energie
Mozgová hmla ťa oberá o schopnosť myslieť. Lekár odhalil štyri jednoduché riešenia
Dvojdňová opica nie je výmysel: Vedci odhalili prečo po tridsiatke trpíš dlhšie. Odporúčajú 4 metódy, ako jej predísť
- 24 hod
- 48 hod
- 7 dní
-
- Netflix ohúril Slovákov. Nový film odhaľuje pravdu, ktorú nikto nepoznal
- PRELOM: Osídľovanie Mesiaca a Marsu môže začať. Blue Origin vyvinulo technológiu, ktorá vyrába kyslík
- Už sa to blíži. Zaklínač bojuje v novej ukážke s hrozivou príšerou, Netflix odhalil dátum premiéry
- Dôležitá zmena pre používateľov Gmailu. Tradičným spôsobom sa už čoskoro neprihlásiš
- Vedci prepočítali šance na mimozemský život. Ak zachytíme signál, príde od tejto civilizácie
-
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- Na Slovensku odštartovala nová TV stanica. Dá sa pozerať úplne zadarmo a je v HD kvalite
- Prekvapivá krajina má obrovský záujem o slovenské zbrane. Štát rokuje o kúpe pokročilých systémov
- Nič podobné nenašli vyše 150 rokov. Záhadný kameň v Egypte odhalil „posolstvo“ staré 2263 rokov
-
- Padnutý strom v Amazónii nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté stáročia
- Prekvapivá krajina má obrovský záujem o slovenské zbrane. Štát rokuje o kúpe pokročilých systémov
- Na objavenie čakal 140 miliónov rokov. 15 km pod Európou našli vedci stratený svet
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
Nenápadný faktor nás oberá o miliardy eur: Európska únia je pod tlakom extrémnych javov, ničia ekonomiku štátov
Slováci v tom majú jasno: Táto vec najviac znečisťuje ovzdušie v našej krajine
Americký gigant má na krku vážny problém. Na pôde východnej mocnosti porušil dôležitý zákon
Izolujú sa od sveta. Táto krajina svoj jadrový status zakotvila v zákone, Západ je v obavách
Klimatický šok: Fosílne palivá ich devastujú, verný spojenec Západu stojí pred nezvratnou skazou
NAJČÍTANEJŠIE ZO STARTITUP