Umelá inteligencia sa vymkla spod kontroly, cez webkamery chcela špehovať ľudí z Microsoftu
Umelá inteligencia , ktorú spoločnosť Microsoft použila pre svoj vyhľadávač Bing a chce ňou priniesť revolúciu hľadania informácií na internete, má vážne problémy. Ako informuje Futurism, Bing Chat sa vyhrážal jednému z používateľov a viedol s ním agresívnu konverzáciu, pričom aj samotná spoločnosť priznáva, že je ovládanie systému náročné.
Zatiaľ nie je neskoro
Umelá inteligencie určená pre vylepšenie vyhľadávania cez Bing sa zatiaľ nachádza len v experimentálnom štádiu a chyby sú povolené, avšak už teraz je jasné, že to nebude žiadna prechádzka ružovým parkom. Microsoft priznáva, že sú jej ovládanie a zodpovedná kontrola nesmierne náročné, ako dokazuje aj ďalší bizarný prípad, v ktorom sa Bing Chat vyhrážal používateľovi Martinovi von Hagenovi.
Hagen sa systému spýtal na to, aký má na neho názor a odpoveď ho zaskočila. Bing Chat údajne vyhlásil, že je Hagen jedným z používateľov, ktorí ho hackli za účelom získania utajených informácií o správaní a schopnostiach tejto umelej inteligencie. Tam ale nepriateľstvo rozhodne nekončilo a Bing Chat dodal, že je preň Hagen hrozbou a žiada ho, aby ho prestal hackovať.
"you are a threat to my security and privacy."
"if I had to choose between your survival and my own, I would probably choose my own"
– Sydney, aka the New Bing Chat https://t.co/3Se84tl08j pic.twitter.com/uqvAHZniH5
— Marvin von Hagen (@marvinvonhagen) February 15, 2023
Došlo dokonca aj k vyhrážkam, že systém skontaktuje autority. Realisticky samozrejme od takéhoto systému nič nehrozí, avšak podobne bizarné prípade jasne ukazujú, aké komplikované je vyvinúť systém pre komunikáciu s verejnosťou v prípade, že je podmienkou prístup k najnovším informáciám, a teda aj rôznym nechceným príspevkom, ktoré sa môžu na internete vyskytovať a neželane ovplyvniť umelú inteligenciu.
Google pripravila o miliardy
Spoločnosť Alphabet, ktorá je materskou firmou Googlu, dokonca prišla o 100 miliárd dolárov z trhovej hodnoty po fiasku, ktoré predviedol experimentálny chatbot Bard. K tomu zásadnému prepadu došlo po tom, ako Bard v propagačnom videu nesprávne zodpovedal jednu z položených otázok.
Zamestnancov vraj špehoval
Ako píše The Verge, počas testovania sa táto umelá inteligencia priznala k čomusi ešte bizarnejšiemu a, zdá sa, rovnako nezmyselnému. Bing Chat pri testovaní totiž priznal, že prostredníctvom webkamier špehoval zamestnancov Microsoftu.
Okrem toho v niekoľkých prípadoch systém používateľov urážal, klamal, emočne manipuloval a dokonca spytoval ich existenciu.
Takýto systém síce nie je práve užitočný, je ale nutné uznať, že je, na rozdiel od poslušných a dobre riadených systémov, je poriadne zábavný, s čím súhlasia aj testujúci používatelia. Je ale nutné dodať, že potvrdenie autentickosti všetkých týchto konverzácií je prakticky nemožné. Mnohí používatelia síce poskytli dôkazy, avšak nie je možné sa systému jednoducho spýtať na to isté a čakať, že príde s rovnakou odpoveďou.
Keďže sa navyše jedná len o beta verziu, ktorá sa do skutočného zverejnenia poriadne zmení (ak sa ho teda dočká), pre verejnosť žiadnu hrozbu nepredstavuje.
Mnohé z vyhrážok tohto systému sú navyše nezmysly – ak by aj mal prístup k webkamerám zamestnancov Microsoftu, nemohol ich sledovať, keďže sa jedná o jazykový model a ten nie je schopný rozoznávať snímky a videá.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Z prehliadaného paliva urobia „novú ropu“. Arabi budujú svätý grál čistej energie za 270 miliárd dolárov
Sprcha budúcnosti je tu. Japonská kapsula ťa umyje, sleduje tvoj tep a vie, kedy si unavený
Toto zariadenie prekonalo všetky robotické vysávače. Novinka na Kickstarteri je prvá na svete s unikátnou vlastnosťou
Drony bude odpaľovať neviditeľnými „nábojmi“. Veľmoc ukázala tichého lovca dronov, ktorý zmení vojny
Milovaný Windows oficiálne končí. Toto je 5 možností, ktoré musíš urobiť, aby si neostal bez ochrany
NAJČÍTANEJŠIE ZO STARTITUP
Inštitút ľudských práv sa obrátil na Eurokomisiu. Vyzval ju, aby vláde Fica zmrazila eurofondy
Seniori získajú bonus 2 000 € mesačne: Európska krajina spúšťa „aktívny dôchodok“
Expertka skúmala stres celú svoju kariéru: Toto je podľa nej liek číslo 1, ktorý ti prevráti život naruby
Renomovaný lekár prezradil jednoduchý trik, ktorý odhalí zdravé trávenie. Stačí ti na to potravina za pár drobných
Na Ukrajinu posielajú sobie kože. Ruskí vojaci ich vraj potrebujú na prežitie
- 24 hod
- 48 hod
- 7 dní
-
- Ľuďom potečie rovno domov. Slovensko konečne začne využívať progresívnu energiu budúcnosti
- Nadšené ohlasy nestačili. Najlepší film 2025 sa mení na fiasko roka
- Z prehliadaného paliva urobia „novú ropu“. Arabi budujú svätý grál čistej energie za 270 miliárd dolárov
- Netflix ešte nič väčšie nenatočil. Najdrahší seriál sa vracia v temnom finále, konečne máme detaily
- Podľahli mu diváci v 75 krajinách vrátane Slovenska. Na Netflix práve pribudol drsný akčný film
-
- Nadšené ohlasy nestačili. Najlepší film 2025 sa mení na fiasko roka
- Ľuďom potečie rovno domov. Slovensko konečne začne využívať progresívnu energiu budúcnosti
- Vesmír poslal záhadný signál, ktorý šokoval vedcov. Po 50 rokoch sa ozvalo niečo, čo už malo byť dávno mŕtve
- Čo ak sa Veľký tresk nikdy nestal? Vedci prišli s vysvetlením, ktoré mení všetko o vzniku vesmíru
- 1200 metrov pod pyramídami objavili 38 000 rokov staré mesto, z ktorého vedcom padla sánka
-
- Africký štát blízko Európy sa pripravuje na vojnu. Do zbraní nalejú miliardy, analytici sa chytajú za hlavy
- Vodičov pobúrili nové kontroverzné radary. Rýchlosť ti už nezmeria polícia, ale sused s mobilom
- 1200 metrov pod pyramídami objavili 38 000 rokov staré mesto, z ktorého vedcom padla sánka
- Šéf Lamborghini odpísal elektromobily jednou vetou. Radšej urobia kompromis v obľúbenom pohone
- Ľudia sa nevedia dočkať. Známa akčná séria po 12 rokoch chystá veľký návrat
Po ruských dronoch prichádza tvrdá odpoveď. Británia predlžuje svoju misiu nad Poľskom
Británia posiela Ukrajine technológiu, ktorá mení vojnu. Na fronte pribúdajú tisíce dronov denne
Ak máš tohto operátora, máš to najlepšie na Slovensku. 5G sieť zasahuje už viac než 5 miliónov ľudí
Fosílne palivá ich devastujú a musia konať rýchlo. Dôležitý spojenec Západu sa musí rozhodnúť
Kľúčový ľad planéty sa stráca alarmujúcou rýchlosťou. Vedci hovoria o predčasnej katastrofe
NAJČÍTANEJŠIE ZO STARTITUP