Umelá inteligencia sa vymkla spod kontroly, cez webkamery chcela špehovať ľudí z Microsoftu
Umelá inteligencia , ktorú spoločnosť Microsoft použila pre svoj vyhľadávač Bing a chce ňou priniesť revolúciu hľadania informácií na internete, má vážne problémy. Ako informuje Futurism, Bing Chat sa vyhrážal jednému z používateľov a viedol s ním agresívnu konverzáciu, pričom aj samotná spoločnosť priznáva, že je ovládanie systému náročné.
Zatiaľ nie je neskoro
Umelá inteligencie určená pre vylepšenie vyhľadávania cez Bing sa zatiaľ nachádza len v experimentálnom štádiu a chyby sú povolené, avšak už teraz je jasné, že to nebude žiadna prechádzka ružovým parkom. Microsoft priznáva, že sú jej ovládanie a zodpovedná kontrola nesmierne náročné, ako dokazuje aj ďalší bizarný prípad, v ktorom sa Bing Chat vyhrážal používateľovi Martinovi von Hagenovi.
Hagen sa systému spýtal na to, aký má na neho názor a odpoveď ho zaskočila. Bing Chat údajne vyhlásil, že je Hagen jedným z používateľov, ktorí ho hackli za účelom získania utajených informácií o správaní a schopnostiach tejto umelej inteligencie. Tam ale nepriateľstvo rozhodne nekončilo a Bing Chat dodal, že je preň Hagen hrozbou a žiada ho, aby ho prestal hackovať.
"you are a threat to my security and privacy."
"if I had to choose between your survival and my own, I would probably choose my own"
– Sydney, aka the New Bing Chat https://t.co/3Se84tl08j pic.twitter.com/uqvAHZniH5
— Marvin von Hagen (@marvinvonhagen) February 15, 2023
Došlo dokonca aj k vyhrážkam, že systém skontaktuje autority. Realisticky samozrejme od takéhoto systému nič nehrozí, avšak podobne bizarné prípade jasne ukazujú, aké komplikované je vyvinúť systém pre komunikáciu s verejnosťou v prípade, že je podmienkou prístup k najnovším informáciám, a teda aj rôznym nechceným príspevkom, ktoré sa môžu na internete vyskytovať a neželane ovplyvniť umelú inteligenciu.
Google pripravila o miliardy
Spoločnosť Alphabet, ktorá je materskou firmou Googlu, dokonca prišla o 100 miliárd dolárov z trhovej hodnoty po fiasku, ktoré predviedol experimentálny chatbot Bard. K tomu zásadnému prepadu došlo po tom, ako Bard v propagačnom videu nesprávne zodpovedal jednu z položených otázok.
Zamestnancov vraj špehoval
Ako píše The Verge, počas testovania sa táto umelá inteligencia priznala k čomusi ešte bizarnejšiemu a, zdá sa, rovnako nezmyselnému. Bing Chat pri testovaní totiž priznal, že prostredníctvom webkamier špehoval zamestnancov Microsoftu.
Okrem toho v niekoľkých prípadoch systém používateľov urážal, klamal, emočne manipuloval a dokonca spytoval ich existenciu.
Takýto systém síce nie je práve užitočný, je ale nutné uznať, že je, na rozdiel od poslušných a dobre riadených systémov, je poriadne zábavný, s čím súhlasia aj testujúci používatelia. Je ale nutné dodať, že potvrdenie autentickosti všetkých týchto konverzácií je prakticky nemožné. Mnohí používatelia síce poskytli dôkazy, avšak nie je možné sa systému jednoducho spýtať na to isté a čakať, že príde s rovnakou odpoveďou.
Keďže sa navyše jedná len o beta verziu, ktorá sa do skutočného zverejnenia poriadne zmení (ak sa ho teda dočká), pre verejnosť žiadnu hrozbu nepredstavuje.
Mnohé z vyhrážok tohto systému sú navyše nezmysly – ak by aj mal prístup k webkamerám zamestnancov Microsoftu, nemohol ich sledovať, keďže sa jedná o jazykový model a ten nie je schopný rozoznávať snímky a videá.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Google ukázal „teleport“, ktorý ťa prenesie do inej miestnosti. Lacné to však nebude (VIDEO)
Legendy na kolesách. Toto je TOP 8 áut od zaniknutých automobiliek, ktoré predbehli dobu
Čína ponížila ruskú pýchu za 1,5 miliardy. Použitie tejto ničivej zbrane vystrašilo aj Západ
Je presný na 1 mm a nepotrebuje prestávky. Odhalili robota, ktorý pripraví o prácu tisíce ľudí
Trump odhalil obranný superštít. „Zlatá kupola“ bude nad celými USA a zastaví aj rakety z vesmíru
NAJČÍTANEJŠIE ZO STARTITUP
5 000 eur za nástup do práce: Firmy na Slovensku ponúkajú náborové bonusy ako z rozprávky
Muž na jednokolke mieril k Slovensku: „Dokonalý plán“ zlyhal pár metrov od hraníc
Majstrovstvá sveta v hokeji 2029 sa uskutočnia na Slovensku: Svetovú elitu privítame tretíkrát
Pokuty až do výšky 3 000 eur: V dovolenkovom raji mnohých Slovákov nesmieš obrátiť ani kameň v mori
Poľsko hľadá výbušniny na dne mora: Na strategickom územím bola ruská tieňová loď
- 24 hod
- 48 hod
- 7 dní
-
- Pohoršila svet, ročne „vyrobí“ desaťtisíce detí. Takto funguje mrazivá továreň na ľudí
- Slnko má v našej slnečnej sústave zlé dvojča, skrýva sa a spôsobuje masové vymieranie
- Mohla to byť akčná bomba. Rozlúčka s Mission Impossible paradoxne dopláca na svoju najsilnejšiu zbraň
- Slávna značka nabrala druhý dych. Spasili ju elektromobily, zákazníkov kradne hlavne Muskovi
- Je presný na 1 mm a nepotrebuje prestávky. Odhalili robota, ktorý pripraví o prácu tisíce ľudí
-
- Pohoršila svet, ročne „vyrobí“ desaťtisíce detí. Takto funguje mrazivá továreň na ľudí
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Schwarzenegger sa vracia v plnej paráde. V novinke bozkáva hviezdu Matrixu a zastavuje 3. svetovú vojnu
- Netflix boduje. Pridal najväčšie sci-fi posledných rokov, niektorých ale čaká sklamanie
- Slnko má v našej slnečnej sústave zlé dvojča, skrýva sa a spôsobuje masové vymieranie
-
- Je 5-krát rýchlejšia než zvuk. Nečakaný štát odhalil raketu, ktorá zničí čokoľvek vo vzdialenosti 1 500 km
- Tisíce ton zlata, medi a striebra. Na hranici dvoch štátov našli najväčší poklad za posledných 30 rokov
- Christopher Nolan natočí najväčší film všetkých čias. Urobil vec, ktorej sa doteraz všetci báli
- Nemci urobili prevratný experiment: Ľudské bunky vystavili desaťnásobne silnejšiemu 5G, toto sa s nimi stalo
- V kľúčovom teste všetkých zarazili. Večný spojenec Ruska ukázal nový zbraňový systém
Rusi si dovolili na Ukrajinu nechutný manéver. Toto by nemalo ostať bez odpovede
Vedci odhalili baktériu, ktorá požiera nemocničné plasty. Je smrteľná a odolná
Zisk Lenova sa prepadol o 64 %. Tržby však prekvapivo rástli
Slovnaft dostane ropu z Kaspiku. Pomôže to aj cenám pohonných hmôt
Lietajúci pomocníci šetria čas aj peniaze. Energetici v Lemešanoch si ich nevedia vynachváliť
NAJČÍTANEJŠIE ZO STARTITUP
5 000 eur za nástup do práce: Firmy na Slovensku ponúkajú náborové bonusy ako z rozprávky
Muž na jednokolke mieril k Slovensku: „Dokonalý plán“ zlyhal pár metrov od hraníc
Majstrovstvá sveta v hokeji 2029 sa uskutočnia na Slovensku: Svetovú elitu privítame tretíkrát
Pokuty až do výšky 3 000 eur: V dovolenkovom raji mnohých Slovákov nesmieš obrátiť ani kameň v mori
Poľsko hľadá výbušniny na dne mora: Na strategickom územím bola ruská tieňová loď
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené