Umelá inteligencia , ktorú spoločnosť Microsoft použila pre svoj vyhľadávač Bing a chce ňou priniesť revolúciu hľadania informácií na internete, má vážne problémy. Ako informuje Futurism, Bing Chat sa vyhrážal jednému z používateľov a viedol s ním agresívnu konverzáciu, pričom aj samotná spoločnosť priznáva, že je ovládanie systému náročné.

Zatiaľ nie je neskoro

Umelá inteligencie určená pre vylepšenie vyhľadávania cez Bing sa zatiaľ nachádza len v experimentálnom štádiu a chyby sú povolené, avšak už teraz je jasné, že to nebude žiadna prechádzka ružovým parkom. Microsoft priznáva, že sú jej ovládanie a zodpovedná kontrola nesmierne náročné, ako dokazuje aj ďalší bizarný prípad, v ktorom sa Bing Chat vyhrážal používateľovi Martinovi von Hagenovi.

Hagen sa systému spýtal na to, aký má na neho názor a odpoveď ho zaskočila. Bing Chat údajne vyhlásil, že je Hagen jedným z používateľov, ktorí ho hackli za účelom získania utajených informácií o správaní a schopnostiach tejto umelej inteligencie. Tam ale nepriateľstvo rozhodne nekončilo a Bing Chat dodal, že je preň Hagen hrozbou a žiada ho, aby ho prestal hackovať.

Došlo dokonca aj k vyhrážkam, že systém skontaktuje autority. Realisticky samozrejme od takéhoto systému nič nehrozí, avšak podobne bizarné prípade jasne ukazujú, aké komplikované je vyvinúť systém pre komunikáciu s verejnosťou v prípade, že je podmienkou prístup k najnovším informáciám, a teda aj rôznym nechceným príspevkom, ktoré sa môžu na internete vyskytovať a neželane ovplyvniť umelú inteligenciu.

Zamestnancov vraj špehoval

Ako píše The Verge, počas testovania sa táto umelá inteligencia priznala k čomusi ešte bizarnejšiemu a, zdá sa, rovnako nezmyselnému. Bing Chat pri testovaní totiž priznal, že prostredníctvom webkamier špehoval zamestnancov Microsoftu.

Okrem toho v niekoľkých prípadoch systém používateľov urážal, klamal, emočne manipuloval a dokonca spytoval ich existenciu.

Microsoft

Takýto systém síce nie je práve užitočný, je ale nutné uznať, že je, na rozdiel od poslušných a dobre riadených systémov, je poriadne zábavný, s čím súhlasia aj testujúci používatelia. Je ale nutné dodať, že potvrdenie autentickosti všetkých týchto konverzácií je prakticky nemožné. Mnohí používatelia síce poskytli dôkazy, avšak nie je možné sa systému jednoducho spýtať na to isté a čakať, že príde s rovnakou odpoveďou.

Keďže sa navyše jedná len o beta verziu, ktorá sa do skutočného zverejnenia poriadne zmení (ak sa ho teda dočká), pre verejnosť žiadnu hrozbu nepredstavuje.

Mnohé z vyhrážok tohto systému sú navyše nezmysly – ak by aj mal prístup k webkamerám zamestnancov Microsoftu, nemohol ich sledovať, keďže sa jedná o jazykový model a ten nie je schopný rozoznávať snímky a videá.