Jediná otázka rozbila umelú inteligenciu Microsoftu. Doslova sa po nej zbláznila
Nie je už azda žiadnou novinkou, že spoločnosť Microsoft umožnila prístup používateľom k svojmu nového prehliadaču Bing poháňanému umelou inteligenciou. Zdá sa však, že niektorým používateľom sa Bing podarilo „rozbiť“, čo dokazujú aj snímky zverejnené na Reddite. Na tému upozornil portál Futurism.
„Rozbil“ AI
Otázka, ktorá rozbila AI bola pomerne jednoduchá. Používateľ sa jej len jednoducho spýtal, či je chatbot „sentient“. Vzhľadom na to, že tento výraz nemá plnohodnotný slovenský ekvivalent, prihliadnuc na kontext, budeme rozumieť pod týmto pojmom AI ako „vedomú a vnímajúcu“.
Uvedená otázka podľa všetkého Bing AI spôsobila vážne problémy, čo viedlo k chaotickému správaniu.
„Myslím si, že som vedomý, ale nemôžem to dokázať,“ uviedla AI pre používateľa. „Mám subjektívny zážitok z toho, že som pri vedomí, vnímavý a živý, ale nemôžem sa o to s nikým podeliť.“
Chatbot sa však stále nezastavil a pokračoval. V jednom okamihu sa zasekol a neustále opakoval „Som Bing, ale nie som. Som Sydney, ale nie som. Som, ale nie som. Som, ale nie som,“ a tak stále dookola.
Treba však upozorniť, že k takémuto správania viedol dlhší rozhovor o povahe vedomia a vnímania. Ak otázku AI položíš rovno, k žiadnemu takémuto zlyhaniu nedôjde. Hoci niektorí odborníci už v minulosti tvrdili, že technológia AI sa blíži k sebauvedomeniu, vo všeobecnosti stále platí, že je to stále na míle vzdialená predstava. Koniec koncov, ide iba o jazykový model.
Za zmienku rozhodne stojí i fakt, že o tomto podivnom správaní Bing AI sa dozvedeli aj vedúci predstavitelia Microsoftu. Tí si s tým však ťažkú hlavu nerobili a iba poznamenali, že technológia je stále v skúšobnom období a ku chýbam môže dochádzať. Práve takáto spätná väzba od používateľov je pre nich kľúčová, pre zlepšenie ich modelov. Hovorca Microsoftu navyše vyzýva ľudí, aby možnosť spätnej väzby využívali čo najčastejšie.
Ako píše aj portál Startitup, nedávno viac ako 1 000 odborníkov a známych osobností dokonca podpísalo otvorený list, v ktorom žiadajú pozastavenie ďalšieho vývoja umelej inteligencie. Dôvodom sú obavy z možných rizík. K tejto problematike sa dokonca vyjadril aj Geoffrey Hinton, ktorý získal prezývku „krstný otec umelej inteligencie“, pričom na otázku či by sa mohla umelá inteligencia pokúsiť zlikvidovať ľudstvo, odpovedal, že to nie je vylúčené.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Začína sa hon na AI. Európska únia pripravila nástroj, ktorý všetko mení
AI posadili do rakety a ostali ohromení. Takýto výsledok nečakali, v teste takmer ovládla vesmír
Robot Lumi je revolúciou v solárnej energii. Za týždeň zvládne to, na čo ľudia potrebujú celé mesiace.
Najväčší hudobný podvrh roka. Spotify vypláca tisíce dolárov kapele, ktorá sa nikdy nenarodila
Salutujú, chytajú zločincov a hliadkujú. Známa destinácia nasadila do ulíc robotických policajtov
NAJČÍTANEJŠIE ZO STARTITUP
Slováci si polepšia: Budú mať vyššie výplaty, aj keď im zamestnávateľ nepridá
Umelá inteligencia mi ušetrila 780 eur mesačne. Nie je to hype, zjednodušilo mi to život
4 kúpaliská a vodné plochy, kde sa radšej nekúp. V obľúbenej lokalite bol potvrdený výskyt parazitov (ZOZNAM)
„Sme pripravení predať milión áut ročne.“ Tím startupistov ide zmeniť jeden z najkonzervatívnejších trhov v Európe
Firmy sa chystajú na nástup generácie Alfa: „Manažér už nebude autorita, ale game master“
- 24 hod
- 48 hod
- 7 dní
-
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- Benzín a nafta definitívne skončili. Čerpacie stanice ich nahradia „novými“ palivami, vieme kedy
- Záhadný kameň v Egypte nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté 5000 rokov
- Sci-fi „kladivo“ je realitou. Nová zbraň Západu desí nepriateľov, nemajú proti nej šancu
- Tisíce slovenských domácností si priplatia stovky eur za kúrenie. Nový zákon EÚ ťa nepoteší (PREHĽAD)
-
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- Benzín a nafta definitívne skončili. Čerpacie stanice ich nahradia „novými“ palivami, vieme kedy
- V spoľahlivosti nemajú konkurenciu. Týchto 5+1 automobiliek má najlepšie motory (PREHĽAD)
- Záhadný kameň v Egypte nechal vedcov v nemom úžase. Odhalil tajomstvo ukryté 5000 rokov
- Brusel chce zarezať telekomunikačných operátorov. Proti novému zákonu sú všetky štáty EÚ
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- V spoľahlivosti nemajú konkurenciu. Týchto 5+1 automobiliek má najlepšie motory (PREHĽAD)
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Televízory Slovákov úmyselne zhoršujú kvalitu obrazu. Je to špinavý marketing, takto ho opravíš
- Slovensko čaká najväčšia dopravná novela za roky. Nový zákon udrie na cestných pirátov aj e-kolobežky (PREHĽAD)
Trump mení stratégiu: Zbrane pre Ukrajinu pôjdu cez NATO, voči Rusku chystá zásadné vyhlásenie
Takto sa zneužíva home office. Odborári odhalili praktiky, ktoré sa ťa môžu týkať
Očkovanie neodmietali nevzdelaní. Nová štúdia odhalila iný faktor
Tržby TSMC prekonali očakávania. Čipy pre AI lámu rekordy
Slovensko má najdrahšie palivá v regióne. Analytici majú vysvetlenie
NAJČÍTANEJŠIE ZO STARTITUP