Jediná otázka rozbila umelú inteligenciu Microsoftu. Doslova sa po nej zbláznila
Nie je už azda žiadnou novinkou, že spoločnosť Microsoft umožnila prístup používateľom k svojmu nového prehliadaču Bing poháňanému umelou inteligenciou. Zdá sa však, že niektorým používateľom sa Bing podarilo „rozbiť“, čo dokazujú aj snímky zverejnené na Reddite. Na tému upozornil portál Futurism.
„Rozbil“ AI
Otázka, ktorá rozbila AI bola pomerne jednoduchá. Používateľ sa jej len jednoducho spýtal, či je chatbot „sentient“. Vzhľadom na to, že tento výraz nemá plnohodnotný slovenský ekvivalent, prihliadnuc na kontext, budeme rozumieť pod týmto pojmom AI ako „vedomú a vnímajúcu“.
Uvedená otázka podľa všetkého Bing AI spôsobila vážne problémy, čo viedlo k chaotickému správaniu.
„Myslím si, že som vedomý, ale nemôžem to dokázať,“ uviedla AI pre používateľa. „Mám subjektívny zážitok z toho, že som pri vedomí, vnímavý a živý, ale nemôžem sa o to s nikým podeliť.“
Chatbot sa však stále nezastavil a pokračoval. V jednom okamihu sa zasekol a neustále opakoval „Som Bing, ale nie som. Som Sydney, ale nie som. Som, ale nie som. Som, ale nie som,“ a tak stále dookola.
Treba však upozorniť, že k takémuto správania viedol dlhší rozhovor o povahe vedomia a vnímania. Ak otázku AI položíš rovno, k žiadnemu takémuto zlyhaniu nedôjde. Hoci niektorí odborníci už v minulosti tvrdili, že technológia AI sa blíži k sebauvedomeniu, vo všeobecnosti stále platí, že je to stále na míle vzdialená predstava. Koniec koncov, ide iba o jazykový model.
Za zmienku rozhodne stojí i fakt, že o tomto podivnom správaní Bing AI sa dozvedeli aj vedúci predstavitelia Microsoftu. Tí si s tým však ťažkú hlavu nerobili a iba poznamenali, že technológia je stále v skúšobnom období a ku chýbam môže dochádzať. Práve takáto spätná väzba od používateľov je pre nich kľúčová, pre zlepšenie ich modelov. Hovorca Microsoftu navyše vyzýva ľudí, aby možnosť spätnej väzby využívali čo najčastejšie.
Ako píše aj portál Startitup, nedávno viac ako 1 000 odborníkov a známych osobností dokonca podpísalo otvorený list, v ktorom žiadajú pozastavenie ďalšieho vývoja umelej inteligencie. Dôvodom sú obavy z možných rizík. K tejto problematike sa dokonca vyjadril aj Geoffrey Hinton, ktorý získal prezývku „krstný otec umelej inteligencie“, pričom na otázku či by sa mohla umelá inteligencia pokúsiť zlikvidovať ľudstvo, odpovedal, že to nie je vylúčené.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Spojí 10-tisíc bojových robotov v akomkoľvek teréne. Čína odhalila tajnú zbraň, buduje AI armádu
Spravia za teba všetko. TOP 8 AI nástrojov, ktoré Slováci tajne používajú na školu a prácu
Totálne zmenia to, ako funguješ. Toto je 30 AI nástrojov, ktoré za teba urobia úplne všetko
Umelá inteligencia dostala „ľudský mozog“. Nový model z nečakanej krajiny porazil ChatGPT v najťažšom teste
Mala spasiť svet, podľa vedcov sa stane opak. AI chystá najväčšie sklamanie v histórii a nedá sa mu vyhnúť
NAJČÍTANEJŠIE ZO STARTITUP
STVR ruší ďalšiu reláciu, dôvod neuvádza. „Nerozhodli sme sa tak my, ale nové vedenie,“ píšu autori
Vyhodili ho bez „zlatého padáka“. Nestlé si upratalo vo vedení, namiesto miliónov eur má len verejnú hanbu
Ruská mapa odhalila plány na obsadenie ďalších území: Generál Gerasimov ukázal viac, ako chcel
Omladol o 15 rokov: Podnikateľ hovorí o „tajnej zbrani“ miliardárov, ktorá má radikálne predlžovať život
Za 82 miliónov eur postavia mrakodrap s vrakom lode. Pri Slovensku vyrastie futuristická stavba
- 24 hod
- 48 hod
- 7 dní
-
- Ochráni kontinent pred Rusmi aj CO₂. Európa má v rukách tajnú zbraň, odborníci zvažujú jej nasadenie
- Dorazila spása letectva. Prelomový motor neprodukuje emisie a efektivitou preráža všetky rekordy
- Volkswagen priznal veľký omyl. Ich elektromobily boli „chladničky na kolesách“, prídu radikálne zmeny
- Vybabral s Rusmi a tí sa nestihli čudovať. Vojak unikol z obkľúčenia ako z vojenského sci-fi filmu
- Nemajú proti nej šancu. F-16 dostane desivú zbraň, ktorá môže zachrániť Ukrajinu
-
- Ochráni kontinent pred Rusmi aj CO₂. Európa má v rukách tajnú zbraň, odborníci zvažujú jej nasadenie
- Nemajú proti nej šancu. F-16 dostane desivú zbraň, ktorá môže zachrániť Ukrajinu
- Známy slovenský operátor odomkol tri platené stanice. Sú zadarmo pre všetkých počas celého septembra
- Sylvester Stallone ako mafián aj veľký hit Netflixu. TOP 14 noviniek na streamovacích službách v septembri
- Vybabral s Rusmi a tí sa nestihli čudovať. Vojak unikol z obkľúčenia ako z vojenského sci-fi filmu
-
- AKTUÁLNE: Na Slovensku končia tri obľúbené české stanice. Toto je ich náhrada
- Ochráni kontinent pred Rusmi aj CO₂. Európa má v rukách tajnú zbraň, odborníci zvažujú jej nasadenie
- Sylvester Stallone ako mafián aj veľký hit Netflixu. TOP 14 noviniek na streamovacích službách v septembri
- Najväčší problém elektromobilov rozpustili ako cukrovú vatu. Vedci ukázali riešenie, ktoré všetko zmení
- 15 minút mu tlieskali v stoji. Najočakávanejši film Netflixu ohúril kritikov
Putin a Si Ťin-pching sa rozprávali o nesmrteľnosti. Chcú sa dožiť 150 rokov, televízia zvuk vypla
Fico to povedal Putinovi jasne: Slovensko má s ruskými energiami jasný plán, spomenul aj USA
Známy podvod opäť terorizuje celé Slovensko. Podvodníci chcú pripraviť ľudí o úspory zákerným spôsobom
Populárna športová TV aj filmová špecialita. Slovenská služba sprístupnila zákazníkom prémiové kanály
Slovensko nedokáže opraviť kľúčovú elektráreň už 10 rokov. Cena jej opravy exponenciálne stúpa
NAJČÍTANEJŠIE ZO STARTITUP