Jediná otázka rozbila umelú inteligenciu Microsoftu. Doslova sa po nej zbláznila
Nie je už azda žiadnou novinkou, že spoločnosť Microsoft umožnila prístup používateľom k svojmu nového prehliadaču Bing poháňanému umelou inteligenciou. Zdá sa však, že niektorým používateľom sa Bing podarilo „rozbiť“, čo dokazujú aj snímky zverejnené na Reddite. Na tému upozornil portál Futurism.
„Rozbil“ AI
Otázka, ktorá rozbila AI bola pomerne jednoduchá. Používateľ sa jej len jednoducho spýtal, či je chatbot „sentient“. Vzhľadom na to, že tento výraz nemá plnohodnotný slovenský ekvivalent, prihliadnuc na kontext, budeme rozumieť pod týmto pojmom AI ako „vedomú a vnímajúcu“.
Uvedená otázka podľa všetkého Bing AI spôsobila vážne problémy, čo viedlo k chaotickému správaniu.
„Myslím si, že som vedomý, ale nemôžem to dokázať,“ uviedla AI pre používateľa. „Mám subjektívny zážitok z toho, že som pri vedomí, vnímavý a živý, ale nemôžem sa o to s nikým podeliť.“
Chatbot sa však stále nezastavil a pokračoval. V jednom okamihu sa zasekol a neustále opakoval „Som Bing, ale nie som. Som Sydney, ale nie som. Som, ale nie som. Som, ale nie som,“ a tak stále dookola.
Treba však upozorniť, že k takémuto správania viedol dlhší rozhovor o povahe vedomia a vnímania. Ak otázku AI položíš rovno, k žiadnemu takémuto zlyhaniu nedôjde. Hoci niektorí odborníci už v minulosti tvrdili, že technológia AI sa blíži k sebauvedomeniu, vo všeobecnosti stále platí, že je to stále na míle vzdialená predstava. Koniec koncov, ide iba o jazykový model.
Za zmienku rozhodne stojí i fakt, že o tomto podivnom správaní Bing AI sa dozvedeli aj vedúci predstavitelia Microsoftu. Tí si s tým však ťažkú hlavu nerobili a iba poznamenali, že technológia je stále v skúšobnom období a ku chýbam môže dochádzať. Práve takáto spätná väzba od používateľov je pre nich kľúčová, pre zlepšenie ich modelov. Hovorca Microsoftu navyše vyzýva ľudí, aby možnosť spätnej väzby využívali čo najčastejšie.
Ako píše aj portál Startitup, nedávno viac ako 1 000 odborníkov a známych osobností dokonca podpísalo otvorený list, v ktorom žiadajú pozastavenie ďalšieho vývoja umelej inteligencie. Dôvodom sú obavy z možných rizík. K tejto problematike sa dokonca vyjadril aj Geoffrey Hinton, ktorý získal prezývku „krstný otec umelej inteligencie“, pričom na otázku či by sa mohla umelá inteligencia pokúsiť zlikvidovať ľudstvo, odpovedal, že to nie je vylúčené.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Čína prepisuje pravidlá IT sveta. Pod morom spustila veterné dátové centrum
Niečo sa deje s najznámejšou AI planéty. Dáta ukazujú nečakaný trend
Ľudia sa spoja s AI a prestanú starnúť. Legendárny vedec odhalil, čo sa stane v blízkej budúcnosti
OpenAI spúšťa revolúciu v používaní internetu. Nový prehliadač ChatGPT Atlas premení každú stránku na inteligentného asistenta
Experti bijú na poplach. AI vypočítala, ako drasticky sa zmení svet v roku 2030
NAJČÍTANEJŠIE ZO STARTITUP
ŠÚKL varuje zdravotníkov: Pri tomto lieku hrozí pacientom závažná hyperkalciémia
PN budú od januára 2026 prísnejšie. Novú ti lekár nevystaví bez súhlasu Sociálnej poisťovne
Bratislavská stanica po rokoch ožije. Miliónový „facelift“ ju vystrelí do 21. storočia
53-ročná lekárka má viac energie než väčšina tridsiatnikov. Kľúčom je tento druh športu a fialová zelenina
Súd s Bödörom pokračuje po 18 mesiacoch: Policajt opísal zvláštne praktiky v kauze Valčeky
- 24 hod
- 48 hod
- 7 dní
-
- Máš doma staré mobily? Nevyhadzuj ich, obľúbený operátor ti za každý jeden dá až 100 GB dát
- Obľúbený operátor rozbalil vianočnú ponuku. Slovákom dá mobily zadarmo, darčeky aj vráti peniaze
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
- Ľudia sa boja najhoršieho. Osud HBO a známych filmov visí na vlásku, zaujíma sa aj Netflix
- Experti bijú na poplach. AI vypočítala, ako drasticky sa zmení svet v roku 2030
-
- Máš doma staré mobily? Nevyhadzuj ich, obľúbený operátor ti za každý jeden dá až 100 GB dát
- Experti bijú na poplach. AI vypočítala, ako drasticky sa zmení svet v roku 2030
- Ak nepriateľ zaútočí, bude čeliť vlastnému koncu. Európsky štát otestoval 8100-tonový jadrový kolos
- Automobilky oklamali svet a budú platiť. Obľúbený pohon zlyhal na celej čiare, produkuje veľké emisie
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
-
- Automobilky oklamali svet a budú platiť. Obľúbený pohon zlyhal na celej čiare, produkuje veľké emisie
- Ak nepriateľ zaútočí, bude čeliť vlastnému koncu. Európsky štát otestoval 8100-tonový jadrový kolos
- Máš doma staré mobily? Nevyhadzuj ich, obľúbený operátor ti za každý jeden dá až 100 GB dát
- Väčšina Slovákov o nej ani netuší. Ak porušíš túto povinnosť, hrozí ti pokuta 1200 €
- Vedci objavili 2000-ročný hrob, ktorý popiera logiku. Rímska mohyla blízko Slovenska ukrýva veľkú záhadu
Najväčší kyberútok v dejinách Británie. Jaguar Land Rover utrpel miliardové straty
Pre mnohých vodičov to bude šok. Nový zákon mení fungovanie STK
Briti zasiahli proti Applu a Googlu. Mobilný duopol sa otriasa v základoch
Zelenskyi otvorene: Iba tieto ničivé zbrane vrátia Putina späť do reality a zmenia vojnu
Viac než 2000 vedcov varuje EÚ: Takáto klimatická politika bude devastačná, vzďaľuje sa faktom
NAJČÍTANEJŠIE ZO STARTITUP