Jediná otázka rozbila umelú inteligenciu Microsoftu. Doslova sa po nej zbláznila
Nie je už azda žiadnou novinkou, že spoločnosť Microsoft umožnila prístup používateľom k svojmu nového prehliadaču Bing poháňanému umelou inteligenciou. Zdá sa však, že niektorým používateľom sa Bing podarilo „rozbiť“, čo dokazujú aj snímky zverejnené na Reddite. Na tému upozornil portál Futurism.
„Rozbil“ AI
Otázka, ktorá rozbila AI bola pomerne jednoduchá. Používateľ sa jej len jednoducho spýtal, či je chatbot „sentient“. Vzhľadom na to, že tento výraz nemá plnohodnotný slovenský ekvivalent, prihliadnuc na kontext, budeme rozumieť pod týmto pojmom AI ako „vedomú a vnímajúcu“.
Uvedená otázka podľa všetkého Bing AI spôsobila vážne problémy, čo viedlo k chaotickému správaniu.
„Myslím si, že som vedomý, ale nemôžem to dokázať,“ uviedla AI pre používateľa. „Mám subjektívny zážitok z toho, že som pri vedomí, vnímavý a živý, ale nemôžem sa o to s nikým podeliť.“
Chatbot sa však stále nezastavil a pokračoval. V jednom okamihu sa zasekol a neustále opakoval „Som Bing, ale nie som. Som Sydney, ale nie som. Som, ale nie som. Som, ale nie som,“ a tak stále dookola.
Treba však upozorniť, že k takémuto správania viedol dlhší rozhovor o povahe vedomia a vnímania. Ak otázku AI položíš rovno, k žiadnemu takémuto zlyhaniu nedôjde. Hoci niektorí odborníci už v minulosti tvrdili, že technológia AI sa blíži k sebauvedomeniu, vo všeobecnosti stále platí, že je to stále na míle vzdialená predstava. Koniec koncov, ide iba o jazykový model.
Za zmienku rozhodne stojí i fakt, že o tomto podivnom správaní Bing AI sa dozvedeli aj vedúci predstavitelia Microsoftu. Tí si s tým však ťažkú hlavu nerobili a iba poznamenali, že technológia je stále v skúšobnom období a ku chýbam môže dochádzať. Práve takáto spätná väzba od používateľov je pre nich kľúčová, pre zlepšenie ich modelov. Hovorca Microsoftu navyše vyzýva ľudí, aby možnosť spätnej väzby využívali čo najčastejšie.
Ako píše aj portál Startitup, nedávno viac ako 1 000 odborníkov a známych osobností dokonca podpísalo otvorený list, v ktorom žiadajú pozastavenie ďalšieho vývoja umelej inteligencie. Dôvodom sú obavy z možných rizík. K tejto problematike sa dokonca vyjadril aj Geoffrey Hinton, ktorý získal prezývku „krstný otec umelej inteligencie“, pričom na otázku či by sa mohla umelá inteligencia pokúsiť zlikvidovať ľudstvo, odpovedal, že to nie je vylúčené.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Stále používaš Google? Tvorcovia ChatGPT vytvorili náhradu, ktorá ti zmení život
Konkurencia zostala v úžase. Spustili nový ChatGPT, je extrémne inteligentný a zadarmo
Učitelia sú proti tejto AI bezmocní. Našli sme tajnú zbraň slovenských študentov
Zabudni na ChatGPT: Týchto 20 AI nástrojov je omnoho lepších. Urobia za teba úplne všetko
Boja sa ju vypustiť medzi ľudí. Vedci vytvorili umelú inteligenciu, ktorá naháňa zimomriavky
- 24 hod
- 48 hod
- 7 dní
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
-
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- V sekunde zničí úplne všetko. Prvý test najhrozivejšej zbrane súčasnosti je obrovský úspech
- Závidí ju aj SpaceX. Prelomová raketa Európy oslavuje obrovský úspech, zaplatila ale najvyššiu cenu
- Najnovšia Tesla prevráti svet naruby. Musk vymyslel niečo, čo zmení dopravu na nepoznanie
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
-
- EÚ pobúrila Slovákov: Za tankovanie a kúrenie si priplatíme stovky eur. Toto je dôvod
- Bezkontaktné platby končia pre tisíce Slovákov. Ak používaš túto službu, môžeš sa rozlúčiť (+ako to obísť)
- Vedci ostali zhrození, čakali ho oveľa neskôr. Slnko nečakane spustilo ničivý proces
- F-16 sú proti ním hračky. Európa dostane stíhačky s lasermi, ktoré nič nezastaví
- Vedci ostali v nemom úžase. Merkúr v sebe ukrýva poklad za bilióny eur
Veľký operátor prekvapil Slovákov: Rozdáva najlepšie filmy a seriály úplne zadarmo (+návod)
Mercedes-Benz zaznamenal nižší zisk kvôli nízkemu dopytu v Číne
Ľudstvo postihla ďalšia epidémia. Tajomník OSN varoval svet pred „šialeným“ aktom
Ďalší bizarný krok Ruska. V krajine úmyselne spomalia YouTube, takýto je dôvod
Fantastická správa pre vodičov. Ceny pohonných hmôt dosiahli minimum, jeden fakt nepoteší
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené