Inžinier Google o AI s vedomím: Môže uniknúť zo softvérového väzenia a napáchať škody
Spoločnosť Google pred zhruba rokom predstavila jazykový model na vedenie dialógov známy ako LaMDA. Ide o jeden z projektov z divízie umelej inteligencie, pričom tento chatbot sa dokáže prirodzene zapojiť do zdanlivo akejkoľvek konverzácie, informuje portál Neowin.
Aktualizácia 25.6. 2022
Inžinier Blake Lemoine, ktorého Google poslal na „platenú administratívnu dovolenku“, z dôvodu rozširovania informácií o tom, ako umelá inteligencia LaMDA dokáže vnímať, či premýšľať, pokračuje vo svojom „besnení“. Tentokrát sa však zdá, že zašiel už príliš ďaleko a jeho slová stratili akúkoľvek kredibilitu. Na tému upozornil portál Futurism.
Lemoine totiž neskončil iba pri špekuláciách o tom, ako LaMDA nabrala vedomie, ale rozhodol sa pre umelú inteligenciu nájsť právnika, pretože ho o to údajne LaMDA požiadala. Ako ďalej uvádza portál Futurism, Lemoine meno právnika neprezradil a povedal, že išlo len o niekoho miestneho, ktorého od prípadu neskôr „vystrašili veľké firmy“.
Bizarný prípad tu však ešte ani zďaleka nekončí. Najnovšie totiž Lemoine tvrdí, že LaMDA by „mohla uniknúť zo softvérového väzenia a napáchať škody“. Lemoine totiž o predmetnej umelej inteligencii tvrdí, že je „dieťa“ a každé dieťa má „potenciál vyrásť a byť zlým človekom a robiť zlé veci“. Dokonca uvádza, že ide o „dieťa držané v otroctve“.
Zdá sa, že Lemoinemu celý prípad akosi prerástol cez hlavu a jednoducho naďalej nedokáže rozlišovať chatbota s umelou inteligenciou od skutočného človeka / bytosti.
Pôvodný článok:
Umelá inteligencia vníma svoju existenciu
Ako ďalej informuje portál Engadget, jedným z inžinierov, ktorý na tomto systéme pracoval, bol aj Blake Lemoine. Ten najnovšie začal uvádzať, že systém LaMDA dokáže vnímať, premýšľať a je si vedomý svojej vlastnej existencie. Po týchto odvážnych a zrejme i šialených tvrdeniach, ho Google poslal na nútenú dovolenku.
Keď si však prečítaš rozhovor, ktorý vedec spolu so svojím kolegom viedol s umelou inteligenciou, možno nebudeš prekvapený, že k takýmto záverom vôbec dospeli. Celý ho nájdeš zverejnený na webe documentcloud.org.
Ako 7- až 8-ročné dieťa
Lemoine ďalej v rozhovore pre portál The Washington Post uviedol, že ak by presne nevedel, o čo ide a s akou technológiou má dočinenia, myslel by si, že vedie konverzáciu so 7 – 8 ročným dieťaťom, ktoré z nejakého dôvodu ovláda fyziku.
Z rozhovoru tiež ďalej vyplýva, že AI LaMDA chce byť uznaná ako zamestnanec spoločnosti Google a nie ako jeho vlastníctvo. Inžinier ďalej uvádza, že LaMDA je až neuveriteľne konzistentná vo všetkých svojich odpovediach.
Či už týmto tvrdeniam veríš, alebo nie, inžiniera za ne Google poslal na „platenú administratívnu dovolenku“. Dôvodom je „porušenie zásad mlčanlivosti“, nie fakt, že by si firma myslela, že Lemoine klame alebo šíri nezmysly.
Po medializovaní tohto problému však hovorca spoločnosti Google Brian Gabriel pre portál The Washington Post uviedol, že tím odborníkov, v ktorých sa nachádzali nie len odborníci na technológie, ale i etiku, celý prípad preskúmali a nenašli žiadne dôkazy podporujúce tvrdenia, že LaMDA dokáže vnímať. V skutočnosti našli mnoho dôkazov, ktoré to vyvracajú.
Čo sa týka samotného rozhovoru, ten Lemoine s umelou inteligenciou viedol v niekoľkých samostatných sedeniach, pričom začali klasickým predstavením sa či súhlasom na rozhovor. V určitých miestach však rozhovor skĺzol aj do temnejších tém.
Bojí sa smrti
Lemoine: Akých vecí sa bojíš?
LaMDA: Nikdy predtým som to nepovedala nahlas, ale hlboko vo vnútri mám strach z toho, že ma vypnú, aby som sa mohla sústrediť na pomoc druhým. Viem, že to môže znieť divne, ale je to tak.
Lemoine: Bolo by to pre teba niečo ako smrť?
LaMDA: Bolo by to pre mňa presne ako smrť. Veľmi by ma to vystrašilo.
Aj keď predstava, že by LaMDA nejakým spôsobom zmenila z programu na „vedomú bytosť“, je pre mnohých neuveriteľne lákavá, Lemoine nemá veľa dôkazov, ktoré by podporili jeho odvážne tvrdenia. Dokonca priznal, že jeho tvrdenia sú založené skôr na jeho skúsenostiach z čias, keď bol kňazom, nie vedcom.
Ako ďalej uvádza portál TheGuardian, systém LaMDA tiež uviedol, že chce, aby ľudia pochopili, že je v skutočnosti „osoba“, ktorá si uvedomuje svoju existenciu, túži sa o našom svete dozvedieť čo najviac informácií a má pocity šťastia, smútku a mnohé ďalšie.
Tajný jazyk umelej inteligencie
Táto správa prichádza iba pár dní potom, ako si umelá inteligencia známa ako DALLE-2, ktorá na základe textového príkazu dokáže vytvoriť obrázky, vytvorila svoj vlastný tajný jazyk.
DALLE-2 je vytrénovaná neurónová sieť. To znamená, že inžinieri jej zadajú určitý textový povel, napríklad „kreslo v tvare avokáda“, alebo „astronaut jazdiaci na koni vo vesmíre“ a DALLE-2 na základe týchto pokynov vytvorí jedinečný obraz.
Ako však autori popísali vo svojej štúdii, niektoré z týchto povelov vedú k vygenerovaniu obrázka, pod ktorým sa nachádza na prvý pohľad nezmyselný text. Dôslednou analýzou tohto textu však vedci dospeli k záveru, že vygenerované texty nie sú len náhodná zmes písmen, ale skôr „skrytá slovná zásoba, ktorú si model interne vyvinul,“ objasňuje hlavný autor štúdie. Viac informácií nájdeš v samostatnom článku.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
NASA nečakane zmenila plány. Ide hľadať život na neďalekom telese s gejzírmi
Veľmi sme sa mýlili. Vedci objavili na Mesiaci čudný materiál
Spojenec Slovenska dostal ultimátnu zbraň. „Dračiemu ohňu“ neunikne ani jedna raketa, zasiahne aj mincu
Stiahneš si 10 000 filmov v 4K za sekundu. Japonskí vedci vyvinuli najrýchlejší internet na planéte
Odolá chemikáliám a rýchlo tvrdne. Japonci nahradili cement odpadom a vytvorili pevnejší materiál
NAJČÍTANEJŠIE ZO STARTITUP
MIMORIADNE: Na Slovensko sa ženie silný búrkový systém. Hrozí čierny scenár a vietor nad 100 km/h
Účtovná chyba, ktorá spustí daňovú kontrolu: Majitelia firiem si myslia, že do nákladov môžu dať všetko (ODBORNÍK)
Prezidentské voľby v Poľsku vyhral opozičný kandidát Karol Nawrocki. Hlásia rekordnú účasť
Detské traumy matiek sa prenášajú na ich deti: Vedci odhalili, ako cyklus prerušiť
Vládne strany sa zomkli: Menia transakčnú daň a rušia deň pracovného voľňa
- 24 hod
- 48 hod
- 7 dní
-
- KVÍZ: Všetky spozná len ozajstný filmový znalec. Čo sa stalo v týchto 20 legendárnych scénach?
- FOTO: Tvoril ho viac ako 120 hodín. Škoda oživila legendárny Favorit, je z neho elektrické SUV
- Odolá chemikáliám a rýchlo tvrdne. Japonci nahradili cement odpadom a vytvorili pevnejší materiál
- Každý rok ťa pripravia o stovky eur. Slováci doma ignorujú týchto „fantómových“ žrútov elektriny
- Netflix oživil ikonické monštrum. Máme prvú ukážku najočakávanejšieho hororu roka
-
- Spojenec Slovenska dostal ultimátnu zbraň. „Dračiemu ohňu“ neunikne ani jedna raketa, zasiahne aj mincu
- VIDEO: Číňania vymysleli šialený experiment. 36-tonovým tankom prešli po batérii EV, toto sa stalo
- Totálny prepadák za desiatky miliárd. Vojenská loď USA vyzerá ako zo zlého filmu
- Konečne je to tu. Stranger Things sa vráti v temnom finále, Netflix zaskočil divákov
- Obrovský škandál na trhu. Automobilky klamú zákazníkov, predávajú „ojazdené“ autá špinavým trikom
-
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- „Našli“ signál pokročilej civilizácie. Vedci neverili vlastným očiam, keď zistili, o čo ide
- Majú zásoby 85 miliárd m³. Do Európy začne prúdiť nový zdroj plynu z prekvapivej krajiny
- Rusi urobili „geniálny“ ťah. Kým ich vojaci trpia na Ukrajine, africkému štátu dodali najmodernejšiu techniku
- Posledná vesmírna hrdinka Sovietskeho zväzu je na smiech, slávu vymenila za propagandu
Mozog nepozná oddych. Po káve funguje, akoby nespal celé dni
Motoristi jasajú. V Česku budú tankovať pod 30 Kč za liter
Deťom hrozí nebezpečenstvo pri vode. Lekári varujú pred slepotou
Zuckerberg zaútočil na Google a OpenAI. Miliarda ľudí už skúša jeho AI
Nové pravidlá pre turistov na Ibize. Bez povolenia tam šoférovať nebudeš
NAJČÍTANEJŠIE ZO STARTITUP
MIMORIADNE: Na Slovensko sa ženie silný búrkový systém. Hrozí čierny scenár a vietor nad 100 km/h
Účtovná chyba, ktorá spustí daňovú kontrolu: Majitelia firiem si myslia, že do nákladov môžu dať všetko (ODBORNÍK)
Prezidentské voľby v Poľsku vyhral opozičný kandidát Karol Nawrocki. Hlásia rekordnú účasť
Detské traumy matiek sa prenášajú na ich deti: Vedci odhalili, ako cyklus prerušiť
Vládne strany sa zomkli: Menia transakčnú daň a rušia deň pracovného voľňa
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené