Facebooku sa vymkla umelá inteligencia spod kontroly a vytvorila si vlastný jazyk. Okamžite ju odstavili
Výskumníci z Facebooku boli nútení vypnúť umelú inteligenciu. Toto opatrenie prichádza po tom, čo si program vytvoril vlastný jazyk na komunikáciu.
Incident sa odohral medzi dvomi botmi, ktorých umelá inteligencia začala vyvíjať vlastný jazyk. Pôvodne boli síce naprogramovaní na komunikáciu v angličtine, no AI začala používať vlastné výrazy pre zefektívnenie komunikácie. Tieto výrazy boli pre ľudí absolútne nezmyslené a Facebook tak svoju AI radšej odstavil skôr, než bude neskoro.
Nestalo sa to prvý raz
Nenechaj si ujsťElon Musk na diaľku odrovnal Marka Zuckerberga. Jeho chápanie umelej inteligencie je vraj „limitované“
Výskumníci sa streli s podobne zvláštnym správaním už niekoľkokrát. Umelá inteligencia dokonca v každom prípade postúpila z trénovania angličtiny na svoj vlastný jazyk. Pokročilý systém bol schopný rokovať s inými AI systémami o postupe riešení svojich úloh. Aj keď teda frázy nedávali žiadny zmysel, v skutočnosti súviseli s danou úlohou. Facebook zverejnil aj jeden príklad komunikácie botov — Bob a Alice:
“I can i i everything else,” povedal Bob.
“Balls have zero to me to me to me to me to me to me to me to me to,” odpovedala Alice.
Aj tým, ktorí po anglicky vôbec nevedia, musí byť už na prvý pohľad jasné, že v tejto konverzácii niečo nie je v poriadku. Podľa výskumníkov hovoria tieto nezmyselné výrazy o počte položiek, ktoré môžu získať pri výmene. Bob neskôr povedal „i i can i i i everything else“, čo môže znamenať niečo ako „ja budem mať tri a ty budeš mať všetko ostatné“.
Elon Musk dvíha varovný prst
Vizionár a šéf Tesly nehovoril nadarmo, že umelá inteligencia je pre ľudstvo nebezpečná. Mark Zuckerberg ale jeho tvrdenia označil za „nezodpovedné“ a Musk na to následne odpovedal, že Markove „chápanie umelej inteligencie je obmedzené“. S vývojom vlastného jazyka u umelej inteligencii má už skúsenosti aj Google či práve Muskove OpenAI. Zatiaľ ide, našťastie, iba o uľahčovanie komunikácie, no výskumníci radšej nedovolia umelej inteligencii zájsť ešte ďalej. Čo mylíš, ohrozí nás niekedy umelá inteligencia na oveľa sofistikovanejšej úrovni?
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
12-násobný šampión F1 šokujúco končí. Bol nočná mora súperov, toto je jeho fascinujúci príbeh
Mal zachrániť Zem a ľudstvo. Zakázali najlepší vynález za roky
Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
Obrovský skok vo výkone a efektivite. Revolučné 1,6 nm čipy sú až prekvapivo blízko
Museli sa zblázniť. Spustili predaj robotického psa s plameňometom, je smiešne lacný
- 24 hod
- 48 hod
- 7 dní
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Revolúcia odštartovala. Spustili výrobu prelomovej batérie bez lítia
- Čakáme na neho 25 rokov. Prichádza jeden z najlepších Star Wars seriálov
- Efektivitou preráža strop. Postavili ničiteľa spaľovákov, ktorý rozprášil aj monopost F1
-
- EÚ chystá veľkú zmenu. Tisíce Slovákov prídu o vodičák
- Veľký elektropredajca krachuje. Má poslednú šancu, ako sa zachrániť
- Revolúcia odštartovala. Spustili výrobu prelomovej batérie bez lítia
- Čakáme na neho 25 rokov. Prichádza jeden z najlepších Star Wars seriálov
- Efektivitou preráža strop. Postavili ničiteľa spaľovákov, ktorý rozprášil aj monopost F1
-
- Veľký deň pre ľudstvo: NASA zachytila zašifrovanú správu z hlbokého vesmíru
- Prelom: Vedci prvýkrát umelo vytvorili čiernu dieru. Padli im sánky, keď začala žiariť
- EÚ stráca trpezlivosť. Obľúbenej sociálnej sieti Slovákov hrozí zákaz
- Odhalili desiatky podvodných e-shopov na Slovensku. Vyskúšali sme ich a neverili vlastným očiam (+zoznam)
- Zem má druhý mesiac, vieme odkiaľ pochádza. Odhalil ho gigantický kráter
Európska komisia schválila prevzatie U.S. Steel japonským koncernom Nippon Steel
Aktuálne: Toto poteší všetkých Slovákov. Obľúbená banka spustila obrovskú vychytávku
Česko si kvôli kybernetickým útokom predvolalo ruského veľvyslanca
Nepochopíš, ako si existoval bez nej. Vďaka novinke YouTube sa už nikdy nebudeš nudiť
Platforma Voice of Europe sa dostane na sankčný zoznam EÚ
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené