Facebooku sa vymkla umelá inteligencia spod kontroly a vytvorila si vlastný jazyk. Okamžite ju odstavili
Výskumníci z Facebooku boli nútení vypnúť umelú inteligenciu. Toto opatrenie prichádza po tom, čo si program vytvoril vlastný jazyk na komunikáciu.
Incident sa odohral medzi dvomi botmi, ktorých umelá inteligencia začala vyvíjať vlastný jazyk. Pôvodne boli síce naprogramovaní na komunikáciu v angličtine, no AI začala používať vlastné výrazy pre zefektívnenie komunikácie. Tieto výrazy boli pre ľudí absolútne nezmyslené a Facebook tak svoju AI radšej odstavil skôr, než bude neskoro.
Nestalo sa to prvý raz
Elon Musk na diaľku odrovnal Marka Zuckerberga. Jeho chápanie umelej inteligencie je vraj „limitované“
Výskumníci sa streli s podobne zvláštnym správaním už niekoľkokrát. Umelá inteligencia dokonca v každom prípade postúpila z trénovania angličtiny na svoj vlastný jazyk. Pokročilý systém bol schopný rokovať s inými AI systémami o postupe riešení svojich úloh. Aj keď teda frázy nedávali žiadny zmysel, v skutočnosti súviseli s danou úlohou. Facebook zverejnil aj jeden príklad komunikácie botov — Bob a Alice:
“I can i i everything else,” povedal Bob.
“Balls have zero to me to me to me to me to me to me to me to me to,” odpovedala Alice.
Aj tým, ktorí po anglicky vôbec nevedia, musí byť už na prvý pohľad jasné, že v tejto konverzácii niečo nie je v poriadku. Podľa výskumníkov hovoria tieto nezmyselné výrazy o počte položiek, ktoré môžu získať pri výmene. Bob neskôr povedal „i i can i i i everything else“, čo môže znamenať niečo ako „ja budem mať tri a ty budeš mať všetko ostatné“.
Elon Musk dvíha varovný prst
Vizionár a šéf Tesly nehovoril nadarmo, že umelá inteligencia je pre ľudstvo nebezpečná. Mark Zuckerberg ale jeho tvrdenia označil za „nezodpovedné“ a Musk na to následne odpovedal, že Markove „chápanie umelej inteligencie je obmedzené“. S vývojom vlastného jazyka u umelej inteligencii má už skúsenosti aj Google či práve Muskove OpenAI. Zatiaľ ide, našťastie, iba o uľahčovanie komunikácie, no výskumníci radšej nedovolia umelej inteligencii zájsť ešte ďalej. Čo mylíš, ohrozí nás niekedy umelá inteligencia na oveľa sofistikovanejšej úrovni?
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Čína posiela flotilu ničivých zbraní do Afriky. Na papieri bojuje s pirátmi, v skutočnosti ide o niečo horšie
Slováci zistili, že lacný smartfón nemusí byť kompromis. Tento mobil si zamilovali a porazil aj iPhone
Európske automobilky sú pod tlakom. Ak chcú 5 hviezdičiek, musia v autách nahradiť nenávidenú vec
RECENZIA Tento robot za 1200 € ma funkciami odrovnal. Preskakuje stoličky a upratuje lepšie ako ja (RECENZIA)
Technológia z futuristických filmov je tu. Hypershell dá tvojim nohám výkon 1 000 W
NAJČÍTANEJŠIE ZO STARTITUP
Najväčšia záhada ľudstva odhalená: Po 4500 rokoch konečne vieme, ako Egypťania postavili pyramídy
Majitelia fotovoltiky si priplatia: Menia sa pravidlá hry, príjem za elektrinu už nebude bez odvodov
Lekári varujú: Bežné návyky Slovákov môžu spustiť mozgovú príhodu skôr, ako čakáš
Robert Kiyosaki varuje: „Najväčší krach trhov v histórii ešte len príde“
Dopravný analytik pre Startitup o zrážke vlakov: Fotografie naznačujú, že jeden vlak stál až za návestím
- 24 hod
- 48 hod
- 7 dní
-
- Africký štát blízko Európy sa pripravuje na vojnu. Do zbraní nalejú miliardy, analytici sa chytajú za hlavy
- Čína posiela flotilu ničivých zbraní do Afriky. Na papieri bojuje s pirátmi, v skutočnosti ide o niečo horšie
- Šéf Lamborghini odpísal elektromobily jednou vetou. Radšej urobia kompromis v obľúbenom pohone
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
- Slováci zistili, že lacný smartfón nemusí byť kompromis. Tento mobil si zamilovali a porazil aj iPhone
-
- Ľudstvo dostane nevyčerpateľný zdroj energie. Iba časť z neho nám dá elektrinu na milióny rokov
- Šéf Lamborghini odpísal elektromobily jednou vetou. Radšej urobia kompromis v obľúbenom pohone
- Africký štát blízko Európy sa pripravuje na vojnu. Do zbraní nalejú miliardy, analytici sa chytajú za hlavy
- Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
- Z AirPods som prešiel na lacnejšiu „náhradu“. Kvalita a zvuk ma nechali bez slov
-
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Toto už nie je len dron. Najväčšia zbrojovka sveta ukázala zbraň budúcnosti, ktorá zmení vojny
- Zostrelili UFO a kruto za to zaplatili. 23 sovietskych vojakov podľa CIA postihol desivý osud
Nemecké tajné služby bijú na poplach: Rusko sa nebojí otvoreného vojenského konfliktu s NATO
Z Nemecka hlásia bizár: Zlodeji plienia na nabíjacích staniciach pre elektromobily, kradnú toto
Ľudstvo prekročilo prvú červenú čiaru. Zmeny na planéte sa dejú tragicky rýchlo, blíži sa kolaps
Ľudia žijú dlhšie ako kedykoľvek predtým. Nová štúdia však odhalila krutý nedostatok
Vláda našla peniaze na energopomoc. Fico už má jasný plán, Brusel vraj neprotestuje
NAJČÍTANEJŠIE ZO STARTITUP