Facebooku sa vymkla umelá inteligencia spod kontroly a vytvorila si vlastný jazyk. Okamžite ju odstavili
Výskumníci z Facebooku boli nútení vypnúť umelú inteligenciu. Toto opatrenie prichádza po tom, čo si program vytvoril vlastný jazyk na komunikáciu.
Incident sa odohral medzi dvomi botmi, ktorých umelá inteligencia začala vyvíjať vlastný jazyk. Pôvodne boli síce naprogramovaní na komunikáciu v angličtine, no AI začala používať vlastné výrazy pre zefektívnenie komunikácie. Tieto výrazy boli pre ľudí absolútne nezmyslené a Facebook tak svoju AI radšej odstavil skôr, než bude neskoro.
Nestalo sa to prvý raz
Elon Musk na diaľku odrovnal Marka Zuckerberga. Jeho chápanie umelej inteligencie je vraj „limitované“
Výskumníci sa streli s podobne zvláštnym správaním už niekoľkokrát. Umelá inteligencia dokonca v každom prípade postúpila z trénovania angličtiny na svoj vlastný jazyk. Pokročilý systém bol schopný rokovať s inými AI systémami o postupe riešení svojich úloh. Aj keď teda frázy nedávali žiadny zmysel, v skutočnosti súviseli s danou úlohou. Facebook zverejnil aj jeden príklad komunikácie botov — Bob a Alice:
“I can i i everything else,” povedal Bob.
“Balls have zero to me to me to me to me to me to me to me to me to,” odpovedala Alice.
Aj tým, ktorí po anglicky vôbec nevedia, musí byť už na prvý pohľad jasné, že v tejto konverzácii niečo nie je v poriadku. Podľa výskumníkov hovoria tieto nezmyselné výrazy o počte položiek, ktoré môžu získať pri výmene. Bob neskôr povedal „i i can i i i everything else“, čo môže znamenať niečo ako „ja budem mať tri a ty budeš mať všetko ostatné“.
Elon Musk dvíha varovný prst
Vizionár a šéf Tesly nehovoril nadarmo, že umelá inteligencia je pre ľudstvo nebezpečná. Mark Zuckerberg ale jeho tvrdenia označil za „nezodpovedné“ a Musk na to následne odpovedal, že Markove „chápanie umelej inteligencie je obmedzené“. S vývojom vlastného jazyka u umelej inteligencii má už skúsenosti aj Google či práve Muskove OpenAI. Zatiaľ ide, našťastie, iba o uľahčovanie komunikácie, no výskumníci radšej nedovolia umelej inteligencii zájsť ešte ďalej. Čo mylíš, ohrozí nás niekedy umelá inteligencia na oveľa sofistikovanejšej úrovni?
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
AI posadili do rakety a ostali ohromení. Takýto výsledok nečakali, v teste takmer ovládla vesmír
Lietadlá súdneho dňa majú len dve krajiny. Rusko ich rozkráda, v USA chátrajú
Toto nemal nikto vidieť. Rusko v tichosti zvyšuje vojenskú silu v ďalšom štáte, unikli plány
Elektrickú verziu nikto nekupoval. Fiat vracia na trh ikonický model so spaľovákom, jeho cena zarazí
Západ nič také nemá. „Spojenec“ Ruska nasadí laser na stíhačky budúcnosti, rakety po ňom „slepnú“
NAJČÍTANEJŠIE ZO STARTITUP
KVÍZ 8 z 10 Slovákov pohorí už na druhej otázke: Dokáž, že patríš k elite a zvládneš náročnú výzvu z biológie
Hromadná nehoda šiestich áut paralyzovala dopravu. Zasahujú všetky záchranné zložky
Headlineri Pohody nevystúpia, organizátori už majú náhradu. Poznáme jej meno
Tragický incident na známom letisku: Muža vtiahlo do motora lietadla
Cintulov kamarát prehovoril pred súdom: V minulosti mal napadnúť riaditeľa učilišťa
- 24 hod
- 48 hod
- 7 dní
-
- Slovensko čaká najväčšia dopravná novela za roky. Nový zákon udrie na cestných pirátov aj e-kolobežky (PREHĽAD)
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Lietadlá súdneho dňa majú len dve krajiny. Rusko ich rozkráda, v USA chátrajú
- Nový Predátor aj vojnový veľkofilm. Toto sú najlepšie akčné filmy súčasnosti na Netflixe a ďalších
- Nemecko spúšťa energetickú revolúciu. Chce sa stať veľmocou s podceňovaným palivom budúcnosti
-
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Západ nič také nemá. „Spojenec“ Ruska nasadí laser na stíhačky budúcnosti, rakety po ňom „slepnú“
- Slovensko čaká najväčšia dopravná novela za roky. Nový zákon udrie na cestných pirátov aj e-kolobežky (PREHĽAD)
- Hyundai a Kia spustili masívne zľavy po celom svete. Autá zlacneli aj o desaťtisíce eur
- Rusi zúfalo zháňajú peniaze. Ázijskému štátu ponúkajú svoje najmodernejšie zbrane, má to háčik
-
- Rusi ani netušili, čo im zlikvidovalo najdrahší systém. Ukrajina použila zbraň, akú svet ešte nevidel
- V Európe sa vylodili tisícky čínskych elektromobilov. Doviezla ich obrovská loď so šokujúcim pohonom a výkonom
- Do Ameriky doletí za 90 minút. Prelomové lietadlo v prvých testoch všetkých prekvapilo
- Rusi zúfalo zháňajú peniaze. Ázijskému štátu ponúkajú svoje najmodernejšie zbrane, má to háčik
- Čína oživila zabudnutý technologický skvost Sovietov. Unikli zábery lietadla, aké svet nevidel roky
Zúfalstvo v ruskej armáde: Do boja posielajú zaprášené tanky, ktoré si pamätajú Brežneva
Európska krajina investovala do ekologických riešení 41 miliárd eur, obeť štátnych dotácií padla
Kritické suroviny pre high-tech odvetia narazili na vážny problém. Môže zaň Čína, bude horšie
Slováci prepadli pri výbere auta novému trendu. Čísla hovoria za všetko, pozor však na riziká
AI pretransformuje spoločnosť, tvrdí odborník. Varuje pred kľúčovou chybou, ktorú robíme
NAJČÍTANEJŠIE ZO STARTITUP