Výskumníci z Facebooku boli nútení vypnúť umelú inteligenciu. Toto opatrenie prichádza po tom, čo si program vytvoril vlastný jazyk na komunikáciu. 

Sleduj Fontech.sk aj na Facebooku, YouTube a Instagrame!

Incident sa odohral medzi dvomi botmi, ktorých umelá inteligencia začala vyvíjať vlastný jazyk. Pôvodne boli síce naprogramovaní na komunikáciu v angličtine, no AI začala používať vlastné výrazy pre zefektívnenie komunikácie. Tieto výrazy boli pre ľudí absolútne nezmyslené a Facebook tak svoju AI radšej odstavil skôr, než bude neskoro.

Nestalo sa to prvý raz

umelá inteligencia
zdroj fotografie: Pixabay

Nenechaj si ujsť
Elon Musk na diaľku odrovnal Marka Zuckerberga. Jeho chápanie umelej inteligencie je vraj „limitované“

Výskumníci sa streli s podobne zvláštnym správaním už niekoľkokrát. Umelá inteligencia dokonca v každom prípade postúpila z trénovania angličtiny na svoj vlastný jazyk. Pokročilý systém bol schopný rokovať s inými AI systémami o postupe riešení svojich úloh. Aj keď teda frázy nedávali žiadny zmysel, v skutočnosti súviseli s danou úlohou. Facebook zverejnil aj jeden príklad komunikácie botov — Bob a Alice:

“I can i i everything else,” povedal Bob.

“Balls have zero to me to me to me to me to me to me to me to me to,” odpovedala Alice.

Aj tým, ktorí po anglicky vôbec nevedia, musí byť už na prvý pohľad jasné, že v tejto konverzácii niečo nie je v poriadku. Podľa výskumníkov hovoria tieto nezmyselné výrazy o počte položiek, ktoré môžu získať pri výmene. Bob neskôr povedal „i i can i i i everything else“, čo môže znamenať niečo ako „ja budem mať tri a ty budeš mať všetko ostatné“.

elon musk
zdroj fotografie: LinkedIn

Elon Musk dvíha varovný prst

Vizionár a šéf Tesly nehovoril nadarmo, že umelá inteligencia je pre ľudstvo nebezpečná. Mark Zuckerberg ale jeho tvrdenia označil za „nezodpovedné“ a Musk na to následne odpovedal, že Markove „chápanie umelej inteligencie je obmedzené“. S vývojom vlastného jazyka u umelej inteligencii má už skúsenosti aj Google či práve Muskove OpenAI. Zatiaľ ide, našťastie, iba o uľahčovanie komunikácie, no výskumníci radšej nedovolia umelej inteligencii zájsť ešte ďalej. Čo mylíš, ohrozí nás niekedy umelá inteligencia na oveľa sofistikovanejšej úrovni?

Aká je tvoja reakcia?
Milujem to
18%
Páči sa mi to
7%
Chcem to
4%
Mám to
18%
Nepáči sa mi to
36%
Neznášam to
18%
O autorovi
Peter Puhovich
Študent so zameraním na grafický dizajn, fanúšik smartfónov, ale aj iných IT zariadení. O technológie som sa začal zaujímať vďaka svojmu prvému Android tabletu a po čase ma zaujali aj čínske zariadenia. Ak budete mať akékoľvek otázky, môžete ma kontaktovať e-mailom alebo na sociálnych sieťach.
  • Dominik Cisár

    Autor robí z komára somára. Ako, Ok, vyhlásenia ako
    „Facebooku sa vymkla umelá inteligencia spod kontroly“
    a „tak svoju AI radšej odstavil skôr, než bude neskoro.“ síce prilákajú viac čitateľov, ale títo čitatelia si pomyslia, že Facebook skoro vytvoril Skynet a iba zázrakom bolo ľudstvo zachránené pred záhubou, i keď v skutočnosti niekto len zle naprogramoval chatbota a potom ho vypol, pretože nefungoval tak, ako mal.

  • Marek Bartoš

    Někdo mluví o umělé inteligenci, někdo vidí zacyklený program :D