Výskumníci z Facebooku boli nútení vypnúť umelú inteligenciu. Toto opatrenie prichádza po tom, čo si program vytvoril vlastný jazyk na komunikáciu.
Incident sa odohral medzi dvomi botmi, ktorých umelá inteligencia začala vyvíjať vlastný jazyk. Pôvodne boli síce naprogramovaní na komunikáciu v angličtine, no AI začala používať vlastné výrazy pre zefektívnenie komunikácie. Tieto výrazy boli pre ľudí absolútne nezmyslené a Facebook tak svoju AI radšej odstavil skôr, než bude neskoro.
Nestalo sa to prvý raz
zdroj fotografie: Pixabay
Nenechaj si ujsťElon Musk na diaľku odrovnal Marka Zuckerberga. Jeho chápanie umelej inteligencie je vraj „limitované“
Výskumníci sa streli s podobne zvláštnym správaním už niekoľkokrát. Umelá inteligencia dokonca v každom prípade postúpila z trénovania angličtiny na svoj vlastný jazyk. Pokročilý systém bol schopný rokovať s inými AI systémami o postupe riešení svojich úloh. Aj keď teda frázy nedávali žiadny zmysel, v skutočnosti súviseli s danou úlohou. Facebook zverejnil aj jeden príklad komunikácie botov — Bob a Alice:
“I can i i everything else,” povedal Bob.
“Balls have zero to me to me to me to me to me to me to me to me to,” odpovedala Alice.
Aj tým, ktorí po anglicky vôbec nevedia, musí byť už na prvý pohľad jasné, že v tejto konverzácii niečo nie je v poriadku. Podľa výskumníkov hovoria tieto nezmyselné výrazy o počte položiek, ktoré môžu získať pri výmene. Bob neskôr povedal „i i can i i i everything else“, čo môže znamenať niečo ako „ja budem mať tri a ty budeš mať všetko ostatné“.
zdroj fotografie: LinkedIn
Elon Musk dvíha varovný prst
Vizionár a šéf Tesly nehovoril nadarmo, že umelá inteligencia je pre ľudstvo nebezpečná. Mark Zuckerberg ale jeho tvrdenia označil za „nezodpovedné“ a Musk na to následne odpovedal, že Markove „chápanie umelej inteligencie je obmedzené“. S vývojom vlastného jazyka u umelej inteligencii má už skúsenosti aj Google či práve Muskove OpenAI. Zatiaľ ide, našťastie, iba o uľahčovanie komunikácie, no výskumníci radšej nedovolia umelej inteligencii zájsť ešte ďalej. Čo mylíš, ohrozí nás niekedy umelá inteligencia na oveľa sofistikovanejšej úrovni?
Tech
Nemecko zavedie radikálne pravidlo. Čerpacie stanice budú musieť mať povinne aj nabíjačky pre elektromobily
AKTUÁLNE Zdieľané e-kolobežky od Boltu spustili v ďalšom slovenskom meste
ZAUJÍMAVÉ SpaceX poslal astronautov do vesmíru aj vďaka Linuxu. Riadili ním celú misiu
Peugeot má nový elektromobil. Je ním elektrická verzia obľúbenej dodávky s výborným dojazdom
