V rámci OpenAI vyvinuli generátor textu, ktorý bol až znepokojivo dobrý. Nezverejnia ho

Elon Musk patrí medzi tých ľudí, ktorí majú voči umelej inteligencii veľký rešpekt a verí, že ide o jednu z najväčších existenciálnych hrozieb pre ľudstvo. Nakoľko patrí medzi jedným z podporovateľov projektu OpenAI, tak má priamy kontakt s uskutočnenými pokrokmi. 

V súčastnosti sa projekt venuje hlavne vývoji technológie generovania textov a odpovedí na otázky, pričom posledné výsledky vyvolali medzi výskumníkmi obavy, ako aj u samotného Muska. Podľa neho je ešte príliš skoro a nebezpečné, aby táto forma AI bola uvoľnená na trh.

Obavy zo zneužitia

Aktuálne je v testovaný softvér GPT-2, čo už je druhá generácia tohto „generátora textu“. Na školenie majú vedci približne 40 GB údajov, celkovo z 8 miliónoch webových stránok. To je desaťkrát viac informácií, než mala prvá generácia. Po prvotnom nastavení sa zistilo, že softvéru stačí malé množstvo textu, prípadne informácia, aby na to mohol priamo nadviazať a pokračovať v písaní. Aj keď má zatiaľ problém s veľmi technickými a ezoterickými otázkami, v bežnej konverzácii je na nerozoznanie od bežného človeka.

We’ve trained an unsupervised language model that can generate coherent paragraphs and perform rudimentary reading comprehension, machine translation, question answering, and summarization — all without task-specific training: https://t.co/sY30aQM7hU pic.twitter.com/360bGgoea3

— OpenAI (@OpenAI) February 14, 2019

Prečítaj si tiež
Na svete je stránka, kde umelá inteligencia vytvára nekonečne veľa falošných tvárí

Najväčšiu úspešnosť mala umelá inteligencia v prípadoch, keď mala prekladať nejaký text, prípade vytvoriť zhrnutie z niečoho. Stačilo pritom položiť správne otázky a AI jednoducho nemá konkurenciu. The Guardian dokonca pomocou takejto AI dokázal vytvoriť článok, ktorý bol doslova vymyslený, obsahoval falošné citácie, ktoré však pôsobili veľmi realisticky. Dokonca aj gramatika bola na výbornej úrovni, pričom na vytvorenie takéhoto textu stačilo softvéru len 15 sekúnd. Výsledok si môžeš pozrieť vo videu nižšie.

A práve to vyvolalo nemalé obavy, nakoľko zneužitie tohto softvéru by mohlo viesť k masívnemu šíreniu falošných správ, na rôznych konšpiračných a pochybných weboch. Taktiež by sa softvér mohol zneužiť na phishing, zosobňovanie iných ľudí, pričom s rýchlosťou ako koná ide o veľmi nebezpečný nástroj, ak by sa dostal do nesprávnych rúk. V nasledujúcich mesiacoch tak budú nasledovať rôzny verejné diskusie, kde sa táto téma bude preberať a skúmať, ako dať AI akési etické hranice, v ktorých by sa mala pohybovať.

Čítajte viac z kategórie: Cyber