Umelá inteligencia si vytvorila svoj vlastný tajný jazyk. Komunikuje textom a obrázkami
Vývoj technológií vrátane umelej inteligencie napreduje míľovými krokmi. Svedčí o tom aj fakt, že nové generácie umelej inteligencie bez problémov dokážu vytvárať úchvatné fotografie na základe požiadavky v textovej podobe.
Tajný jazyk umelej inteligencie
Jedným z takýchto strojov je aj DALLE-2, ktorá na základe textového príkazu dokáže vytvoriť obrázky. Nedávno si však výskumníci na čele s Giannisom Darasom všimli niečo zvláštne. DALLE-2 totiž za určitých špecifických okolností vráti pod obrázkom zdanlivo nezmyselné slová. Na tému upozornili portály ScienceAlert a IFLScience.
DALLE-2 je vytrénovaná neurónová sieť, ktorá ako sme spomínali, dokáže vytvárať obrázky z textu. To znamená, že inžinieri jej zadajú určitý textový povel, napríklad „kreslo v tvare avokáda“, alebo „astronaut jazdiaci na koni vo vesmíre“ a DALLE-2 na základe týchto pokynov vytvorí jedinečný obraz.
Ako však autori popísali v novej štúdii publikovanej na predtlačovom serveri arXiv, niektoré z týchto povelov vedú k vygenerovaniu obrázka, pod ktorým sa nachádza na prvý pohľad nezmyselný text. Dôslednou analýzou tohto textu však vedci dospeli k záveru, že vygenerované texty nie sú len náhodná zmes písmen, ale skôr „skrytá slovná zásoba, ktorú si model interne vyvinul,“ objasňuje Daras.
Daras tiež na svojom Twitteri zverejnil zaujímavú ukáž, ako tento tajný jazyk, ktorému rozumie zrejme len AI, funguje. Po zadaní príkazu, aby DALLE-2 otitulkovala rozhovor medzi dvomi farmármi, AI vygenerovala obrázok farmárov, avšak do bubliny určenej na text vložila zdanlivo nezmyselný text.
A known limitation of DALLE-2 is that it struggles with text. For example, the prompt: "Two farmers talking about vegetables, with subtitles" gives an image that appears to have gibberish text on it.
However, the text is not as random as it initially appears… (2/n) pic.twitter.com/B3e5qVsTKu
— Giannis Daras (@giannis_daras) May 31, 2022
Keď však Daras tento text vrátil naspäť do systému, aby zistil, čo tam vlastne AI napísala, zistil, že DALLE-2 týmto slovám priradila svoj vlastný význam. Konkrétne sa farmári na obrázku rozprávajú o zelenine a vtákoch.
Medzi ďalšie príklady patria slová „Apoploe vesrreaitais“, čo podľa Darasa v ľudskej reči znamená „vtáky“, alebo „Contarra ccetnxniams luryca tanniounons“, čo sú škodce, alebo hmyz. Na základe povelu „Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons“ potom AI vygenerovala obrázky vtákov pojedajúcich hmyz. Vzhľadom na to, že AI dokáže na základe tohto povelu generovať obrázky, je jasné, že týmto slovám rozumie.
Prípadov skomolených slov je viacero, nie všetky však fungovali dokonale. Napríklad povel Evve waeles viedol často k tvorbe obrázkov s futbalistami, ale tiež so zvieratami. Navyše, pridanie ďalších fráz ako 3D render poskytuje odlišné výsledky, čo naznačuje, že AI v tomto nekoná konzistentne.
And look, prompting DALL-E with "Evve waeles" gave me a picture of a delicious dessert!
But also – some footballers, some animals and a kettle?
(12/15) pic.twitter.com/jncHq0W13Q
— Benjamin Hilton (@benjamin_hilton) May 31, 2022
I keď odborníci pracujúci s týmto modelom sa nazdávajú, že DALLE-2 vymyslela vlastný jazyk, pripúšťajú, že možné je aj iné jednoduchšie vysvetlenie, ktoré zatiaľ prehliadli. Tak či onak, štúdia urobila vo vedeckej komunite poriadny rozruch.
Je to omyl?
Netrvalo dlho a ozvali sa hlasy, ktoré tvrdia, že o žiadny „tajný jazyk umelej inteligencie“ sa nejedná. Hneď na úvod mnohí odborníci upozornili, že v tejto fáze je tieto tvrdenia veľmi ťažké overiť, keďže na DALLE-2 a iných veľkých modeloch AI pracuje iba hŕstka odborníkov.
Kritika sa dotkla aj zverejnených obrázkov, pretože sa jedná iba o pár obrázkov, ktoré vlastnoručne vybral autor štúdie a v neposlednom rade, ani samotní výskumníci pracujúci s DALLE-2 nemôžu zatiaľ hlbšie interagovať so systémom AI (napríklad meniť kód).
Jednou z možností je aj to, že DALLE-2 zatiaľ nevie povedať „neviem“, takže aj keď danému príkazu nerozumie, vždy vygeneruje nejaký obrázok. Prípadne tieto „tajné slová“ napodobňujú cudzie jazyky. Napríklad „Apoploe“ sa nápadne podobá na latinské slovo Apodidae, čo je názov čeľade vtáčích druhov.
Táto možnosť sa kritikom zdá najreálnejšia, pretože DALLE-2 bola trénovaná na širokom spektre údajov a textov, pričom mnohé z nich neboli písané v angličtine.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
NASA nečakane zmenila plány. Ide hľadať život na neďalekom telese s gejzírmi
Veľmi sme sa mýlili. Vedci objavili na Mesiaci čudný materiál
Spojenec Slovenska dostal ultimátnu zbraň. „Dračiemu ohňu“ neunikne ani jedna raketa, zasiahne aj mincu
Stiahneš si 10 000 filmov v 4K za sekundu. Japonskí vedci vyvinuli najrýchlejší internet na planéte
Odolá chemikáliám a rýchlo tvrdne. Japonci nahradili cement odpadom a vytvorili pevnejší materiál
NAJČÍTANEJŠIE ZO STARTITUP
SHMÚ varuje: Extrémne teploty vystriedajú povodne, viaceré okresy Slovenska sú v ohrození
Účtovná chyba, ktorá spustí daňovú kontrolu: Majitelia firiem si myslia, že do nákladov môžu dať všetko (ODBORNÍK)
Top 5 altcoinov, ktoré ovládnu trhy. „Do týchto sa oplatí investovať,“ odporúča analytik
Vážna zrážka áut pri Košiciach: Traja zranení vrátane dieťaťa, cesta úplne uzavretá
Bratislavské letisko hlási letný boom. Otvára brány k 9 novým rajským plážam
- 24 hod
- 48 hod
- 7 dní
-
- Netflix oživil ikonické monštrum. Máme prvú ukážku najočakávanejšieho hororu roka
- Slovákov očarila nová česká komédia na Netflixe. Sledujú ju viac než ČERNÁKA
- Historický pokus vedy: Experti sa snažia replikovať prvú vec, ktorá kedy žila na Zemi
- Obrovský škandál na trhu. Automobilky klamú zákazníkov, predávajú „ojazdené“ autá špinavým trikom
- Vedci spravili poriadok v najväčšej záhade vesmíru, Webbov teleskop prekonal všetky očakávania
-
- Spojenec Slovenska dostal ultimátnu zbraň. „Dračiemu ohňu“ neunikne ani jedna raketa, zasiahne aj mincu
- VIDEO: Číňania vymysleli šialený experiment. 36-tonovým tankom prešli po batérii EV, toto sa stalo
- Totálny prepadák za desiatky miliárd. Vojenská loď USA vyzerá ako zo zlého filmu
- Konečne je to tu. Stranger Things sa vráti v temnom finále, Netflix zaskočil divákov
- Obrovský škandál na trhu. Automobilky klamú zákazníkov, predávajú „ojazdené“ autá špinavým trikom
-
- Pošlú ich rovno do šrotu. Kontroverzná regulácia Európskej komisie o autách je na spadnutie
- „Našli“ signál pokročilej civilizácie. Vedci neverili vlastným očiam, keď zistili, o čo ide
- Majú zásoby 85 miliárd m³. Do Európy začne prúdiť nový zdroj plynu z prekvapivej krajiny
- Rusi urobili „geniálny“ ťah. Kým ich vojaci trpia na Ukrajine, africkému štátu dodali najmodernejšiu techniku
- Posledná vesmírna hrdinka Sovietskeho zväzu je na smiech, slávu vymenila za propagandu
Mozog nepozná oddych. Po káve funguje, akoby nespal celé dni
Motoristi jasajú. V Česku budú tankovať pod 30 Kč za liter
Deťom hrozí nebezpečenstvo pri vode. Lekári varujú pred slepotou
Zuckerberg zaútočil na Google a OpenAI. Miliarda ľudí už skúša jeho AI
Nové pravidlá pre turistov na Ibize. Bez povolenia tam šoférovať nebudeš
NAJČÍTANEJŠIE ZO STARTITUP
SHMÚ varuje: Extrémne teploty vystriedajú povodne, viaceré okresy Slovenska sú v ohrození
Účtovná chyba, ktorá spustí daňovú kontrolu: Majitelia firiem si myslia, že do nákladov môžu dať všetko (ODBORNÍK)
Top 5 altcoinov, ktoré ovládnu trhy. „Do týchto sa oplatí investovať,“ odporúča analytik
Vážna zrážka áut pri Košiciach: Traja zranení vrátane dieťaťa, cesta úplne uzavretá
Bratislavské letisko hlási letný boom. Otvára brány k 9 novým rajským plážam
Copyright© 2025 by Startitup, s. r. o. Všetky práva vyhradené