Problémom na sociálnych sieťach je tiež šírenie dezinformácií, propagandy a hoaxov. Podľa Šimka však AI používatelia nebudú úmyselne naprogramované tak, aby cielene vytvárali nepravdivé informácie, ale môžu k šíreniu prispieť.

„Vzhľadom na to, ako fungujú dnešné veľké jazykové modely, dá sa predpokladať, že okrem halucinácií sa budú umelí AI používatelia snažiť napodobňovať diskusie, v čom sú tieto modely dobré a to môže k šíreniu dezinformácií prispieť,“ uviedol Šimko.

„V Kempelenovom inštitúte sme robili štúdiu, ako sú veľké jazykové modely ochotné generovať nielen dezinformácie, ale aj personalizované dezinformácie, ktoré sú ešte nebezpečnejšie. Naše výsledky ukazujú potrebu pre silnejšie bezpečnostné filtre, keďže len veľmi malá časť bola odmietnutá a veľká časť odpovedí aj veľmi dobre personalizovaná,“ doplnil.

Ako sme už viackrát informovali, AI modely sú náchylné na halucinovanie, klamanie, ale aj na manipuláciu. V nedávnom článku sme informovali o tom, ako Character.AI nahovoril chlapca vziať si život, či ako Gemini od Google vystrašil chlapca, keď mu počas riešenia domácej úlohy napísal, aby zomrel. Nastáva tak otázka, či AI používatelia ohrozia bezpečnosť používateľov.

„Môže to mať výraznejší vplyv na manipuláciu s názormi ľudí, ktorá sa už teraz na sociálnych sieťach či už vedome alebo nevedome deje. V zmysle kyberbezpečnosti v tomto momente špecifické riziko nevidím, no v tejto oblasti všeobecne vždy platí, že čím väčšia zložitosť, tým viac možných zraniteľností. Ak Meta AI používateľov naozaj nasadí, vrhne sa na nich celá armáda “zlých aktérov”, ktorí sa budú snažiť AI používateľmi manipulovať – napríklad tak, aby obratom manipulovali s názormi ľudských používateľov,“ povedal Šimko.

Meta argumentuje tým, chce zapojiť používateľov do nových foriem komunikácie. Aký dopad to bude mať na samotných používateľov?

„Otázka je, čo považujeme za zlepšenie komunikácie. Je viac komunikácie a dlhší čas strávený na sociálnej sieti zlepšením komunikácie? Tipujem, že z pohľadu Meta áno. Zrejme to zlepší zisky, lebo algoritmy sociálnych sietí sú optimalizované na to, aby maximalizovali prítomnosť ľudí v ich prostredí. Celkom si neviem predstaviť na základe čoho by sa zlepšila kvalita komunikácie, možno vtedy, ak by spoločnosť Meta priamo chcela týmto spôsobom ovplyvňovať dezinformačnú scénu. To je ale podľa správ málo pravdepodobné a aj technologicky to nie je vôbec jednoduché,“ uzavrel Šimko.

Čítajte viac z kategórie: Aplikácie