Meta zaplaví sociálne siete „AI ľuďmi“. Raz a navždy zmenia spôsob, akým komunikujeme
Problémom na sociálnych sieťach je tiež šírenie dezinformácií, propagandy a hoaxov. Podľa Šimka však AI používatelia nebudú úmyselne naprogramované tak, aby cielene vytvárali nepravdivé informácie, ale môžu k šíreniu prispieť.
„Vzhľadom na to, ako fungujú dnešné veľké jazykové modely, dá sa predpokladať, že okrem halucinácií sa budú umelí AI používatelia snažiť napodobňovať diskusie, v čom sú tieto modely dobré a to môže k šíreniu dezinformácií prispieť,“ uviedol Šimko.
„V Kempelenovom inštitúte sme robili štúdiu, ako sú veľké jazykové modely ochotné generovať nielen dezinformácie, ale aj personalizované dezinformácie, ktoré sú ešte nebezpečnejšie. Naše výsledky ukazujú potrebu pre silnejšie bezpečnostné filtre, keďže len veľmi malá časť bola odmietnutá a veľká časť odpovedí aj veľmi dobre personalizovaná,“ doplnil.
Ako sme už viackrát informovali, AI modely sú náchylné na halucinovanie, klamanie, ale aj na manipuláciu. V nedávnom článku sme informovali o tom, ako Character.AI nahovoril chlapca vziať si život, či ako Gemini od Google vystrašil chlapca, keď mu počas riešenia domácej úlohy napísal, aby zomrel. Nastáva tak otázka, či AI používatelia ohrozia bezpečnosť používateľov.
„Môže to mať výraznejší vplyv na manipuláciu s názormi ľudí, ktorá sa už teraz na sociálnych sieťach či už vedome alebo nevedome deje. V zmysle kyberbezpečnosti v tomto momente špecifické riziko nevidím, no v tejto oblasti všeobecne vždy platí, že čím väčšia zložitosť, tým viac možných zraniteľností. Ak Meta AI používateľov naozaj nasadí, vrhne sa na nich celá armáda “zlých aktérov”, ktorí sa budú snažiť AI používateľmi manipulovať – napríklad tak, aby obratom manipulovali s názormi ľudských používateľov,“ povedal Šimko.
Meta argumentuje tým, chce zapojiť používateľov do nových foriem komunikácie. Aký dopad to bude mať na samotných používateľov?
„Otázka je, čo považujeme za zlepšenie komunikácie. Je viac komunikácie a dlhší čas strávený na sociálnej sieti zlepšením komunikácie? Tipujem, že z pohľadu Meta áno. Zrejme to zlepší zisky, lebo algoritmy sociálnych sietí sú optimalizované na to, aby maximalizovali prítomnosť ľudí v ich prostredí. Celkom si neviem predstaviť na základe čoho by sa zlepšila kvalita komunikácie, možno vtedy, ak by spoločnosť Meta priamo chcela týmto spôsobom ovplyvňovať dezinformačnú scénu. To je ale podľa správ málo pravdepodobné a aj technologicky to nie je vôbec jednoduché,“ uzavrel Šimko.
Čítajte viac z kategórie: Aplikácie
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Revolúcia v chápaní bytia: Vedci definitívne vyvrátili najpopulárnejšiu hypotézu o živote a vesmíre

TRAILER: Vreskot je späť a prichádza ďalší masaker. Jedna vec sa ľuďom nepozdáva

Najskôr ho vysmiali, teraz prosia o ďalší hit. Geniálny tvorca seriálov prijal ponuku snov

Smeje sa z nej celý internet. Česi tvoria hru podľa pražskej legendy

Európske automobilky stoja pred kontroverzným krokom. Číňania prišli s taktikou, ktorá ich môže zničiť
NAJČÍTANEJŠIE ZO STARTITUP

Domovy 230 miliónov ľudí pod vodou. Antarktída vstúpila do nezvratnej fázy
 PREMIUM
PREMIUMViktor Beránek opustil Chatu pod Rysmi po 48 rokoch. „Odchádzam len dočasne do exilu,“ hovorí legenda (ROZHOVOR)

Európska komisia stráca trpezlivosť: Slovensko, Poľsko a Maďarsko môžu čeliť žalobe

„Sú rečou našej duše.“ Psychologička vysvetľuje, čo znamenajú opakujúce sa sny o zosnulých a nevere (ROZHOVOR)

Vyrástla v detskom domove, dnes má 27 rokov a vlastní 3 nehnuteľnosti. Finančná influencerka radí, ako zbohatnúť aj z mála (5 KROKOV)
- 24 hod
- 48 hod
- 7 dní
- 
					- Experti ostali bez slov. Najväčšiu pliagu ľudstva našli na mieste, kde nemá vôbec čo robiť
- O toto išlo Rusom celý čas. Obsadili jedno z najväčších ložísk dôležitej suroviny v Európe
- Najväčšia bitka roka je tu. Netflix ukazuje finále svojho sci-fi hitu, v slovenských premiérach je zmätok
- VIDEO: Zbláznila sa Čína? Neuveríš, čím pokryli celé pohorie
- Vedci neverili vlastným očiam. Na Slnku prší a konečne vieme ako je to možné
 
- 
					- Experti ostali bez slov. Najväčšiu pliagu ľudstva našli na mieste, kde nemá vôbec čo robiť
- O toto išlo Rusom celý čas. Obsadili jedno z najväčších ložísk dôležitej suroviny v Európe
- Netflix priznáva zlyhanie. Zaklínač končí v predstihu, tvorcovia priznali smutnú pravdu
- Najväčšia bitka roka je tu. Netflix ukazuje finále svojho sci-fi hitu, v slovenských premiérach je zmätok
- VIDEO: Zbláznila sa Čína? Neuveríš, čím pokryli celé pohorie
 
- 
				- Bez Západu by rýchlo prehrali. Ukrajina zistila, čo v skutočnosti poháňa „ruské“ drony
- Experti ostali bez slov. Najväčšiu pliagu ľudstva našli na mieste, kde nemá vôbec čo robiť
- Pochopili, že ubližujú sami sebe. Bohatá krajina chce okamžite zrušiť clá na elektromobily z Číny
- Vodiči sú proti nim bezradní. Nové radary rozdávajú pokuty za niečo, čo by ti nikdy nenapadlo
- VIDEO: Zbláznila sa Čína? Neuveríš, čím pokryli celé pohorie
 
Slováci dávajú bohom spaľovákom. Elektrické autá u nás raketovo rastú, no máme veľký problém
Spojenec Ruska sa pustil do USA a varuje pred novou hrozbou. Ste pokrytci, odkazuje
Európsky Detroit má problém. Slovenský automobilový priemysel sa dostal do slepej uličky
Svetová elita ničí Zem. Oxfam odhalil katastrofálne rozdiely v emisiách
To, čo Nvidia dokázala, nemá v histórii obdoby. Svet financií stojí v nemom úžase
NAJČÍTANEJŠIE ZO STARTITUP

Domovy 230 miliónov ľudí pod vodou. Antarktída vstúpila do nezvratnej fázy
 PREMIUM
PREMIUMViktor Beránek opustil Chatu pod Rysmi po 48 rokoch. „Odchádzam len dočasne do exilu,“ hovorí legenda (ROZHOVOR)

Európska komisia stráca trpezlivosť: Slovensko, Poľsko a Maďarsko môžu čeliť žalobe

„Sú rečou našej duše.“ Psychologička vysvetľuje, čo znamenajú opakujúce sa sny o zosnulých a nevere (ROZHOVOR)

 
			 
				 
				 
                 
				 
				 
				

 
		