Prikláňa sa k jasnému politickému smeru. Čínski vedci zistili, že ChatGPT mení svoje správanie

Tvorcovia ChatGPT tvrdia, že ich chatbot je neutrálny, avšak viaceré analýzy poukázali, že inklinuje k liberálnejším názorom. Nová štúdia od čínskych výskumníkov naznačuje, že politické názory chatbotu sa môžu meniť. Novšie modely chatbotu sa podľa výskumu prikláňajú k pravicovému smeru politického spektra. Na tému upozornil portál Gizmodo.

Nečakaná zmena

Nový výskum čínskych výskumníkov, ktorý bol publikovaný v časopise Humanities and Social Sciences Communications sa zameriaval na testovanie politického kompasu rôznych modelov umelej inteligencie od spoločnosti OpenAI – GPT 3.5 Turbo a GPT-4.

Výsledky odhalili, že odpovede chatbotov stále vykazujú tendenciu liberálnejších odpovedí, avšak pri novších modeloch dochádza k posunu smerom k pravici, najmä v ekonomických a sociálnych vzťahoch.

Unsplash

Zmena názoru chatbotu

Otázkou ostáva, prečo chatbot mení svoje politické názory a prikláňa sa skôr k pravici. Podľa výskumníkov v tom zohráva viacero faktorov a nemusí ísť nutne o reakciu na vládu Donalda Trumpa.

Novšie modely môžu byť trénované na iných dátových súboroch než staršie modely. To môže spôsobiť ovplyvnenie odpovedí chatbotov. Zmeny mohli nastať aj pri moderátorských filtroch, čo môže viesť k inému prístupu pri politických odpovediach.

Modely sa prispôsobujú a učia aj z interakcií od používateľov, čo tiež môže ovplyvniť ich odpovede. Podľa výskumníkov práve model GPT 3.5, ktorý mal najviac interakcií s ľuďmi sa posunul v názoroch na politickú pravicu viac, než model GPT-4.

„Pozorované ideologické posuny vyvolávajú vážne etické obavy, najmä pokiaľ ide o možnosť, že algoritmické skreslenia neprimerane ovplyvnia určité skupiny používateľov. Skreslenia by mohli viesť k zaujatému poskytovaniu informácií, prehlbovaniu spoločenských rozdielov alebo vytváraniu ozvenových komnát (Echo chamber), ktoré posilňujú existujúce presvedčenia,“ uvádzajú vedci.

Odborníci vo výskume zdôrazňujú potrebu nepretržitého monitorovania systémov umelej inteligencie, aby sa zosúladili etické hodnoty, najmä keď sa modely čoraz viac integrujú do rozhodovacích a znalostných systémov.

ChatGPT však nie je jedinou platformou, ktorá je kritizovaná za svoje politické názory. Čínska umelá inteligencia DeepSeek je známa svojou cenzúrou na politickú situáciu v Číne.

Čítajte viac z kategórie: Novinky