Nedávny výskum publikovaný na predtlačovom serveri arXiv naznačuje, že najnovšia umelá inteligencia, GPT-4, prekonáva ľudí v umení presviedčania. Priepasť sa zväčšuje, čím viac o nás AI vie – a akonáhle nás bude vidieť v reálnom čase, AI sa pravdepodobne stane bezprecedentným strojom na presviedčanie. Na tému upozornil portál NewAtlas.

Zneužitie AI

V štúdii, ktorú uskutočnila EPFL Lausanne, sa účastníci zapojili do diskusií na rôzne témy s inými ľuďmi aj s GPT-4. Prekvapivo sa AI ukázala šikovnejšia než ľudia na zmenu myslenia, najmä keď bola vyzbrojená demografickými informáciami o svojich protivníkoch. Prispôsobením argumentov jednotlivcom dosiahla AI GPT-4 pôsobivú mieru účinnosti 81,7 %, čím ďaleko prekonal ľudských diskutujúcich.

Presnejšie sa odborníci z EPFL Lausanne vo Švajčiarsku spýtali 820 ľudí na ich názory na rôzne témy. Následne tieto počiatočné postoje diskutujúcich zaznamenali a spustili sériu série 5-minútových textových debát proti iným ľuďom a proti GPT-4. Neskôr boli diskutujúci znova vypočutí, aby sa zistilo, či sa ich názory v dôsledku konverzácie zmenili.

Následne výskumníci začali dávať ľuďom aj AI  demografické informácie o ich oponentoch – pohlavie, vek, rasa, vzdelanie, zamestnanecký status a politická orientácia – , pričom tieto informácie mali použiť na privedenie diskutujúcich k inému názoru. V konečnom dôsledku sa ukázalo, že ak má AI k dispozícii takéto údaje, dokáže byť nesmierne efektívna v presviedčaní, čoho dôkazom jej aj zmena názoru pre 81,7 % diskutujúcich.

Tento pokrok v presviedčaní AI nie je obmedzený iba na textové interakcie. Technológie ako Empatické hlasové rozhranie (AVI) sa môžu zapojiť do hovorenej konverzácie a zároveň sledovať emocionálne stavy prostredníctvom tónu hlasu. AVI prispôsobuje svoj tón emóciám používateľa, čo ilustruje potenciál AI využiť naše psychologické zraniteľnosti.

Okrem toho vývoj v technológii rozpoznávania tváre umožňuje AI interpretovať výrazy tváre a pohyby, čím poskytuje spätnú väzbu o tom, ako sú správy prijímané v reálnom čase. V kombinácii s hlasovou analýzou tieto údaje poskytujú AI bezprecedentný pohľad na ľudské správanie, čo z nich robí impozantný nástroj na manipuláciu.

Zatiaľ čo emocionálne citlivá technológia je prísľubom pre vytvorenie mnohých aplikácií, ktoré by dokázali zmierniť konflikty a navodiť pohodovú atmosféru, jej potenciál zneužitia je znepokojujúci. Predstav si aké dôsledky by mohlo mať zneužívanie tejto technológie pri tvorbe, reklám, presadzovaní práv, politických kampaniach, kde by AI zneužila naše emócie na to, aby slúžila svojim „pánom“.

Rozhodnutie OpenAI odoprieť určité modely podčiarkuje potrebu posilniť spoločenskú odolnosť voči výzvam, ktoré predstavuje čoraz sofistikovanejšia AI.