OpenAI kvôli voľbám predstaví nástroje na boj s dezinformáciami

Spoločnosť OpenAI, ktorá vyvíja softvér umelej inteligencie ChatGPT, plánuje predstaviť nástroje na boj s dezinformáciami pred tohtoročnými desiatkami volieb, ktoré sa budú týkať zhruba polovice svetovej populácie. TASR o tom informuje podľa utorkovej správy agentúry AFP.

Prudký úspech nástroja Chat GPT, ktorý dokáže generovať text na základe voľne dostupných informácií na internete, podnietil globálnu revolúciu v oblasti umelej inteligencie (AI). Zároveň sa však začali vyskytovať obavy, že by takéto nástroje mohli zaplatiť internet dezinformáciami a ovplyvniť voličov.

Voľby sa v roku 2024 konajú vo vyše 50 štátoch sveta vrátane USA, Indie či Británie. Spoločnosť OpenAI v pondelok ubezpečila, že neumožní, aby boli jej nástroje AI vrátane ChatGPT a generátora obrázkov DALL-E 3 využívané na politické účely.

Na procedurálne otázky týkajúce sa volieb v USA bude ChatGPT reagovať priamym presmerovaním používateľov na webstránky amerických úradov. „Poznatky z tejto činnosti budú podkladom pre náš prístup aj v iných krajinách a regiónoch“ uviedla spoločnosť s tým, že v nástroji DALL-E 3 sú zavedené bezpečnostné prvky, ktoré zabraňujú používateľov generovať obrázky skutočných osôb vrátane kandidátov.

„Chceme, aby sa naša technológia nepoužívala na účely, ktoré by mohli podkopať“ demokratický politický proces, uviedla OpenAI vo svojom blogu s tým, že sa stále snaží pochopiť, aké účinné môžu byť jej nástroje v snahách o ovplyvňovanie ľudí. „Kým nebudeme vedieť viac, nedovolíme ľuďom vytvárať aplikácie na politickú kampaň a lobing“, dodala spoločnosť.

Pred krátkodobými rizikami súvisiacimi s AI a dezinformáciami varovala minulý týždeň aj správa Svetového ekonomického fóra (WEF), podľa ktorej by tieto riziká mohli podkopať novozvolené vlády v krajinách po celom svete.

Obavy týkajúce sa volebných dezinformácií sa objavili už pred niekoľkými rokmi. Podľa odborníkov túto hrozbu ešte viac zvýšilo, keď boli verejnosti sprístupnené generátory textov a obrázkov s umelou inteligenciou, a to najmä v prípadoch, keď používatelia nevedia jednoducho rozoznať, či je obsah falošný alebo zmanipulovaný.

OpenAI v pondelok oznámila, že ešte tento rok predstaví aj nástroje, ktoré obsahu vytvorenému umelou inteligenciou priradia podrobnosti o jeho pôvode.