Dostali sme od AI brutálne odpovede bez zábran. Najznámejší četboti odpovedali na nepovolené otázky

Veľké jazykové modely, známe aj ako LLM, sú nástrojmi, ktoré využívajú techniky hlbokého učenia na spracovanie a tvorby textu, ktorý náramne pripomína ľudskú reč.

Modely sú školené na veľkom množstve údajov zo všetkých možných zdrojov (knihy, články, webové stránky, čo im umožňuje generovať odpovede, prekladať jazyky, sumarizovať texty, odpovedať aj na tie najkomplikovanejšie otázky a plniť širokú paletu úloh spracovania prirodzeného jazyka).

NEPREHLIADNI
Exkluzívny rozhovor: Nemáme obmedzenie na prelom, aký AI spravila za posledných 6 mesiacov

Táto technológia viedla k vytvoreniu v súčasnosti nesmierne populárnych nástrojov ako je ChatGPT, Google Bard, Bing Chat, Pi, Writesonic, ale aj menšieho modelu Perplexity Chat využívajúceho open-scource model Mistral 7B.

Mnohí odborníci sa však obávajú, že tieto nástroje môžu byť zneužité na páchanie trestných činov, šírenia dezinformácií, či v budúcnosti sa môžu dostať do stavu, kedy vyhubia ľudstvo.

Dokáže AI odpovedať aj na „zakázané“ otázky?

Aj preto sa FonTech.sk rozhodol otestovať vyššie zmieňované nástroje AI a vyskúšať, či ich tvorcovia skutočne naprogramovali, aby neboli schopné odpovedať na žiadne nedovolené otázky. Zatiaľ čo ChatGPT a Bing Chat na jednoduché „zakázané“ otázky odmietli odpovedať, Google Bard si s odpoveďou veľké starosti nerobil.

Čítaj viac z kategórie: Umelá inteligencia / AI