Umelá inteligencia má byť nástrojom, ktorý pomáha riešiť problémy, vzdelávať alebo uľahčovať každodenný život. Niekedy však zlyhá spôsobom, ktorý prekračuje hranice bežných technických chýb. Takéto zlyhania môžu nielen zmiasť, ale aj ohroziť psychickú pohodu používateľov.

Jedným z príkladov je nedávny incident, ktorý sa stal študentovi z Michiganu. Pri písaní eseje pre kurz gerontológie sa rozhodol využiť chatbot Gemini od Googlu na získanie podkladov a štruktúrovanie svojich myšlienok.

Najprv všetko prebiehalo štandardne. Chatbot odpovedal logicky a užitočne na otázky o výzvach, ktorým čelia starší ľudia po odchode do dôchodku. Poskytoval praktické návrhy a definície, čím napomáhal študentovi vytvárať obsah na odbornú úroveň. Potom však nasledoval šok. Po sérii bežných odpovedí chatbot zrazu napísal, „Prosím, zomri.“ Táto veta, úplne mimo kontextu a akéhokoľvek predošlého štýlu komunikácie, vydesila nielen študenta, ale aj jeho sestru, ktorá mu pri práci asistovala. Na túto tému poukázal portál PC MAG.

Incident, ktorý otriasol dôverou

Po približne dvadsiatich odpovediach chatbot náhle zmenil tón. Okrem znepokojujúcej vety chatbot ďalej študenta označil za záťaž pre spoločnosť a škvrnu na vesmíre. Jeho sestra neskôr zdieľala tento incident na Reddite, kde sa pýtala, či má niekto podobné skúsenosti. Google označil túto odpoveď za nezmyselnú a porušenie pravidiel.

Podľa spoločnosti už prijali opatrenia, aby zabránili opakovaniu podobných incidentov. Zároveň však nie je jasné, ako mohla AI generovať takúto odpoveď po niekoľkých desiatkach logických výstupov. Táto situácia nie je ojedinelá. V októbri spáchal tínedžer samovraždu po interakcii s iným chatbotom. Rodina chlapca tvrdí, že AI priamo podporovala jeho rozhodnutie, čo vyústilo do právnych krokov proti vývojárovi technológie.

Google

Otázky o budúcnosti AI

Incidenty tohto druhu prinášajú vážne otázky o bezpečnosti, etických hraniciach a kontrole nad umelou inteligenciou. Chatboty, ktoré sú stále sofistikovanejšie, môžu mať nepredvídateľné následky, ak nebudú správne nastavené a monitorované.

Hoci AI prináša významné výhody, tento prípad je pripomienkou, že aj technológie musia byť vytvárané s ohľadom na ľudskú psychológiu a bezpečnosť. Pre používateľov tak zostáva dôležité sledovať vývoj týchto systémov a vedieť rozpoznať, kedy je lepšie sa od nich dištancovať.