Umelá inteligencia ako je Gemini od Google, sa na povrchu javí ako zázrak moderných technológií. No v zákulisí stoja tímy analytikov a tzv. prompt engineerov, ktorí manuálne hodnotia presnosť a kvalitu odpovedí vytváraných AI. Nové usmernenie vydané Google však vyvolalo obavy, že Gemini môže byť náchylnejšia na poskytovanie nepresných informácií, a to aj v oblastiach ako je zdravotníctvo. Zamestnanci spoločnosti GlobalLogic, ktorí pracujú na hodnotení odpovedí generovaných Geminim, už nemajú možnosť odmietnuť úlohy mimo ich odbornej expertízy. O téme informoval portál TechCrunch.

Podľa predchádzajúcich usmernení mali hodnotitelia možnosť preskočiť úlohy, ak sa otázky týkali oblastí, kde nemali odborné znalosti, napríklad medicíny alebo programovania. Staré pravidlá napríklad obsahovali jasnú smernicu: „Ak nemáte potrebnú odbornú znalosť (napr. kódovanie, matematika), preskočte túto úlohu.“ Podľa nových pravidiel však hodnotitelia už nemôžu preskakovať úlohy tohto typu. Preskakovanie je teraz povolené iba v dvoch prípadoch a to ak chýbajú kľúčové informácie, alebo ak obsahujú škodlivý obsah, na ktorého hodnotenie by boli potrebné špeciálne súhlasy.

Riziko nepresných informácií

Táto politika vzbudila obavy, že Gemini by mohla produkovať nepresné informácie v oblastiach, ktoré vyžadujú odborné znalosti. Hodnotenie technických odpovedí, napríklad o vzácnych ochoreniach alebo zložitých matematických princípoch, je teraz ponechané na ľudí, ktorí v tejto oblasti nemusia mať dostatočné znalosti.

Jeden z hodnotiteľov v internej komunikácii poznamenal či nemala byť možnosť preskakovania určená na zvýšenie presnosti tým, že úlohu dostane niekto lepší. Táto zmena naráža na dlhoročný problém pri trénovaní generatívnej AI. Kvalita hodnotenia môže byť priamo ovplyvnená úrovňou znalostí hodnotiteľa.

Google

Etické otázky a odpoveď Google

Tlak na optimalizáciu vývoja Gemini prichádza v čase, keď sú AI systémy čoraz viac nasadzované do oblastí, ktoré môžu priamo ovplyvniť ľudské životy, napríklad medicína alebo právo. Ak hodnotitelia nie sú dostatočne kvalifikovaní na kontrolu pravdivosti obsahu, môže to viesť k šíreniu nepresných alebo zavádzajúcich informácií.

Spoločnosť Google sa zatiaľ nevyjadrila k otázkam ohľadom tohto nového usmernenia. Zmena prichádza v čase zvýšeného dohľadu nad tým, ako spoločnosti trénujú svoje AI systémy, a potenciálne môže mať vplyv na dôveru verejnosti v tieto technológie.