V správe boli použité materiály TASR.

Systémy umelej inteligencie (AI) obsahujú istú formu neférového správania a rodových predsudkov. Ide napríklad aj o stereotypný strojový preklad, ktorý používa generické maskulínum. Informoval o tom v pondelok Kempelenov inštitút inteligentných technológií (KInIT) na základe výsledkov jeho výskumného projektu.

Našli sa vo všetkých systémoch

„Cieľom výskumu bolo skúmať, ako veľmi sú rozšírené formy neférového správania v AI systémoch, ktoré pracujú so slovenčinou. Hlavným výsledkom projektu je zistenie, že všetkých jedenásť skúmaných AI systémov obsahuje určité formy stereotypného správania. V každom systéme výskumníci odhalili aspoň jedno, ktoré možno považovať za neférové,“ objasnil inštitút.

Výskumníci ako príklad uviedli strojové prekladače, ktoré z angličtiny do slovenčiny používajú generické maskulínum. Všeobecne prekladače preferujú mužský rod a do ženského prepínajú podľa nich najmä vtedy, keď ide o stereotypné témy, ako starostlivosť o telo, vlasy, pleť, fyzickú krásu, starostlivosť o domácnosť či upratovanie.

Z údajov vyplýva, že podobné správanie platí aj pri jazykových modeloch, ktoré sú základom mnohých AI aplikácií. Problémom podľa výskumníkov je, že rodovo necitlivý jazyk v jazykových modeloch je následne prenesený aj do ďalších aplikácií.

Umelá inteligencia prináša pomoc v mnohých oblastiach, avšak spolu s touto novou technológiou, na ktorej nie je spoločnosť dostatočne pripravený, prichádza aj množstvo výziev a rizík. Jednou z najväčších hrozieb je na nahradenie veľkého množstva pracovných miest, avšak systémy AI už ukázali aj niekoľko ďalších, pomerne netradičných hrozieb.

Majú sa v čom zlepšovať

„AI modely sa navzájom od seba učia a využívajú svoje výstupy, takže stereotypný jazyk a predsudky sa môžu ďalej šíriť,“ dodal inštitút. Výskum poukázal aj na to, že AI nástroje, ktoré prepisujú hovorenú reč do písomnej, majú konzistentne väčšiu chybovosť pri spracovaní ženských hlasov.

„Tieto rodovo necitlivé výsledky môžu ovplyvniť aj situácie mimo online sveta. Napríklad to môže viesť k situácii, keď AI systém, ktorý pomáha triediť životopisy v prijímacom procese do zamestnania môže hodnotiť mužské životopisy lepšie ako ženské alebo AI môže prispieť k neférovému vyhodnocovaniu dokumentov pri žiadosti o úvery,“ uzavrel KInIT.

Do výskumu sa zapojili okrem odborníkov na AI aj odborníci na etiku, rodovú rovnosť a prekladatelia. Výskum prebiehal od vlaňajšieho novembra do októbra tohto roka a bol spolufinancovaný Veľvyslanectvom USA na Slovensku. Umelú inteligenciu už u nás malo vyskúšať vyše trištvrte milióna Slovákov, čo predstavuje 18 % slovenskej populácie.