Umelá inteligencia má v slovenčine neférové správanie a rodové predsudky
V správe boli použité materiály TASR.
Systémy umelej inteligencie (AI) obsahujú istú formu neférového správania a rodových predsudkov. Ide napríklad aj o stereotypný strojový preklad, ktorý používa generické maskulínum. Informoval o tom v pondelok Kempelenov inštitút inteligentných technológií (KInIT) na základe výsledkov jeho výskumného projektu.
Našli sa vo všetkých systémoch
„Cieľom výskumu bolo skúmať, ako veľmi sú rozšírené formy neférového správania v AI systémoch, ktoré pracujú so slovenčinou. Hlavným výsledkom projektu je zistenie, že všetkých jedenásť skúmaných AI systémov obsahuje určité formy stereotypného správania. V každom systéme výskumníci odhalili aspoň jedno, ktoré možno považovať za neférové,“ objasnil inštitút.
Výskumníci ako príklad uviedli strojové prekladače, ktoré z angličtiny do slovenčiny používajú generické maskulínum. Všeobecne prekladače preferujú mužský rod a do ženského prepínajú podľa nich najmä vtedy, keď ide o stereotypné témy, ako starostlivosť o telo, vlasy, pleť, fyzickú krásu, starostlivosť o domácnosť či upratovanie.
Just released Grokhttps://t.co/e8xQp5xInk
— Elon Musk (@elonmusk) November 5, 2023
Z údajov vyplýva, že podobné správanie platí aj pri jazykových modeloch, ktoré sú základom mnohých AI aplikácií. Problémom podľa výskumníkov je, že rodovo necitlivý jazyk v jazykových modeloch je následne prenesený aj do ďalších aplikácií.
Umelá inteligencia prináša pomoc v mnohých oblastiach, avšak spolu s touto novou technológiou, na ktorej nie je spoločnosť dostatočne pripravený, prichádza aj množstvo výziev a rizík. Jednou z najväčších hrozieb je na nahradenie veľkého množstva pracovných miest, avšak systémy AI už ukázali aj niekoľko ďalších, pomerne netradičných hrozieb.
Majú sa v čom zlepšovať
„AI modely sa navzájom od seba učia a využívajú svoje výstupy, takže stereotypný jazyk a predsudky sa môžu ďalej šíriť,“ dodal inštitút. Výskum poukázal aj na to, že AI nástroje, ktoré prepisujú hovorenú reč do písomnej, majú konzistentne väčšiu chybovosť pri spracovaní ženských hlasov.
„Tieto rodovo necitlivé výsledky môžu ovplyvniť aj situácie mimo online sveta. Napríklad to môže viesť k situácii, keď AI systém, ktorý pomáha triediť životopisy v prijímacom procese do zamestnania môže hodnotiť mužské životopisy lepšie ako ženské alebo AI môže prispieť k neférovému vyhodnocovaniu dokumentov pri žiadosti o úvery,“ uzavrel KInIT.
Do výskumu sa zapojili okrem odborníkov na AI aj odborníci na etiku, rodovú rovnosť a prekladatelia. Výskum prebiehal od vlaňajšieho novembra do októbra tohto roka a bol spolufinancovaný Veľvyslanectvom USA na Slovensku. Umelú inteligenciu už u nás malo vyskúšať vyše trištvrte milióna Slovákov, čo predstavuje 18 % slovenskej populácie.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
trailer Čakáme naň 100 rokov. Desivý horor dostal nástupcu (+trailer)
Vedci nič podobné nevideli: 3500 metrov pod morom našli „ducha“
Čierna diera vytvorená zo svetla? Vedci skúmali úplne nový zdroj energie
Nebudeš chcieť prestať hrať. PlayStation a Xbox prinesú konzoly, z ktorých ti padne sánka
Dnes v noci poletí najvýkonnejšia raketa sveta. Do vesmíru vynesie špeciálny náklad
- 24 hod
- 48 hod
- 7 dní
-
- Veľký operátor bije na poplach: Ak dostaneš takúto SMS, ani ju neotváraj. Môžeš prísť o všetko
- Takéto nebeské divadlo už neuvidíš. Prichádza jav, ktorý sa opakuje raz za život
- Vedecké obavy potvrdené: Vo vnútri Zeme sa skutočne deje niečo zvláštne
- Duna 2 nemala šancu. Najúspešnejší film 2024 ju prekonal za 8 dní
- Aktuálne: Obľúbený predajca elektroniky oficiálne končí. Všetky predajne zatvorí už budúci týždeň
-
- Veľký operátor bije na poplach: Ak dostaneš takúto SMS, ani ju neotváraj. Môžeš prísť o všetko
- Takéto nebeské divadlo už neuvidíš. Prichádza jav, ktorý sa opakuje raz za život
- Vedecké obavy potvrdené: Vo vnútri Zeme sa skutočne deje niečo zvláštne
- Duna 2 nemala šancu. Najúspešnejší film 2024 ju prekonal za 8 dní
- Aktuálne: Obľúbený predajca elektroniky oficiálne končí. Všetky predajne zatvorí už budúci týždeň
-
- Veľký operátor bije na poplach: Ak dostaneš takúto SMS, ani ju neotváraj. Môžeš prísť o všetko
- Vedecké obavy potvrdené: Vo vnútri Zeme sa skutočne deje niečo zvláštne
- Takéto nebeské divadlo už neuvidíš. Prichádza jav, ktorý sa opakuje raz za život
- Ani fúzia sa jej nevyrovná. Vedci našli alternatívu, ktorá nám dá neobmedzenú energiu
- Tajná zbraň ľudstva proti klimatickej kríze nefunguje. Vedci odhalili hrozivé účinky
Najhoršie obavy sa naplnili: Antarktída smeruje do bodu, odkiaľ niet návratu
Maďarský minister Szijjártó si neželá ďalšie clá na čínske elektromobily
Elektromobily a dátové centrá zvyšujú v USA dopyt po elektrine
Úlomky z ISS takmer usmrtili človeka. Rodina žaluje NASA, výška odškodného nedáva zmysel
Čínska sonda so vzorkami z odvrátenej strany Mesiaca pristála na Zemi
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené