Google odstránil časť automatických predikcií viet v Gmaili kvôli umelej inteligencii

Google robí v posledných rokoch značné pokroky v prípade umelej inteligencie. Na jej princípoch je postavená aj služba Smart Compose, ktorá je schopná na základe predikcie dokončiť vety písané v Gmaili. Google ale najnovšie odstránil z tejto služby rodové zámená, aby neurazil ľudí nesprávnou predikciou.

V poslednom období stále viac narážame na slovíčko „gender“, alebo takzvanú rodovú rovnosť. Zatiaľ čo niekto tieto veci vôbec nerieši, iní zas môžu byť na otázku rodovej rovnosti veľmi citliví. Aj tieto dôvody viedli Google k tomu, aby odstránil zo služby Smart Compose rodové zámená. Gmail tak po novom pri dokončovaní viet za pomoci umelej inteligencie a predikcie tieto zámená nepoužije.

Umelá inteligencia nie je dokonalá

Smart Compose je služba postavená na základoch umelej inteligencie, neurónových sietí a predikcie. Celý systém je postavený na báze strojového učenia a je teda taký presný, ako mu to umožňujú dáta, za pomoci ktorých sa učí. Žiaden takýto systém nie je dokonalý a to platí aj v prípade služby Smart Compose. Pracovníci v Googli si totižto všimli, že isté vety dokončuje služba s použitím nesprávneho rodu. Rozhodli sa preto rodové zámená zo služby Smart Compose odstrániť, aby náhodou niekoho neurazili.

Automatické použitie nesprávneho rodu môže niekoho nepekne uraziť

Agentúra Reuters informovala, že chybu si pracovníci všimli ešte v januári tohto roka, keď jeden z nich písal správu „Nasledujúci týždeň mám stretnutie s investorom“. Gmail nato zareagoval otázkou „Chcete sa s ním stretnúť?“. Služba Smart Compose teda použila automaticky mužský rod, čo by mohlo niekoho vážne uraziť. Niekomu sa tento problém môže zdať ako smiešny, no Google od toho dal radšej ruky preč.

Odstránením rodových zámen sa stratilo len 1% odpovedí

Produktový manažér Gmailu, Paul Lambert, uviedol, že jeho tím sa pokúsil tento problém vyriešiť mnohými spôsobmi, ale žiadny z nich nebol dostatočne spoľahlivý. Najjednoduchším spôsobom bolo teda úplné odstránenie rodových zámen a všetky typy takýchto odpovedí. Z hľadiska predikcie šlo podľa Lamberta len o jedno percento odpovedí a Google chce byť v týchto prípadoch veľmi opatrný.

Na vine sú trénovacie dáta

Chyba predikcie nesprávneho rodu v príklade vety, ktorú uvádzame vyššie boli samotné dáta. Z týchto dát sa totižto umelá inteligencia naučilo to, že väčšina investorov je mužského rodu. V dobe „genderu“ a feminizmu tak aj takáto nepatrná chyba môže spôsobiť veľké rozhorčenie. Hoci v tomto prípade nejde o veľký problém, nesprávna predikcia môže byť predzvesťou ešte väčšieho.

Nesprávne určenie rodu v mailoch je predzvesťou väčšieho problému

Umelá inteligencia a strojové učenie v dnešnej dobe preniká stále viac a viac do všetkých aspektov nášho života. Zatiaľ čo predikcia v mailoch nespôsobí žiadny obrovský problém, v oblastiach ako je zdravotníctvo či zdravotná starostlivosť, môže zlá predikcia rodu napáchať väčšie škody. Google si tento problém plne uvedomuje a vie, že v najbližšej budúcnosti musí v tejto oblasti viac zapracovať.

Čítajte viac z kategórie: Aplikácie