V tomto texte boli použité materiály TASR.

Umelá inteligencia je všade okolo nás a jej vplyv na náš život rastie. Podľa Angela Cangelosiho, riaditeľa Centra pre robotiku a umelú inteligenciu na Manchesterskej univerzite, má táto technológia potenciál zásadne zmeniť spoločnosť. „Táto technológia mení spôsob, akým možno vyvíjať iné technológie, takže verím, že má celkovo veľký vplyv. Otázkou ostáva, v akej oblasti bude mať najväčšie dôsledky,“ uviedol Cangelosi pre TASR. Najväčší prínos už teraz vidíme v zdravotníctve, no transformácia sa tým nekončí.

Európska únia kladie pri vývoji AI dôraz nielen na technológie, ale aj na hodnoty, čo Cangelosi považuje za zásadné. „Chceme, aby sa technológia umelej inteligencie vyvíjala v súlade s našimi hodnotami,“ povedal. Dôvera v AI je podľa neho nevyhnutná, aby sme jej výhody naplno využili.

„Ak nebudeme cítiť dôveru v technológiu, existuje veľké riziko, že ju nebudeme používať a nebudeme schopní využívať jej výhody. Preto je dôležité budovať a udržiavať dôveru a uistiť sa, že technológia je postavená na našich európskych hodnotách, aby sme sa pri jej používaní cítili spokojne,“ zdôraznil. EÚ preto presadzuje, aby bola AI bezpečná, transparentná a etická.

Bing

Ako však dosiahnuť, aby sme AI verili? Cangelosi odporúča pristupovať k odpovediam jazykových modelov rovnako kriticky ako k informáciám od ľudí.

„Podobne ako pri ľuďoch kontrolujeme a overujeme, či existuje viacero rôznych nezávislých zdrojov. Spýtame sa doplňujúcu otázku a podobne. Myslím si, že by sme nemali slepo dôverovať výsledkom, ale mali by sme si na ne vytvoriť vlastný názor,“ poznamenal. To znamená, že keď ti AI niečo odpovie, je dobré overiť si fakty a nebrať jej odpovede ako absolútnu pravdu.

Dôveryhodnosť AI závisí aj od kvality dát, na ktorých je postavená. „Existuje niekoľko rôznych vecí, ktoré spoločne zvyšujú faktickosť, a tým aj dôveryhodnosť. Jednak sme veľmi opatrní pri výbere zdrojov dát, aby sme si boli istí, že pochádzajú z dôveryhodných zdrojov. Tiež, keď položíte otázku jazykovému modelu, zvyčajne je rozšírená o ďalší kontext.

Preto sa uisťujeme, že k nej pridáme faktické informácie ešte pred jej odoslaním do jazykového modelu. Faktickú presnosť jazykových modelov zvyšujeme aj prispôsobením ich trénovania, pri ktorom vznikajú. Kladieme im otázky a ak odpovedia nesprávne, model upravíme, aby nabudúce poskytol správnu odpoveď,“ vysvetlil Cangelosi. Tento proces pomáha znižovať riziko šírenia nepresností a zvyšuje spoľahlivosť technológie.