Šéf amerického burzového dohľadu varuje pred rizikami používania softvéru založeného na umelej inteligencii (AI) vo finančnom sektore. Regulačné orgány musia podľa neho rýchlo nájsť spôsob, ako zvládnuť riziká ohrozujúce finančnú stabilitu, ktoré sú spojené s koncentráciou moci platforiem využívajúcich AI.

Šéf Komisie pre cenné papiere a burzy (SEC) Gary Gensler sa obáva, že neregulované používanie softvéru založeného na umelej inteligencii vo finančnom sektore by mohlo viesť až k finančnej kríze. Tá by mohla vzniknúť napríklad vtedy, ak by sa mnoho účastníkov trhu spoliehalo na ten istý model umelej inteligencie, uviedol Gensler pre denník Financial Times (FT).

Podľa Genslera sa tiež môže stať, že takýto softvérový model nebude súčasťou aktéra finančného trhu, na ktorý sa vzťahuje regulácia, ale nejakej veľkej technologickej spoločnosti, na ktorú sa takáto regulácia nevzťahuje.

Z dôvodu „ekonomiky sietí“ umelej inteligencie je krízový scenár „takmer nevyhnutný“, citoval šéfa SEC denník Financial Times. Kríza by mohla nastať napríklad v realitnom sektore alebo v niektorom sektore finančného trhu. Gensler preto podporuje spoluprácu medzi regulačnými orgánmi v rôznych oblastiach s cieľom zabrániť jej vzniku. Softvér založený na umelej inteligencii sa čoraz viac využíva aj vo finančných službách, okrem iného pri automatizovanom poradenstve a obchodovaní s akciami.

Bez rýchleho zásahu zo strany regulačných úradov je podľa Genslera „takmer nevyhnutné“, že umelá inteligencia do desiatich rokov vyvolá finančnú krízu. Dodal, že tvorba regulácie týkajúcej sa umelej inteligencie bude pre americké regulačné orgány ťažkou skúškou, keďže potenciálne riziká sa týkajú všetkých finančných trhov a vychádzajú z modelov vytvorených technologickými spoločnosťami, ktoré nepatria do pôsobnosti dozorných orgánov na Wall Street.

„Úprimne povedané je to ťažká výzva,“ uviedol Gensler. „Je ťažké riešiť otázku finančnej stability, pretože väčšina našej regulácie sa týka jednotlivých inštitúcií, jednotlivých bánk, jednotlivých fondov peňažného trhu, jednotlivých brokerov; vychádza to totiž z povahy toho, čo robíme. A tu ide o horizontálnu záležitosť, pri ktorej sa mnohé inštitúcie môžu spoliehať na rovnaký základný model alebo základný agregátor údajov,“ dodal.

SEC v júli navrhla smernicu, ktorá sa zaoberá potenciálnym konfliktom záujmov v oblasti prediktívnej analýzy údajov. Zamerala sa však na jednotlivé modely nasadené maklérskymi spoločnosťami a investičnými poradcami.

Aj keby SEC platné opatrenia aktualizovala, „stále to nebude riešiť tento horizontálny problém. Ak sa všetci spoliehajú na základný model a základný model nepatrí brokerovi, ale jednej z veľkých technologických spoločností“, uviedol Gensler.