Takto funguje umelá inteligencia Facebooku, ktorá deteguje samovražedné sklony u ľudí

Ambiciózny projekt Facebooku, ktorý spoločnosť predstavila v roku 2017, má na základe detekcie facebookových príspevkov analyzovať duševný stav používateľa a vyhodnotiť, či má, alebo nemá samovražedné sklony.

Algoritmus prehodnocuje takmer každý jeden príspevok používateľa a hodnotí ho od nuly po jednotku, pričom jednotka znamená veľmi zlý duševný stav. Facebook sa takto snaží zabrániť samovraždám, kde v mnohých prípadoch používatelia písali na sociálnu sieť príspevky, ktoré jasne nasvedčovali tomu, že sa chystajú siahnuť si na svoj vlastný život.

Zbieranie takýchto dát o duševnom zdraví osôb je však veľmi citlivé a po nedávnych škandáloch je mnoho odborníkov skeptických. Jeden zo zástupcov spoločnosti však vyhlásil, že pri osobách, ktoré neprejavujú nezvyčajné správanie, sa ich dáta uchovávajú maximálne po dobu 30 dní, potom sa zmažú. Nepovedal však, ako dlho uchovávajú dáta o ľuďoch, pri ktorých hrozí isté nebezpečenstvo spáchania samovraždy.

Zobraziť celú galériu (0)

Pixabay

Odborníci sa ale obávajú, že takéto citlivé údaje môžu byť zneužité. Pred nedávnom dokázali hackeri získať prístup k niekoľkým miliónom účtov a v niektorých z nich získali prístup k príspevkom a fotografiám. Ak by sa útočníci dostali k tak citlivým informáciám, ktoré generuje o používateľoch algoritmus, vznikol by pre Facebook, ale aj pre samotných používateľov obrovský problém. Pritom nie je vylúčené, že sa k týmto dátam hackeri dostali, ak by si totižto Facebook priznal únik takýchto informácií, bolo by to zrejme likvidačné.

Potenciál zachraňovať je vždy vítaný

Ak odhliadneme od toho, že spoločnosť, ktorá už mala problémy s únikmi citlivých informácií, drží o používateľoch ich záznamy o duševnom zdraví, tak tento algoritmus prináša úrodu a skutočne zachraňuje ľudské životy. Po tom, čo umelá inteligencia označí osobu so sebevražednými sklonmi, preverí túto osobu živý človek, ktorý je vyškolený v danej oblasti. Tí následne skúmajú históriu používateľa, komunikujú s rôznymi špecializovanými centrami a snažia sa skutočne určiť, či osobe hrozí riziko, alebo nie. Ak je prípad odôvodnený, Facebook ho posunie samotnému špecializovanému centru alebo dokonca polícii. Mark Zuckerberg tvrdí, že v prvom roku po spustení programu sa im podarilo pomôcť až 3 500 používateľom, ktorých duševný stav nebol v poriadku.

Zobraziť celú galériu (0)

Pixabay

Odborníci však tvrdia, že práve zdieľanie týchto údajov o osobe s orgánmi, ako je polícia či špecializované centrá, nie je celkom v poriadku s ochranou osobných údajov. Známy je tiež prípad, ktorý riešila polícia na podnet spoločnosti Facebook a osoba, ktorá mala mať samovražedné sklony, bola úplne v poriadku na základe vyšetrení, ktoré jej spravili v nemocnici. To odborníci považujú tiež za dosť veľký problém.

Tento program však nefunguje na území Európskej únie vzhľadom na GDPR. V Americkej legislatíve o ochrane osobných údajov sú o čosi benevolentnejší. Všetci sa však zhodujú, že tento algoritmus má potenciál stať sa skutočne nápomocným.

Podľa svetovej zdravotníckej organizácie spácha ročne samovraždu až 800 000 ľudí, čo rozhodne nie je malé číslo. Facebook vyhlásil, že ak je možnosť znížiť tento počet duševne chorých ľudí, tak to stojí za istú dávku súkromia. Tiež si uvedomujú, že ide o extrémne citlivé informácie, a preto chcú tento program aj naďalej zlepšovať a rovnako pracovať aj na ochrane súkromia všetkých používateľov.

Čítajte viac z kategórie: Novinky