Experti varujú pred katastrofou: Umelá inteligencia prekročila červenú čiaru
Tím výskumníkov sa bližšie pozrel na schopnosti jazykových modelov GPT-3,5 a GPT-4, ktoré porovnávali so staručkým systémom ELIZA, píše portál LiveScience. V rámci čerstvej štúdie tím oslovil 500 dobrovoľníkov, ktorí komunikovali celkovo so štyrmi rôznymi respondentmi – tri z nich boli systémy AI, štvrtým skutočný človek. Výsledky prekvapili a zdá sa, že AI po prvý raz prešla Turingovým testom.
Na nerozoznanie od človeka
Až v 54 % prípadov si ľudia mysleli, že GPT-4 bol človekom, pričom v prípade staručkého systému ELIZA to bolo len v 22 % prípadov. Človeka uhádlo 67 % účastníkov štúdie a podľa odborníkov stoja za úspechom AI v tomto teste vlastnosti podobné tým, ktoré majú aj samotní ľudia. Jazykové modely GPT sú čoraz lepšie, napríklad v schopnosti klamať rôznymi spôsobmi, ale zároveň je možné ich zmanipulovať.
Ako podotýkajú experti zodpovední za túto štúdiu, takéto schopnosti umelej inteligencie môžu mať vážny vplyv na sociálne a ekonomické oblasti našej civilizácie, pričom aj laik si dokáže predstaviť nepríjemné možnosti zneužitia v online priestore. Prakticky akýkoľvek nástroj v nesprávnych rukách sa môže stať zbraňou, a to platí aj pre AI, ktorá je čoraz dostupnejšia a dôveryhodnejšia.

Kriminálne živly môžu v budúcnosti takéto systémy vo veľkom využiť v rámci rôznych podvodov, pričom už dnes niektoré podobné systémy prechádzajú zneužívaním, napríklad pri tvorbe škodlivého softvéru podvodníkmi, ktorí by inak vlastný softvér takéhoto typu nedokázali naprogramovať.
Energetické riziko
Akoby rôzne bezpečnostné riziká a neblahé vplyvy na spoločnosť nestačili, systémy AI sú zároveň obrovskými spotrebiteľmi elektrickej energie, pričom tento problém intenzívne narastá. Alex de Vries z Vrije Universiteit Amsterdam na základe dostupných údajov o spotrebne energie a AI odhaduje, že ak by Google používal AI na zhruba 9 miliárd vyhľadávaní denne, potreboval by každý rok 29,2 TWh energie, čo je viac než ročná spotreba elektriny celého Slovenska.
Je príliš jednoduchý
Tím vedcov v štúdii zároveň argumentuje tým, že Turingov test je na dnešné pomery príliš jednoduchý. Nejde podľa nich len o hľadanie samotnej inteligencie, ale tiež o ďalšie dôležité vlastnosti, ako je schopnosť prečítať situáciu, rozoznávať schopnosti iných či prejaviť empatiu, čo je aj naďalej problémom takýchto jazykových modelov, ktoré sú len obmedzenými systémami AI.
Ako podotýkajú vedci v štúdii spred pár mesiacov, AI predbieha ľudí v čoraz viacerých oblastiach. V roku 2015 nás prekonala v kategorizácii obrázkov, o dva roky neskôr v základnom čítaní s porozumením, v roku 2020 nás tromfla vo vizuálnom myslení, a to je len minimum tých najvýznamnejších príkladov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Nemci chcú zachrániť staré batérie z elektromobilov. Pomôcť má inteligentný robotický systém

AI s vlastným vedomím je reálnym rizikom, evolučný biológ Richard Dawkins prišiel s nepríjemnou myšlienkou

Štúdia z Harvardu: Umelá inteligencia porazila špičkových lekárov v určovaní diagnóz

Google podpísal tajnú dohodu s Pentagonom. Chystajú zmeny, ktoré boli doteraz nepredstaviteľné

AI dostane ďalšiu špinavú energiu. Hyundai dodá USA gigantické motory
NAJČÍTANEJŠIE ZO STARTITUP

Nenápadné príznaky rakoviny žalúdka netreba ignorovať. Lekári upozorňujú na signály, ktoré si ľudia často mýlia s trávením
PREMIUMCeny nehnuteľností neklesnú: Slováci na to nemajú, no aj tak chcú byty a domy vlastniť (REALITNÝ EXPERT)

Fico sa pustil do sudkyne Záleskej. Šéf súdu pre ňu žiada najtvrdší disciplinárny trest

Lekári z košickej nemocnice žiadajú zásah ministra. Hovoria o pochybných zákazkách aj rizikách pre pacientov

Lacnejšie než lístok na vlak: Ryanair „odpálil“ ceny leteniek k moru, na nákup máš len 48 hodín
- 24 hod
- 48 hod
- 7 dní
-
- Program na večer je jasný. Na Netflix práve dorazil nový veľkofilm Ridleyho Scotta
- Stačí mu minimum paliva. Raketové motory môže nahradiť revolučný pohon, cestu na Mars skráti o 80 %
- 40 rokov dozadu zmenil akčné filmy. Legenda sa vrátila v podobe, akú sme tu ešte nemali
- Objednalo si ho už 20-tisíc ľudí. Škoda začala s výrobou dostupného SUV, ponúkne solídny dojazd
- Naša galaxia sa zrazí so susednou, „letiacu“ Andromedu už vidíš voľným okom
-
- Program na večer je jasný. Na Netflix práve dorazil nový veľkofilm Ridleyho Scotta
- Čechom došla trpezlivosť s drahou ropou. Začali kupovať autá, ktoré ju nepotrebujú
- Ak zahynie ich vodca, automaticky zaútočia jadrovými zbraňami. Ázijský štát sa zľakol USA
- Máš tieto pneumatiky? Radšej ich skontroluj, majú vážnu chybu a sťahujú ich z trhu
- Naša galaxia sa zrazí so susednou, „letiacu“ Andromedu už vidíš voľným okom
-
- Ak zahynie ich vodca, automaticky zaútočia jadrovými zbraňami. Ázijský štát sa zľakol USA
- Naša galaxia sa zrazí so susednou, „letiacu“ Andromedu už vidíš voľným okom
- Nová veľmoc chce dobyť vesmír. Za zlomok ceny dokážu to, čo USA a Čína za miliardy
- Program na večer je jasný. Na Netflix práve dorazil nový veľkofilm Ridleyho Scotta
- Čechom došla trpezlivosť s drahou ropou. Začali kupovať autá, ktoré ju nepotrebujú
Rusi opäť provokujú NATO. Úrady v európskom meste zatvorili školy
Dôležitý krok: Kia štartuje výrobu modernizovaného modelu na Slovensku
Európsky štát stavia obrovské batériové úložisko. Pomôže pri návale zelenej energie
Nový zdroj plynu pre Európu je spustený. Poľsko už odoberá surovinu zo severu
Zlá správa pre Slovensko. Minuli sme svoje prírodné zdroje na celý rok
Európa rieši riziko nedostatku paliva. Ohrozené môžu byť spoje na dovolenky
EÚ poriadne pritvrdila. Zakáže najnemorálnejšie aplikácie na trhu
NAJČÍTANEJŠIE ZO STARTITUP

Nenápadné príznaky rakoviny žalúdka netreba ignorovať. Lekári upozorňujú na signály, ktoré si ľudia často mýlia s trávením
PREMIUMCeny nehnuteľností neklesnú: Slováci na to nemajú, no aj tak chcú byty a domy vlastniť (REALITNÝ EXPERT)

Fico sa pustil do sudkyne Záleskej. Šéf súdu pre ňu žiada najtvrdší disciplinárny trest

Lekári z košickej nemocnice žiadajú zásah ministra. Hovoria o pochybných zákazkách aj rizikách pre pacientov

