Experti varujú pred katastrofou: Umelá inteligencia prekročila červenú čiaru
Tím výskumníkov sa bližšie pozrel na schopnosti jazykových modelov GPT-3,5 a GPT-4, ktoré porovnávali so staručkým systémom ELIZA, píše portál LiveScience. V rámci čerstvej štúdie tím oslovil 500 dobrovoľníkov, ktorí komunikovali celkovo so štyrmi rôznymi respondentmi – tri z nich boli systémy AI, štvrtým skutočný človek. Výsledky prekvapili a zdá sa, že AI po prvý raz prešla Turingovým testom.
Na nerozoznanie od človeka
Až v 54 % prípadov si ľudia mysleli, že GPT-4 bol človekom, pričom v prípade staručkého systému ELIZA to bolo len v 22 % prípadov. Človeka uhádlo 67 % účastníkov štúdie a podľa odborníkov stoja za úspechom AI v tomto teste vlastnosti podobné tým, ktoré majú aj samotní ľudia. Jazykové modely GPT sú čoraz lepšie, napríklad v schopnosti klamať rôznymi spôsobmi, ale zároveň je možné ich zmanipulovať.
Ako podotýkajú experti zodpovední za túto štúdiu, takéto schopnosti umelej inteligencie môžu mať vážny vplyv na sociálne a ekonomické oblasti našej civilizácie, pričom aj laik si dokáže predstaviť nepríjemné možnosti zneužitia v online priestore. Prakticky akýkoľvek nástroj v nesprávnych rukách sa môže stať zbraňou, a to platí aj pre AI, ktorá je čoraz dostupnejšia a dôveryhodnejšia.

Kriminálne živly môžu v budúcnosti takéto systémy vo veľkom využiť v rámci rôznych podvodov, pričom už dnes niektoré podobné systémy prechádzajú zneužívaním, napríklad pri tvorbe škodlivého softvéru podvodníkmi, ktorí by inak vlastný softvér takéhoto typu nedokázali naprogramovať.
Energetické riziko
Akoby rôzne bezpečnostné riziká a neblahé vplyvy na spoločnosť nestačili, systémy AI sú zároveň obrovskými spotrebiteľmi elektrickej energie, pričom tento problém intenzívne narastá. Alex de Vries z Vrije Universiteit Amsterdam na základe dostupných údajov o spotrebne energie a AI odhaduje, že ak by Google používal AI na zhruba 9 miliárd vyhľadávaní denne, potreboval by každý rok 29,2 TWh energie, čo je viac než ročná spotreba elektriny celého Slovenska.
Je príliš jednoduchý
Tím vedcov v štúdii zároveň argumentuje tým, že Turingov test je na dnešné pomery príliš jednoduchý. Nejde podľa nich len o hľadanie samotnej inteligencie, ale tiež o ďalšie dôležité vlastnosti, ako je schopnosť prečítať situáciu, rozoznávať schopnosti iných či prejaviť empatiu, čo je aj naďalej problémom takýchto jazykových modelov, ktoré sú len obmedzenými systémami AI.
Ako podotýkajú vedci v štúdii spred pár mesiacov, AI predbieha ľudí v čoraz viacerých oblastiach. V roku 2015 nás prekonala v kategorizácii obrázkov, o dva roky neskôr v základnom čítaní s porozumením, v roku 2020 nás tromfla vo vizuálnom myslení, a to je len minimum tých najvýznamnejších príkladov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Vedci odhalili, ktoré zamestnania nahradí AI ako prvé. Je tvoje v bezpečí?

Krstný otec umelej inteligencie varuje svet pred pohromou. Ľudia doplatia na jednu vec

Chceme suverenitu, ale... Američania tlačia Európu, aby s nimi bojovala vo vojne proti Číne

AI môže zjesť energiu celého mesta. Slovensko nehovorí o probléme, ktorý sa nám vie kruto vypomstiť

AI zlyhala na plnej čiare. Milovanú apku zneužili hackeri, takto jednoducho sa dostali do cudzích účtov
NAJČÍTANEJŠIE ZO STARTITUP

Nenápadný problém štítnej žľazy: Ráno rozhoduje o tom, ako bude fungovať tvoj metabolizmus

Mozog starne pomalšie, keď mu dáš správne podmienky: Vedci opisujú prekvapivo jednoduché pravidlá dlhovekosti

Únava, výpadky pamäti, chaos: Obyčajný vitamín môže rozhodovať o tom, či tvoj mozog funguje naplno alebo kolabuje

Dovolenkový raj zaplavili bleskové zmije: Agresívny had ničí symbol ostrovov, úrady museli nasadiť profesionálnych lovcov

Dom kúpiš už od necelých 3 000 eur: Štát rozpredáva domy aj pozemky za zlomok ceny
- 24 hod
- 48 hod
- 7 dní
-
- Číňania opäť oklamali systém. Vymysleli nový spôsob, ako zaplaviť svet svojimi autami
- Koniec drahého lítia sa blíži. Čínsky gigant uvedie na trh prelomové batérie
- Bitcoin sa prepadol pod kritickú hranicu. Kombinácia troch faktorov spustila pohromu
- Domáce kamery a smart zvončeky majú problém. Slováci ho začnú riešiť až pri prvom incidente
- Je menší, ľahší a extrémne výkonný. Čínsky motor dosiahol rekord, ktorý zmení elektromobily
-
- Domáce kamery a smart zvončeky majú problém. Slováci ho začnú riešiť až pri prvom incidente
- Spoliehali sa na Rusov, teraz im hrozí nedostatok plynu. Európsky štát čelí „najprísnejším sankciám v histórii“
- Čínsky stroj rozdrvil najlepšiu európsku stíhačku v pomere 9:0. Je pritom horší
- Číňania opäť oklamali systém. Vymysleli nový spôsob, ako zaplaviť svet svojimi autami
- Koniec drahého lítia sa blíži. Čínsky gigant uvedie na trh prelomové batérie
-
- Do Európy začne prúdiť nový plyn z prekvapivej krajiny. Konečne vieme, kedy sa tak stane
- Čínsky stroj rozdrvil najlepšiu európsku stíhačku v pomere 9:0. Je pritom horší
- Najlepšie sci-fi 2026 konečne pribudlo online aj s dabingom. Jedna vec ľudí nepoteší
- Spoliehali sa na Rusov, teraz im hrozí nedostatok plynu. Európsky štát čelí „najprísnejším sankciám v histórii“
- Dorazila spása letectva. Rolls-Royce úspešne otestoval nový motor bez emisií, poháňa ho čistý vodík
Čínske autá valcujú susedný trh. Ich predaj raketovo rastie, predbiehajú známe európske značky
Holanďania testujú netradičnú veternú turbínu. Pláva na vode a môže zmeniť budúcnosť energetiky
Slovensko rieši problém vykurovania. Odborníci sa hádajú, či majú ľudia odchádzať od teplární
Štát stopol kontroverzný IT projekt za 90 miliónov eur. Minister ho chce preveriť
USA spustí revolúciu v LNG. Pri pobreží postaví prvé plávajúce exportné zariadenie za miliardy
MOL spustil ťažbu plynu v zaujímavom štáte. Nový projekt posilní dodávky pre strednú Európu
EÚ chce zrušiť roaming aj na západnom Balkáne. Volania a dáta bez príplatkov sa priblížili ďalším štátom
NAJČÍTANEJŠIE ZO STARTITUP

Nenápadný problém štítnej žľazy: Ráno rozhoduje o tom, ako bude fungovať tvoj metabolizmus

Mozog starne pomalšie, keď mu dáš správne podmienky: Vedci opisujú prekvapivo jednoduché pravidlá dlhovekosti

Únava, výpadky pamäti, chaos: Obyčajný vitamín môže rozhodovať o tom, či tvoj mozog funguje naplno alebo kolabuje

Dovolenkový raj zaplavili bleskové zmije: Agresívny had ničí symbol ostrovov, úrady museli nasadiť profesionálnych lovcov

