Experti varujú pred katastrofou: Umelá inteligencia prekročila červenú čiaru
Tím výskumníkov sa bližšie pozrel na schopnosti jazykových modelov GPT-3,5 a GPT-4, ktoré porovnávali so staručkým systémom ELIZA, píše portál LiveScience. V rámci čerstvej štúdie tím oslovil 500 dobrovoľníkov, ktorí komunikovali celkovo so štyrmi rôznymi respondentmi – tri z nich boli systémy AI, štvrtým skutočný človek. Výsledky prekvapili a zdá sa, že AI po prvý raz prešla Turingovým testom.
Na nerozoznanie od človeka
Až v 54 % prípadov si ľudia mysleli, že GPT-4 bol človekom, pričom v prípade staručkého systému ELIZA to bolo len v 22 % prípadov. Človeka uhádlo 67 % účastníkov štúdie a podľa odborníkov stoja za úspechom AI v tomto teste vlastnosti podobné tým, ktoré majú aj samotní ľudia. Jazykové modely GPT sú čoraz lepšie, napríklad v schopnosti klamať rôznymi spôsobmi, ale zároveň je možné ich zmanipulovať.
Ako podotýkajú experti zodpovední za túto štúdiu, takéto schopnosti umelej inteligencie môžu mať vážny vplyv na sociálne a ekonomické oblasti našej civilizácie, pričom aj laik si dokáže predstaviť nepríjemné možnosti zneužitia v online priestore. Prakticky akýkoľvek nástroj v nesprávnych rukách sa môže stať zbraňou, a to platí aj pre AI, ktorá je čoraz dostupnejšia a dôveryhodnejšia.

Kriminálne živly môžu v budúcnosti takéto systémy vo veľkom využiť v rámci rôznych podvodov, pričom už dnes niektoré podobné systémy prechádzajú zneužívaním, napríklad pri tvorbe škodlivého softvéru podvodníkmi, ktorí by inak vlastný softvér takéhoto typu nedokázali naprogramovať.
Energetické riziko
Akoby rôzne bezpečnostné riziká a neblahé vplyvy na spoločnosť nestačili, systémy AI sú zároveň obrovskými spotrebiteľmi elektrickej energie, pričom tento problém intenzívne narastá. Alex de Vries z Vrije Universiteit Amsterdam na základe dostupných údajov o spotrebne energie a AI odhaduje, že ak by Google používal AI na zhruba 9 miliárd vyhľadávaní denne, potreboval by každý rok 29,2 TWh energie, čo je viac než ročná spotreba elektriny celého Slovenska.
Je príliš jednoduchý
Tím vedcov v štúdii zároveň argumentuje tým, že Turingov test je na dnešné pomery príliš jednoduchý. Nejde podľa nich len o hľadanie samotnej inteligencie, ale tiež o ďalšie dôležité vlastnosti, ako je schopnosť prečítať situáciu, rozoznávať schopnosti iných či prejaviť empatiu, čo je aj naďalej problémom takýchto jazykových modelov, ktoré sú len obmedzenými systémami AI.
Ako podotýkajú vedci v štúdii spred pár mesiacov, AI predbieha ľudí v čoraz viacerých oblastiach. V roku 2015 nás prekonala v kategorizácii obrázkov, o dva roky neskôr v základnom čítaní s porozumením, v roku 2020 nás tromfla vo vizuálnom myslení, a to je len minimum tých najvýznamnejších príkladov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú

Vedci odhalili, ktoré zamestnania nahradí AI ako prvé. Je tvoje v bezpečí?

Krstný otec umelej inteligencie varuje svet pred pohromou. Ľudia doplatia na jednu vec

Chceme suverenitu, ale... Američania tlačia Európu, aby s nimi bojovala vo vojne proti Číne

AI môže zjesť energiu celého mesta. Slovensko nehovorí o probléme, ktorý sa nám vie kruto vypomstiť

AI zlyhala na plnej čiare. Milovanú apku zneužili hackeri, takto jednoducho sa dostali do cudzích účtov
NAJČÍTANEJŠIE ZO STARTITUP

Tichá invázia: Predátor, ktorého kedysi poznal len Balkán, by čoskoro mohol obsadiť až 75 % Európy

Člen EÚ dodáva Moskve kľúčovú surovinu, ktorá má končiť v ruských zbraniach. Do krajiny smerujú rekordné objemy

Najlepšie platené pozície spája jedna zručnosť. Vďaka nej môžeš dosiahnuť plat cez 5 000 eur (REBRÍČEK)

Zahraniční turisti vybrali TOP miesta na Slovensku. Dominuje lokalita, ktorú denne míňame bez povšimnutia (REBRÍČEK)

Neurológ prezradil skryté príznaky nádoru mozgu, ktoré ľudia často ignorujú. Veľakrát ich zamieňajú za stres
- 24 hod
- 48 hod
- 7 dní
-
- Slovenské domácnosti čaká veľká výmena zariadení. Milióny spotrebičov končia
- F-35 vs Su-57: Ruská stíhačka vyzerá desivo, no modernú vojnu môže vyhrať úplne iná zbraň
- Škoda spúšťa výrobu prelomového SUV. Nasleduje osud „slovenského“ Superbu
- Krstný otec umelej inteligencie varuje svet pred pohromou. Ľudia doplatia na jednu vec
- Vyskúšalo ho už milión Slovákov. Slovenský konkurent Netflixu rastie, vstupuje do kritickej fázy
-
- Slovenské domácnosti čaká veľká výmena zariadení. Milióny spotrebičov končia
- Vyskúšalo ho už milión Slovákov. Slovenský konkurent Netflixu rastie, vstupuje do kritickej fázy
- F-35 vs Su-57: Ruská stíhačka vyzerá desivo, no modernú vojnu môže vyhrať úplne iná zbraň
- Číňania opäť oklamali systém. Vymysleli nový spôsob, ako zaplaviť svet svojimi autami
- Krstný otec umelej inteligencie varuje svet pred pohromou. Ľudia doplatia na jednu vec
-
- Čínsky stroj rozdrvil najlepšiu európsku stíhačku v pomere 9:0. Je pritom horší
- Slovenské domácnosti čaká veľká výmena zariadení. Milióny spotrebičov končia
- Vyskúšalo ho už milión Slovákov. Slovenský konkurent Netflixu rastie, vstupuje do kritickej fázy
- Spoliehali sa na Rusov, teraz im hrozí nedostatok plynu. Európsky štát čelí „najprísnejším sankciám v histórii“
- Dorazila spása letectva. Rolls-Royce úspešne otestoval nový motor bez emisií, poháňa ho čistý vodík
Rusko sa nevie brániť, ukrajinským dronom padol za obeť ďalší sklad paliva
Jadrový status Severnej Kórey je nezvratný, tvrdí vedenie krajiny
Čínske autá valcujú susedný trh. Ich predaj raketovo rastie, predbiehajú známe európske značky
Holanďania testujú netradičnú veternú turbínu. Pláva na vode a môže zmeniť budúcnosť energetiky
Slovensko rieši problém vykurovania. Odborníci sa hádajú, či majú ľudia odchádzať od teplární
Štát stopol kontroverzný IT projekt za 90 miliónov eur. Minister ho chce preveriť
USA spustí revolúciu v LNG. Pri pobreží postaví prvé plávajúce exportné zariadenie za miliardy
NAJČÍTANEJŠIE ZO STARTITUP

Tichá invázia: Predátor, ktorého kedysi poznal len Balkán, by čoskoro mohol obsadiť až 75 % Európy

Člen EÚ dodáva Moskve kľúčovú surovinu, ktorá má končiť v ruských zbraniach. Do krajiny smerujú rekordné objemy

Najlepšie platené pozície spája jedna zručnosť. Vďaka nej môžeš dosiahnuť plat cez 5 000 eur (REBRÍČEK)

Zahraniční turisti vybrali TOP miesta na Slovensku. Dominuje lokalita, ktorú denne míňame bez povšimnutia (REBRÍČEK)

