Experti varujú pred katastrofou: Umelá inteligencia prekročila červenú čiaru
Tím výskumníkov sa bližšie pozrel na schopnosti jazykových modelov GPT-3,5 a GPT-4, ktoré porovnávali so staručkým systémom ELIZA, píše portál LiveScience. V rámci čerstvej štúdie tím oslovil 500 dobrovoľníkov, ktorí komunikovali celkovo so štyrmi rôznymi respondentmi – tri z nich boli systémy AI, štvrtým skutočný človek. Výsledky prekvapili a zdá sa, že AI po prvý raz prešla Turingovým testom.
Na nerozoznanie od človeka
Až v 54 % prípadov si ľudia mysleli, že GPT-4 bol človekom, pričom v prípade staručkého systému ELIZA to bolo len v 22 % prípadov. Človeka uhádlo 67 % účastníkov štúdie a podľa odborníkov stoja za úspechom AI v tomto teste vlastnosti podobné tým, ktoré majú aj samotní ľudia. Jazykové modely GPT sú čoraz lepšie, napríklad v schopnosti klamať rôznymi spôsobmi, ale zároveň je možné ich zmanipulovať.
Ako podotýkajú experti zodpovední za túto štúdiu, takéto schopnosti umelej inteligencie môžu mať vážny vplyv na sociálne a ekonomické oblasti našej civilizácie, pričom aj laik si dokáže predstaviť nepríjemné možnosti zneužitia v online priestore. Prakticky akýkoľvek nástroj v nesprávnych rukách sa môže stať zbraňou, a to platí aj pre AI, ktorá je čoraz dostupnejšia a dôveryhodnejšia.
Kriminálne živly môžu v budúcnosti takéto systémy vo veľkom využiť v rámci rôznych podvodov, pričom už dnes niektoré podobné systémy prechádzajú zneužívaním, napríklad pri tvorbe škodlivého softvéru podvodníkmi, ktorí by inak vlastný softvér takéhoto typu nedokázali naprogramovať.
Energetické riziko
Akoby rôzne bezpečnostné riziká a neblahé vplyvy na spoločnosť nestačili, systémy AI sú zároveň obrovskými spotrebiteľmi elektrickej energie, pričom tento problém intenzívne narastá. Alex de Vries z Vrije Universiteit Amsterdam na základe dostupných údajov o spotrebne energie a AI odhaduje, že ak by Google používal AI na zhruba 9 miliárd vyhľadávaní denne, potreboval by každý rok 29,2 TWh energie, čo je viac než ročná spotreba elektriny celého Slovenska.
Je príliš jednoduchý
Tím vedcov v štúdii zároveň argumentuje tým, že Turingov test je na dnešné pomery príliš jednoduchý. Nejde podľa nich len o hľadanie samotnej inteligencie, ale tiež o ďalšie dôležité vlastnosti, ako je schopnosť prečítať situáciu, rozoznávať schopnosti iných či prejaviť empatiu, čo je aj naďalej problémom takýchto jazykových modelov, ktoré sú len obmedzenými systémami AI.
Ako podotýkajú vedci v štúdii spred pár mesiacov, AI predbieha ľudí v čoraz viacerých oblastiach. V roku 2015 nás prekonala v kategorizácii obrázkov, o dva roky neskôr v základnom čítaní s porozumením, v roku 2020 nás tromfla vo vizuálnom myslení, a to je len minimum tých najvýznamnejších príkladov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Veľký test AI nástrojov: Našiel som trik, ktorý ti v roku 2025 ušetrí až 4 hodiny denne
Výsledky experimentu vyrazili výskumníkom dych. AI modely si vedia prenášať tajné správy, aj tie extremistické
Štát zlyháva, ty nemusíš. Slováci vstupujú do éry AI agentov, takto si okamžite zlepšíš život (PREHĽAD)
Vedci vytvorili roj živých švábov, ktoré fungujú ako drony. Technológia môže zmeniť vojnu aj špionáž
OpenAI už o pár dní odhalí niečo, čo môže zmeniť svet. GPT-5 vraj dosiahne porozumenie blízke ľudskému mysleniu
NAJČÍTANEJŠIE ZO STARTITUP
Teploty budú atakovať 50 °C: V obľúbenej letnej destinácii Slovákov bude v auguste extrémne horúco
Známy dovolenkový raj v ekonomickej kríze: Tržby padli o 40 %, podniky sú na pokraji krachu
Populárny fenomén slovenských tínedžerov zvyšuje riziko rakoviny. Vedci varujú pred tichou závislosťou
Riaditeľka STVR reaguje na zásah polície: „Nerozumiem, prečo voči nám Markíza vedie mediálnu vojnu“
Vedci odhalili skutočný kľúč k zdravému spánku. Pravidelnosť znižuje riziko až 92 chorôb
- 24 hod
- 48 hod
- 7 dní
-
- Nenápadný jed sa šíri po celej planéte. Zvláštna chemikália je v 94 percentách vody a bude to čoraz horšie
- Má všetko potrebné, aby na nej existoval život. Vedci objavili Superzem s ideálnymi podmienkami
- Vybabral s Rusmi a tí sa nestihli čudovať. Vojak unikol z obkľúčenia ako z vojenského sci-fi filmu
- Západ nechápe. Nová zbraň Číny vyzerá ako zo sci-fi a dokáže rozpútať celosvetový chaos
- Film, ktorý spravil zo Slovenska čiernu dieru, sa vracia v nečakanej podobe. Zahrá si v ňom svetová hviezda
-
- Uniklo 90 miliárd litrov vody a nikto si to nevšimol. Vedci hovoria o nevídanej sile Zeme
- Má všetko potrebné, aby na nej existoval život. Vedci objavili Superzem s ideálnymi podmienkami
- Nenápadný jed sa šíri po celej planéte. Zvláštna chemikália je v 94 percentách vody a bude to čoraz horšie
- Film, ktorý spravil zo Slovenska čiernu dieru, sa vracia v nečakanej podobe. Zahrá si v ňom svetová hviezda
- Západ nechápe. Nová zbraň Číny vyzerá ako zo sci-fi a dokáže rozpútať celosvetový chaos
-
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Uniklo 90 miliárd litrov vody a nikto si to nevšimol. Vedci hovoria o nevídanej sile Zeme
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
Taraba ohlásil energetickú megainvestíciu. Slovenské mestá získajú milióny eur
Slováci kupujú jazdené autá, ako nikdy predtým. Priemerný vek a nájazd prudko rastie, dominuje jedna značka
Zubár odhalil šokujúce riziká populárneho spánkového triku. Riskuješ veľké nepríjemnosti
Slováci si neuvedomujú, že to môže vybuchnúť. Odborník varuje pred „elektronickým“ zlozvykom domácností
Domácnosti si priplatia až o 3 000 eur. Nová kalkulačka odhalila tvrdú realitu emisného výmyslu EÚ
NAJČÍTANEJŠIE ZO STARTITUP