Experti varujú pred katastrofou: Umelá inteligencia prekročila červenú čiaru
Tím výskumníkov sa bližšie pozrel na schopnosti jazykových modelov GPT-3,5 a GPT-4, ktoré porovnávali so staručkým systémom ELIZA, píše portál LiveScience. V rámci čerstvej štúdie tím oslovil 500 dobrovoľníkov, ktorí komunikovali celkovo so štyrmi rôznymi respondentmi – tri z nich boli systémy AI, štvrtým skutočný človek. Výsledky prekvapili a zdá sa, že AI po prvý raz prešla Turingovým testom.
Na nerozoznanie od človeka
Až v 54 % prípadov si ľudia mysleli, že GPT-4 bol človekom, pričom v prípade staručkého systému ELIZA to bolo len v 22 % prípadov. Človeka uhádlo 67 % účastníkov štúdie a podľa odborníkov stoja za úspechom AI v tomto teste vlastnosti podobné tým, ktoré majú aj samotní ľudia. Jazykové modely GPT sú čoraz lepšie, napríklad v schopnosti klamať rôznymi spôsobmi, ale zároveň je možné ich zmanipulovať.
Ako podotýkajú experti zodpovední za túto štúdiu, takéto schopnosti umelej inteligencie môžu mať vážny vplyv na sociálne a ekonomické oblasti našej civilizácie, pričom aj laik si dokáže predstaviť nepríjemné možnosti zneužitia v online priestore. Prakticky akýkoľvek nástroj v nesprávnych rukách sa môže stať zbraňou, a to platí aj pre AI, ktorá je čoraz dostupnejšia a dôveryhodnejšia.
Kriminálne živly môžu v budúcnosti takéto systémy vo veľkom využiť v rámci rôznych podvodov, pričom už dnes niektoré podobné systémy prechádzajú zneužívaním, napríklad pri tvorbe škodlivého softvéru podvodníkmi, ktorí by inak vlastný softvér takéhoto typu nedokázali naprogramovať.
Energetické riziko
Akoby rôzne bezpečnostné riziká a neblahé vplyvy na spoločnosť nestačili, systémy AI sú zároveň obrovskými spotrebiteľmi elektrickej energie, pričom tento problém intenzívne narastá. Alex de Vries z Vrije Universiteit Amsterdam na základe dostupných údajov o spotrebne energie a AI odhaduje, že ak by Google používal AI na zhruba 9 miliárd vyhľadávaní denne, potreboval by každý rok 29,2 TWh energie, čo je viac než ročná spotreba elektriny celého Slovenska.
Je príliš jednoduchý
Tím vedcov v štúdii zároveň argumentuje tým, že Turingov test je na dnešné pomery príliš jednoduchý. Nejde podľa nich len o hľadanie samotnej inteligencie, ale tiež o ďalšie dôležité vlastnosti, ako je schopnosť prečítať situáciu, rozoznávať schopnosti iných či prejaviť empatiu, čo je aj naďalej problémom takýchto jazykových modelov, ktoré sú len obmedzenými systémami AI.
Ako podotýkajú vedci v štúdii spred pár mesiacov, AI predbieha ľudí v čoraz viacerých oblastiach. V roku 2015 nás prekonala v kategorizácii obrázkov, o dva roky neskôr v základnom čítaní s porozumením, v roku 2020 nás tromfla vo vizuálnom myslení, a to je len minimum tých najvýznamnejších príkladov.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
USA stavajú zbraň budúcnosti. F/A-XX bude mať o štvrtinu väčší dolet než F-35
Umelá inteligencia, vodík a dizajn. Yamaha ukázala, ako bude vyzerať jazda o 5 rokov
Západ je v pozore. Čína predstavila zabijaka ChatGPT, nová AI ho v testoch rozdrvila
ChatGPT sa mení od základov. Túto novú funkciu nebudeš chcieť prestať používať, má to však háčik
NAJČÍTANEJŠIE ZO STARTITUP
Renomovaný kardiológ odhalil 7 obľúbených potravín, ktoré ťa pomaly zabíjajú. Nejedol by ich, ani keby mu zaplatili
„Z tatranského tigra sme sa stali zmäteným mačiatkom,“ varuje expert. Slováci sedia na historickom objeme peňazí
Existuje alternatíva voči vláde? Prieskum ukázal, že Slovensko je rozdelené, prekvapili najmä voliči Hlasu
Pellegrini prvýkrát prehovoril o pôžičke od sestry. „Nie je oligarcha. Som rád, že mi mohla požičať“
Hororový večer v Bratislave: Plamene zachvátili bytovku, požiar si podľa starostu vyžiadal jednu obeť
- 24 hod
- 48 hod
- 7 dní
-
- Teleportácia sa stala skutočnosťou. Oxfordskí vedci spravili krok, ktorý zmení svet výpočtov
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Z AirPods som prešiel na lacnejšiu „náhradu“. Kvalita a zvuk ma nechali bez slov
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
- Náš vesmír vznikol v počítači vyspelej civilizácie, simulácii života verí aj Elon Musk
-
- Európu postihla tichá kríza, akú ešte nezažila. Vedci varujú pred stratou kľúčového prvku prežitia
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Jedna z najúspešnejších filmových sérií je späť. Zarobila viac než miliardu dolárov, vracajú sa aj hlavné hviezdy
- Náš vesmír vznikol v počítači vyspelej civilizácie, simulácii života verí aj Elon Musk
- Zvláštna dopravná značka mätie vodičov. Toto musíš spraviť, keď ju uvidíš, inak ti hrozí pokuta
-
- Ohromne zbohatnú a spasia Európu. Blízko Slovenska našli obrovské ložisko ropy a plynu
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Američania ohúrili svet. Z opačného konca planéty vypustili jadrovú raketu, trafila cieľ na meter presne
- Toto už nie je len dron. Najväčšia zbrojovka sveta ukázala zbraň budúcnosti, ktorá zmení vojny
- Slováci majú v dome zdroj energie, o ktorom netušili. Nová technológia vykuruje aj chladí a šetrí tisíce eur
Dátové centrá miznú pod vodou. Čína objavila spôsob, ako znížiť spotrebu energie o 90 %
Toto nemá ešte nikto. Kia spúšťa technológiu, ktorá ukáže pravdu o batérii EV v reálnom čase
Má vraj extrémny dolet. KĽDR predstavila najvýkonnejší jadrový zbraňový systém, aký kedy vyvinula
Umelá inteligencia ukazuje svoju temnú stránku. Firmy chceli ušetriť, namiesto toho zaplatili tvrdú daň
Podvodník ho prevedčil po 5 hodinách hovoru: Slovák prišiel o 55 000 eur, zavolal mu falošný policajt
NAJČÍTANEJŠIE ZO STARTITUP