Vie liečiť, ale aj zničiť svet. AI môže vyhubiť ľudí nečakaným spôsobom, varujú vedci
Vedci z rôznych oblastí sa už dlhšie zaoberajú potenciálnym využitím špičkových jazykových modelov, ktoré sú dnes najpokročilejšími systémami považovanými za umelú inteligenciu. Ako však upozorňuje Nature, ich veľkolepé využitie so sebou prináša aj vážne riziká, ktoré môžu byť dokonca na úrovni pandémie. Niektoré z týchto systémov totiž majú schopnosti, ktoré je možné zneužiť a je veľmi ťažké ich kontrolovať.
Výhody sprevádzajú vážne hrozby
Model GPT-4o nie je len obyčajný chatbot. Ide o multimodálny jazykový model schopný pracovať s textom, obrazom, zvukom či videom. Bol vycvičený na obrovských množstvách dát vrátane miliónov vedeckých štúdií, ktoré zahŕňajú aj pokročilé biologické poznatky. Tento potenciál už v roku 2023 demonštrovali vedci z Microsoftu, keď použili predchodcu GPT-4o na návrh protilátky proti vírusu SARS-CoV-2.
Ďalší významný krok prišiel od Carnegie Mellon University, kde systém založený na GPT-4 zvládol navrhovať a vykonávať chemické syntézy vrátane písania kódu a ovládania robotických zariadení. Len pred niekoľkými týždňami prišla správa o „virtuálnom laboratóriu“ zo Stanfordu, kde AI s minimálnym ľudským zásahom navrhla nanoprotilátky proti SARS-CoV-2.
Tieto úspechy ukazujú, ako môže AI premeniť biomedicínu. Avšak práve tu sa objavujú veľké riziká. Systémy ako GPT-4o dokážu manipulovať DNA, syntetizovať toxíny alebo navrhovať nové liečivá bez výraznej ľudskej kontroly.
V medicíne je ohromným pomocníkom
Napriek mnohým rizikám je AI preukázateľne užitočným nástrojom, ktorý v niektorých prípadoch dokáže dokonca aj prekonávať ľudských expertov. Pri použití AI na určovanie diagnózy pacientov dosiahla až 90 % úspešnosť, pričom doktori s rovnakými dostupnými informáciami dosahovali len 74 % úspešnosť. Dokonca aj v prípade, že použili AI, boli úspešní len v 76 % prípadov, keďže väčšmi verili vlastnému úsudku, než radám AI, ktorá však nakoniec mala pravdu oveľa častejšie.
Hrozí nová pandémia?
Technológia AI postupuje tak rýchlo, že vlády po celom svete sa snažia dohnať legislatívne zaostávanie. USA v roku 2023 zabezpečili dobrovoľné záväzky 15 technologických gigantov na zmiernenie rizík AI. Prezident Biden tiež podpísal výkonný príkaz, ktorý vyžaduje, aby firmy oznamovali vláde vydanie modelov, trénovaných na biologických dátach, ak tieto modely používajú výpočtový výkon vyšší ako 1023 operácií.
Aj keď sú tieto kroky vítané, vedci varujú, že nestačia. Výskumníci z Johns Hopkins Center for Health Security a think-tanku RAND upozorňujú, že riziká umelej inteligencie v biologickom výskume môžu mať rozsah pandémie. Preto apelujú na vlády, aby investovali do testovania a zavádzania spoľahlivých opatrení na minimalizáciu týchto hrozieb.
Ako ďalej upozorňuje Nuclear Threat Initiative, AI systémy so schopnosťami pracovať v oblasti biológie rapídne napredujú a môžu znížiť bariéry, ktoré mnohým bránia vo vývoji biologických zbraní. Čosi podobné sa už stalo pri vývoji počítačových vírusov, s ktorými dokáže AI takisto pomáhať a to aj útočníkom, ktorí majú s programovaním minimálne skúsenosti.
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Ak sa toto stane, ľudstvo vyhynie. Umelá inteligencia je ako jadrová energia, varuje expert
Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia vydesila expertov, začala sa správať ako človek
Okamžite ti zjednodušia život. Google dostane AI funkcie ako z iného sveta
OpenAI predstavilo nový ChatGPT. Dokáže neuveriteľné veci, ale má to zásadný háčik
Umelú inteligenciu premenili na desivú zbraň. Známa krajina má technológiu schopnú zničiť všetko, čo jej príde do cesty
- 24 hod
- 48 hod
- 7 dní
-
- Za málo peňazí veľa muziky. Toto sú najlepšie mobily do 500 eur, ktoré sa vyrovnajú aj vlajkovým modelom
- Zabudnutý operačný systém vstal z mŕtvych. Fanúšikovia ho spustili na najlacnejších mobiloch
- Vytasili silný kaliber za prijateľnú cenu. Vyskúšal som novú Škodu, jej famóznej spotrebe nebudeš veriť
- Je 400 km nad Zemou a naháňa hrôzu. Rusi tajne vyniesli do vesmíru jadrovú zbraň, skryli ju na prekvapivom mieste
- Ak sa toto stane, ľudstvo vyhynie. Umelá inteligencia je ako jadrová energia, varuje expert
-
- Za málo peňazí veľa muziky. Toto sú najlepšie mobily do 500 eur, ktoré sa vyrovnajú aj vlajkovým modelom
- Zabudnutý operačný systém vstal z mŕtvych. Fanúšikovia ho spustili na najlacnejších mobiloch
- Vytasili silný kaliber za prijateľnú cenu. Vyskúšal som novú Škodu, jej famóznej spotrebe nebudeš veriť
- Je 400 km nad Zemou a naháňa hrôzu. Rusi tajne vyniesli do vesmíru jadrovú zbraň, skryli ju na prekvapivom mieste
- Ak sa toto stane, ľudstvo vyhynie. Umelá inteligencia je ako jadrová energia, varuje expert
-
- Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia vydesila expertov, začala sa správať ako človek
- Za málo peňazí veľa muziky. Toto sú najlepšie mobily do 500 eur, ktoré sa vyrovnajú aj vlajkovým modelom
- Vytasili silný kaliber za prijateľnú cenu. Vyskúšal som novú Škodu, jej famóznej spotrebe nebudeš veriť
- 13-tisíc eur za elektrickú Toyotu so slušným dojazdom? Spustili predobjednávku na skvostné SUV
- Zabudnutý operačný systém vstal z mŕtvych. Fanúšikovia ho spustili na najlacnejších mobiloch
USA zavádza nové sankcie pre zahraničné firmy. Týka sa to týchto krajín
Napätie stúpa. Čína poslala pri Taiwan vojenské lietadlá a lode v rekordnom počte
Slovenskí archeológovia jasajú. Pod zemou našli vzácne predmety, ktoré tam čakali stovky rokov
EETS zjednoduší platby mýta, ušetrí dopravcom čas aj peniaze
Európske automobilky na kolenách. Čelia pokutám, ktoré ich môžu dostať do zániku
Copyright© 2024 by Startitup, s. r. o. Všetky práva vyhradené