Vie liečiť, ale aj zničiť svet. AI môže vyhubiť ľudí nečakaným spôsobom, varujú vedci

Vedci z rôznych oblastí sa už dlhšie zaoberajú potenciálnym využitím špičkových jazykových modelov, ktoré sú dnes najpokročilejšími systémami považovanými za umelú inteligenciu. Ako však upozorňuje Nature, ich veľkolepé využitie so sebou prináša aj vážne riziká, ktoré môžu byť dokonca na úrovni pandémie. Niektoré z týchto systémov totiž majú schopnosti, ktoré je možné zneužiť a je veľmi ťažké ich kontrolovať.

Výhody sprevádzajú vážne hrozby

Model GPT-4o nie je len obyčajný chatbot. Ide o multimodálny jazykový model schopný pracovať s textom, obrazom, zvukom či videom. Bol vycvičený na obrovských množstvách dát vrátane miliónov vedeckých štúdií, ktoré zahŕňajú aj pokročilé biologické poznatky. Tento potenciál už v roku 2023 demonštrovali vedci z Microsoftu, keď použili predchodcu GPT-4o na návrh protilátky proti vírusu SARS-CoV-2.

Pixabay/Colipot Designer

Ďalší významný krok prišiel od Carnegie Mellon University, kde systém založený na GPT-4 zvládol navrhovať a vykonávať chemické syntézy vrátane písania kódu a ovládania robotických zariadení. Len pred niekoľkými týždňami prišla správa o „virtuálnom laboratóriu“ zo Stanfordu, kde AI s minimálnym ľudským zásahom navrhla nanoprotilátky proti SARS-CoV-2.

Tieto úspechy ukazujú, ako môže AI premeniť biomedicínu. Avšak práve tu sa objavujú veľké riziká. Systémy ako GPT-4o dokážu manipulovať DNA, syntetizovať toxíny alebo navrhovať nové liečivá bez výraznej ľudskej kontroly.

Hrozí nová pandémia?

Technológia AI postupuje tak rýchlo, že vlády po celom svete sa snažia dohnať legislatívne zaostávanie. USA v roku 2023 zabezpečili dobrovoľné záväzky 15 technologických gigantov na zmiernenie rizík AI. Prezident Biden tiež podpísal výkonný príkaz, ktorý vyžaduje, aby firmy oznamovali vláde vydanie modelov, trénovaných na biologických dátach, ak tieto modely používajú výpočtový výkon vyšší ako 10²³ operácií.

Aj keď sú tieto kroky vítané, vedci varujú, že nestačia. Výskumníci z Johns Hopkins Center for Health Security a think-tanku RAND upozorňujú, že riziká umelej inteligencie v biologickom výskume môžu mať rozsah pandémie. Preto apelujú na vlády, aby investovali do testovania a zavádzania spoľahlivých opatrení na minimalizáciu týchto hrozieb.

Ako ďalej upozorňuje Nuclear Threat Initiative, AI systémy so schopnosťami pracovať v oblasti biológie rapídne napredujú a môžu znížiť bariéry, ktoré mnohým bránia vo vývoji biologických zbraní. Čosi podobné sa už stalo pri vývoji počítačových vírusov, s ktorými dokáže AI takisto pomáhať a to aj útočníkom, ktorí majú s programovaním minimálne skúsenosti.

Čítajte viac z kategórie: Novinky