Mnoho odborníkov označuje umelú inteligenciu za možnú „existenčnú hrozbu“, ktorá dostala viac do pozornosti po tom, ako v marci minulého výskumníci a technológovia, vrátane šéfa Tesly a X Elona Muska, podpísali otvorený list vyzývajúci na zastavenie vývoja ďalšej generácie technológií AI.

Ako najnovšie informuje Futurism, mnohí bývalí ale aj súčasní zamestnanci OpenAI vyjadrili, že majú vážne obavy z potenciálnych rizík, ktoré predstavujú pokročilé systémy umelej inteligencie. V otvorenom liste tvrdia, že spoločnosť umlčuje hlasy ľudí, ktorí sa obávajú o bezpečnosť týchto systémov. Jeden z expertov, ktorý pracoval v OpenAI, teraz prišiel s predpoveďou, ktorá naháňa zimomriavky.

Mrazivá predpoveď

Celá situácia sa vyhrotila potom, ako jeden z kritikov a bývalých zamestnancov Daniel Kokotajlo uviedol, že pravdepodobnosť, že pokročila umelá inteligencia zničí ľudstvo je zhruba 70 %. Ďalej je odborník presvedčený, že odvetvie AI dosiahne AGI (všeobecnú umelú inteligenciu) do roku 2027, pričom existuje veľká šanca, že AI drastickým spôsobom zmení ľudské bytie alebo dokonca zničí ľudstvo.

Kokotajlo je naplno presvedčený o masívnej hrozbe, ktorú umelá inteligencia predstavuje pre ľudstvo. Osobne preto v minulosti vyzval generálneho riaditeľa OpenAI, Sama Altmana, aby spoločnosť pripravila robustnejšie ochranné mechanizmy pred pokračovaním vo vylepšovaní tejto technológie.

Napriek snahám o interné zvyšovanie povedomia Kokotajlo nakoniec v apríli rezignoval, pričom ako dôvod uviedol nedostatok dôvery v záväzok organizácie k zodpovednému vývoju AI. Jeho odchod spolu s podobnými obavami, ktoré vyjadrili aj iné osobnosti z odvetvia, vrhol tieň na povesť OpenAI.

V reakcii na tieto obvinenia OpenAI vyhlásila, že ako spoločnosť je odhodlaná v prvom rade dbať na  bezpečnosť a je ochotná zapojiť sa do diskusie na túto tému.

Neustále problémy

Umelá inteligencia sa momentálne nachádza na akomsi rozmedzí medzi tým neopísateľným potenciálom, ktorý ju čaká v budúcnosti a primitívnymi začiatkami, ktoré viac-menej ukončil rok 2023 s nástupom populárnych chatbotov. Tieto veľké jazykové modely sú schopné efektívne konverzovať s ľuďmi, vyhľadávať informácie a spolupracovať aj s grafickými AI systémami, ktoré vytvárajú rôzne obrázky.

Systémy sú poriadne ďaleko od dokonalosti a neustále sa vymykajú spod kontroly. Najnovším príkladom tejto problematiky je Copilot spoločnosti Microsoft, ktorému sme sa venovali bližšie v samostatnom článku.