Umelá inteligencia pravdepodobne vyhubí ľudstvo. Expert z OpenAI má mrazivú predpoveď
Mnoho odborníkov označuje umelú inteligenciu za možnú „existenčnú hrozbu“, ktorá dostala viac do pozornosti po tom, ako v marci minulého výskumníci a technológovia, vrátane šéfa Tesly a X Elona Muska, podpísali otvorený list vyzývajúci na zastavenie vývoja ďalšej generácie technológií AI.
Ako najnovšie informuje Futurism, mnohí bývalí ale aj súčasní zamestnanci OpenAI vyjadrili, že majú vážne obavy z potenciálnych rizík, ktoré predstavujú pokročilé systémy umelej inteligencie. V otvorenom liste tvrdia, že spoločnosť umlčuje hlasy ľudí, ktorí sa obávajú o bezpečnosť týchto systémov. Jeden z expertov, ktorý pracoval v OpenAI, teraz prišiel s predpoveďou, ktorá naháňa zimomriavky.
Mrazivá predpoveď
Celá situácia sa vyhrotila potom, ako jeden z kritikov a bývalých zamestnancov Daniel Kokotajlo uviedol, že pravdepodobnosť, že pokročila umelá inteligencia zničí ľudstvo je zhruba 70 %. Ďalej je odborník presvedčený, že odvetvie AI dosiahne AGI (všeobecnú umelú inteligenciu) do roku 2027, pričom existuje veľká šanca, že AI drastickým spôsobom zmení ľudské bytie alebo dokonca zničí ľudstvo.
Kokotajlo je naplno presvedčený o masívnej hrozbe, ktorú umelá inteligencia predstavuje pre ľudstvo. Osobne preto v minulosti vyzval generálneho riaditeľa OpenAI, Sama Altmana, aby spoločnosť pripravila robustnejšie ochranné mechanizmy pred pokračovaním vo vylepšovaní tejto technológie.
Napriek snahám o interné zvyšovanie povedomia Kokotajlo nakoniec v apríli rezignoval, pričom ako dôvod uviedol nedostatok dôvery v záväzok organizácie k zodpovednému vývoju AI. Jeho odchod spolu s podobnými obavami, ktoré vyjadrili aj iné osobnosti z odvetvia, vrhol tieň na povesť OpenAI.
V reakcii na tieto obvinenia OpenAI vyhlásila, že ako spoločnosť je odhodlaná v prvom rade dbať na bezpečnosť a je ochotná zapojiť sa do diskusie na túto tému.
Neustále problémy
Umelá inteligencia sa momentálne nachádza na akomsi rozmedzí medzi tým neopísateľným potenciálom, ktorý ju čaká v budúcnosti a primitívnymi začiatkami, ktoré viac-menej ukončil rok 2023 s nástupom populárnych chatbotov. Tieto veľké jazykové modely sú schopné efektívne konverzovať s ľuďmi, vyhľadávať informácie a spolupracovať aj s grafickými AI systémami, ktoré vytvárajú rôzne obrázky.
Systémy sú poriadne ďaleko od dokonalosti a neustále sa vymykajú spod kontroly. Najnovším príkladom tejto problematiky je Copilot spoločnosti Microsoft, ktorému sme sa venovali bližšie v samostatnom článku.
Čítajte viac z kategórie: Novinky
Ďakujeme, že čítaš Fontech. V prípade, že máš postreh alebo si našiel v článku chybu, napíš nám na redakcia@fontech.sk.
Teraz čítajú
Výsledky experimentu vyrazili výskumníkom dych. AI modely si vedia prenášať tajné správy, aj tie extremistické
Štát zlyháva, ty nemusíš. Slováci vstupujú do éry AI agentov, takto si okamžite zlepšíš život (PREHĽAD)
Vedci vytvorili roj živých švábov, ktoré fungujú ako drony. Technológia môže zmeniť vojnu aj špionáž
OpenAI už o pár dní odhalí niečo, čo môže zmeniť svet. GPT-5 vraj dosiahne porozumenie blízke ľudskému mysleniu
Na obsah pre dospelých už len cez AI filter. V Británii sa spustilo niečo, čo mení pravidlá internetu
NAJČÍTANEJŠIE ZO STARTITUP
Plat 36 900 eur aj pre juniorov. Technologický gigant hľadá nových zamestnancov v Bratislave
Hrozí pokuta až 800 eur: Tisíce Slovákov netušia, že ich vodičák má skrytý „dátum spotreby“
Vojna na Ukrajine bude podľa všetkého čoskoro pozastavená, tvrdí Tusk
Slováci uviazli v Grécku: Let bol zrušený, na návrat domov čakajú už druhý deň
Dovolenkový raj Slovákov zasiahla vlna západonílskej horúčky: 7 mŕtvych, krvné obmedzenia a varovanie pre turistov
- 24 hod
- 48 hod
- 7 dní
-
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Čínskej invázii nedajú šancu. Kľúčový ostrov Ázie buduje 100-tisícovú armádu dronov, ktorá rozhodne konflikt
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Zabudni na klasické lietadlá, toto je budúcnosť letectva. NASA odhalila revolučný stroj
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
-
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Nemeckí tankisti bojujú proti ruským vojskám. Vojnový film ukazuje temnú stránku Wehrmachtu
- Z prehliadaného paliva urobia „novú ropu“. Arabi budujú svätý grál čistej energie za 270 miliárd dolárov
-
- Zmeny v STK zaskočili Slovákov. Vysoké pokuty hrozia aj tým, ktorí auto už nemajú (PREHĽAD)
- Vojenskí experti prišli s víťazným plánom: Nad Ukrajinou bude lietať stovka európskych stíhačiek
- Žiadna pokuta, rovno ti zoberú vodičák. Tieto činnosti za volantom nikdy nerob (PREHĽAD)
- Kolaps ľudskej spoločnosti príde nečakane skoro. Vedcov vystrašil počítač s realistickou predpoveďou
- Vesmír možno práve odhalil svoj najväčší trik. Astronómovia hovoria o objave, ktorý mení učebnice
Európsky kódex pre AI rozdelil technologických obrov. Prichádza otvorený konflikt
Najpresnejší radar NASA je na orbite. Upozorní na zemetrasenia aj padnuté mosty
Veľká novinka pre majiteľov smart hodiniek. Najväčší operátor prichádza s užitočnou funkciou
EÚ zaskočila svet. Nečakaná krajina môže cez Rusko vyvážať uhlie napriek sankciám
Audi sa rúti dolu kopcom. Zisk sa prepadol o vyše 37 % a problémy nekončia
NAJČÍTANEJŠIE ZO STARTITUP