Nebezpečná hra: OpenAI nenápadne zmenila pravidlá, jej AI už môžu používať na armádne účely

Umelá inteligencia čoraz väčšmi preniká do rôznych oblastí, medzi ktorými je, neprekvapivo, aj armáda a zbrojársky priemysel. Prekvapením je, že jedna z najväčších firiem zaoberajúca sa vývojom AI doteraz neumožňovala armádne využitie.

Ako ale upozorňuje TechCrunch, táto americká firma nenápadne svoje pravidlá zmenila, avšak voľnú ruku armáde nedala.

Použitie má stále obmedzenia

Spoločnosť OpenAI, ktorá je známa predovšetkým veľkými jazykovými modelmi, na báze ktorých funguje systém ChatGPT, nenápadne zmenila svoje pravidlá, podľa ktorých je teraz možné využiť takéto systémy aj na armádne účely. Firma sa však napokon k zmene vyjadrila a dodala, že neumožňuje neobmedzené aplikovanie svojich AI systémov do armády a stále si stojí za istými hranicami.

OpenAI dodáva, že pravidlá stále neumožňujú využitie, ktoré by spôsobilo zranenie človeka, vývoj zbraní, odpočúvanie komunikácie či poškodzovanie majetku. Firma už pracuje napríklad s vládnou agentúrou DARPA na tvorbe nových nástrojov kritických pre kybernetickú bezpečnosť a infraštruktúru, pričom existuje aj niekoľko ďalších potenciálnych spoluprác.

Milrem Robotics

Že OpenAI vopred zmeny neohlásil nie je nič nezvyčajné, keďže takéto zmeny sa v podmienkach dejú pravidelne pri rôznych službách a nie vždy je nutné ich oznamovať. Firma v poslednej dobe narazila na viaceré problémy, avšak pokračuje v intenzívnom raste a vývoji systémov, ktoré dnes využíva značná časť sveta.

Vyvíja nebezpečnú AI

Na povrch nedávno vyplávali informácie o tom, že chce OpenAI vybaviť novú umelú inteligenciu so schopnosťou chápania matematiky. Tento algoritmus má niesť názov Q* a v porovnaní s doterajšími systémami v podobe jazykových modelov, ako je napríklad GPT-4, má ísť o ohromný skok vpred so schopnosťami, ktoré AI posunú na úroveň AGI, teda všeobecnej umelej inteligencie.

O schopnostiach umelej inteligencie Q* zatiaľ vieme len málo, avšak už teraz vyzerajú skutočne prevratne. O systémoch schopných vyznať sa v matematike zatiaľ vedci vedia len málo a doteraz boli vyvíjané s cieľom pomôcť akademikom – Q* však, keďže je OpenAI súkromná spoločnosť snažiaca sa o tvorbu zisku, takýto zámer s najväčšou pravdepodobnosťou nemá.

Čítajte viac z kategórie: Novinky