Boja sa ju vypustiť von. Vytvorili umelú inteligenciu, ktorá ťa naklonuje z 15-sekundovej nahrávky

Spoločnosť OpenAI nedávno predstavila novú technológiu klonovania hlasu s názvom „Voice Engine“, ktorá si získala značnú pozornosť vďaka svojim schopnostiam a etickým aspektom súvisiacim s jej používaním. Táto technológia dokáže generovať prirodzene znejúcu reč, ktorá sa veľmi podobá hlasu konkrétnej osoby, len z 15-sekundovej zvukovej vzorky, informuje The Economic Times.

Napriek jej potenciálu pre rôzne prospešné aplikácie sa spoločnosť OpenAI rozhodla, že ju v súčasnosti neuvoľní pre širokú verejnosť, a to s odvolaním sa na obavy z možného zneužitia a rizík spojených s generovaním reči, ktorá presne napodobňuje hlasy skutočných ľudí, najmä v citlivých kontextoch, ako sú voľby.

Dokáže „zázraky“

Voice Engine dokáže naklonovať hlas človeka len s 15 sekundami zvuku, čo z neho robí výkonný nástroj na vytváranie syntetických hlasov. Táto technológia bola vyzdvihnutá pre svoj potenciál v rôznych aplikáciách vrátane pomoci pri čítaní pre nečitateľov a deti, prekladu obsahu pri zachovaní pôvodného prízvuku pôvodného hovoriaceho a poskytovania terapeutických aplikácií pre osoby s ochoreniami, ktoré ovplyvňujú reč, dodáva Ars Technica.

OpenAI zaviedla bezpečnostné opatrenia, ako je napríklad vodoznak na sledovanie pôvodu akéhokoľvek zvuku vytvoreného Voice Engine a proaktívne monitorovanie jeho používania. Prví testeri technológie súhlasili s tým, že sa nebudú vydávať za jednotlivcov bez súhlasu a zverejnia, že hlasy sú generované umelou inteligenciou.

Možnosť klonovania hlasov vyvoláva obavy zo zneužitia vrátane vydávania sa za niekoho iného a vytvárania zavádzajúceho alebo škodlivého obsahu. OpenAI si uvedomuje tieto riziká, najmä v kontexte volebného roka, a spolupracuje s partnermi z rôznych odvetví s cieľom zapracovať spätnú väzbu a zabezpečiť zodpovedné nasadenie.

Bezpečnostné otázky

V reakcii na tieto obavy sa OpenAI rozhodla pre opatrný prístup a obmedzila prístup k technológii na malú skupinu vývojárov a partnerov. Toto rozhodnutie odráža záväzok spoločnosti k bezpečnosti umelej inteligencie a etickým aspektom, a to napriek potenciálnym prínosom technológie.

Wikimedia/OpenAI

Predstavenie Voice Engine vyvolalo diskusie o etickom používaní technológie klonovania hlasu a potrebe regulácie, ktorá by zabránila jej zneužitiu. Zatiaľ čo niektorí považujú túto technológiu za prelomovú pre syntetickú reč a rôzne aplikácie, iní zdôrazňujú význam opatrnosti a zodpovedného používania na zmiernenie potenciálnych škôd.

Možno konštatovať, že Voice Engine spoločnosti OpenAI predstavuje významný pokrok v technológii klonovania hlasu a ponúka sľubné aplikácie v rôznych oblastiach. Rozhodnutie spoločnosti obmedziť jeho uvoľnenie však podčiarkuje zložité etické prostredie vývoja umelej inteligencie, kde potenciál inovácií musí byť vyvážený rizikami zneužitia a poškodenia. Prístup spoločnosti OpenAI odráža širší trend v odvetví, ktorý smeruje k zodpovednejšiemu vývoju UI a uprednostňuje bezpečnosť a etické hľadisko pri zavádzaní nových technológií.

Čítajte viac z kategórie: Novinky