Umelá inteligencia dokáže vytvoriť falošné texty aj citáty v štýle konkrétnej osoby. Pomocou bežne dostupného softvéru na úpravu fotografií môžu vzniknúť aj realistické „fotografie“ situácií, ktoré sa nikdy nestali. Hrozbu predstavujú aj deepfakes, ktoré spočívajú vo vytvorení vysoko realistických audio alebo audiovizuálnych produktov napodobňujúcich niečí výzor alebo hlas. Upozornil na to Národný bezpečnostný úrad (NBÚ).

„Sú známe prípady, keď útočníci použili deepfake obsah na vydieranie a následné získanie finančnej sumy od obetí,“ vysvetlil úrad. Útok je možný aj v reálnom čase.

Národné centrum kybernetickej bezpečnosti SK-CERT eviduje tiež aktívne vykonávané deepfake hovory prostredníctvom online platforiem cieliacich aj na firmy, ktoré pôsobia na Slovensku. Zatiaľ takéto konverzácie zaznamenali iba v anglickom jazyku, v ktorom je technológia deepfake pokročilejšia.

AI (Artificial Intelligence) je systém, ktorý umožňuje vykonávať úkony, poprípade robiť rozhodnutia pri ktorých je typicky potrebná ľudská inteligencia. Generative AI (generatívna umelá inteligencia) je poddruh umelej inteligencie, ktorá zahŕňa tvorbu nového textového, obrazového, zvukového alebo aj audiovizuálneho obsahu.