Technologie se posouvají raketovým tempem. To, co dříve trvalo filmařům týdny, zvládne dnes AI za pár minut. Je deepfake jen hrozbou pro naši bezpečnost, nebo mocným nástrojem pro firmy?

Hosté debaty byli Michal Orsava, zakladatel a CMO Webout, Lukáš Barda, lektor IT gramotnosti a Jan Tyl, zakladatel Alpha Industries, tvůrce aplikace DigiHavel.

Obsah videa

Odkaz se otevře v novém okně na příslušném místě.

• 01:25 Co je deepfake a jak to funguje
• 06:40 Dostupnost nástrojů k vytváření falešných videí
• 13:42 Přínosy deepfake a AI kreativity: Personalizovaná videa, interní vzdělávání a komunikace
• 23:14 AI a halucinace jejích výstupů
• 26:06 Další výhody deepfake technologie
• 31:24 Temná stránka: Vishing (hlasové podvody), krádeže identity ad.
• 44:25 Ztráta důvěry v audiovizuální obsah
• 45:28 Jak se před falešnými videi chránit
• 49:18 Lze deepfake poznat pomocí technologií?
• 57:43 Problematika povinnosti označování AI videí
• 1:00:26 Co čekat v budoucnosti

To nejdůležitější, co v debatě zaznělo

Michal Orsava, Lukáš Barda a Jan Tyl v rozhovoru rozebírají, že deepfake už dávno není jen technická hračka pro výměnu obličejů. Technologie dnes umí generovat celé video včetně hlasu, prostředí a emocí. Přináší nové možnosti pro marketing, vzdělávání i firemní komunikaci, ale zároveň otevírá prostor pro podvody, manipulace a ztrátu důvěry v audiovizuální obsah.

Co je deepfake a proč už ho často nepoznáme

Deepfake hosté debaty vysvětlují jako falešné video vytvořené pomocí umělé inteligence. „Dřív bylo deepfake, že prohodím obličeje ve videu, že obličej jednoho člověka prohodím za druhý obličej. Ale tím, jak se technologie rozrůstají, už to není jen o přehazování obličejů, ale o generování celých videí, včetně zvukové stopy, pozadí a všeho ostatního,“ říká Jan Tyl.

Podle Lukáše Bardy se za poslední roky zásadně změnila kvalita výstupů. Ještě před čtyřmi lety bylo často vidět, že nesedí pohyb rtů nebo synchronizace zvuku. Dnes ale stačí zadání pro AI a nástroj vygeneruje celé video najednou. „Ty technické chyby, které tam bývaly, už tam vlastně nejsou,“ upozorňuje.

AI Act po 2. srpnu 2026: Povinnosti kolem chatbotů a AI obsahu už platí

Michal Orsava zdůrazňuje, že právě snaha tvářit se jako realita je podstatou rizika. „Většinou deepfake video má zmást v tom, že se opravdu snaží jevit jako realita a přitom to realita není. Nástroje jsou víc a víc sofistikovanější, takže to je skutečně nerozeznatelné.“ U profesionálně vytvořených deepfake videí už podle něj pouhé oko často nestačí. „Už musíte jít do metadat nebo profesionálních analyzátorů.“

Falešné video už dokáže vzniknout rychle a levně

Velkým posunem je dostupnost nástrojů. To, co dříve vyžadovalo studio, zkušené postprodukční odborníky a drahý software, dnes zvládne běžný uživatel s levným online nástrojem. Hosté upozorňují, že amatér sice nemusí dosáhnout stejné kvality jako profesionální produkce, ale hranice se rychle posouvá.

„Je mnohem jednodušší se jako úplný amatér bez jakéhokoli vzdělání dostat k výstupu, který vypadá profesionálně,“ říká Orsava. Profesionální produkce podle něj navíc přidá dramaturgii, scénář, svícení a kontext, díky nimž působí výsledek ještě věrohodněji.

Jan Tyl připomíná, že klíčová změna je i v ceně. „Co bylo drahé a mohla si dovolit studia, museli dělat v After Effects, švindlovat to tam postupně, aby to vypadalo hezky, tak dnes udělá student na střední škole bez větších problémů.“ Podle Bardy je know-how navíc volně dostupné. „Stačí dát na YouTube ‚how to cokoliv‘, a máte to.“

Tento posun neznamená jen demokratizaci kreativity, ale i demokratizaci útoků. Podvodníci mohou využívat emoce, připravený scénář a cílený tlak na oběť. „Připravím si nějakou emoci, přesně abyste vypnul kritické myšlení, aby se spustila vaše amigdala, abyste to nezkoumal,“ popisuje Barda princip manipulace.

Personalizovaná videa, firemní komunikace i vzdělávání

Deepfake a generativní video ale nejsou jen hrozbou. Michal Orsava popisuje jejich pozitivní využití ve firemní a zákaznické komunikaci. Technologie podle něj umožňuje vytvářet personalizovaná videa, v nichž je konkrétní člověk hlavním hrdinou příběhu. „Uděláme každému personalizované video, ve kterém je on hlavním hrdinou toho příběhu,“ říká. Taková videa podle něj mohou oslovit zákazníka jménem, pracovat s jeho historií nebo pozicí a nabídnout mu interaktivní obsah.

První český fond pro transfer technologií investuje téměř 1,25 miliardy do AI a pokročilých technologií

Jako příklad uvádí Orsava kampaň pro AC Sparta Praha k výročí klubu, v níž se fanoušek mohl stát součástí týmu. Dalším příkladem je Česká spořitelna, kde personalizované video využili pro interní komunikaci. Generovaný ředitel Tomáš Salomon v něm oslovoval zaměstnance jménem a zval je na výročí banky. „Měli jsme z toho neskutečné reakce, interní meetingy, kuchyňky, všechno to tímhle žilo,“ říká Orsava.

Lukáš Barda vidí velký potenciál i v interním vzdělávání a překladech. Firma může vytvořit e-learning, který mluví jazykem zaměstnance, nebo digitálního mentora pro konkrétní oblast. Tyl doplňuje vzdělávací rozměr: děti by se mohly učit prostřednictvím digitálních historických postav nebo si povídat s avatarem svého budoucího já v profesi, o které přemýšlejí. „Najednou malé dítě vidí samo sebe v budoucnosti jako sestřičku a popovídá si se sebou, jak by vypadal můj osud, kdybych byl policista, zdravotní sestra, požárník,“ říká.

Podvody, hlasy, falešní šéfové i útoky na AI asistenty

Největší rizika se podle hostů týkají podvodů a krádeží identity. Už dnes existují případy, kdy se útočníci vydávají za konkrétní lidi ve videohovorech nebo telefonátech. Jan Tyl připomíná sofistikované útoky, při nichž deepfake nezobrazuje jen jednoho člověka, ale celou skupinu lidí, která společně působí na oběť. „Dá se to udělat. Není to většinou úplně dokonalé, ale ty běžné už 75 % lidí krásně oklamou,“ říká.

Lukáš Barda upozorňuje, že útok nemusí být technicky perfektní, pokud je dobře připravený scénář. Útočník může nedokonalost schovat například za špatný signál, sekaný obraz nebo rychlý hovor. V praxi tak vzniká situace, kdy podvodník nepotřebuje dokonalé video, ale věrohodnou situaci a správně zacílený tlak.

Samostatnou kapitolou jsou hlasové podvody. Michal Orsava upozorňuje, že hlas už lze napodobit velmi přesně, včetně intonace a nedokonalostí. „Můžete nahrát hlasovou zprávu člověka, kterého nerozeznáte, protože ten hlas už je i s intonací, s těmi nedokonalostmi fakt perfektní.“

Barda zároveň mluví o nové fázi útoků, které nemíří jen na člověka, ale i na jeho AI asistenta. „Vždy to byl phishing na člověka a teď máte něco, co zmate vašeho asistenta, který pošle nějaká data někam.“ Útok tak může být ukrytý v e-mailu, který člověk ani nemusí číst, ale AI nástroj ho zpracuje a začne plnit cizí instrukce.

Video ani hlas už nejsou důkazem pravdy

Podle diskutujících se mění způsob, jakým lidé přistupují k audiovizuálnímu obsahu. Michal Orsava připomíná, že video dříve fungovalo jako důkaz. Když člověk něco viděl na záznamu, měl tendenci tomu věřit. To se podle něj mění.

Video jako důkaz už nebude hrát tak velkou roli, jako hrálo doteď, protože už si budu říkat: „Je fejkové? Je to na správném kanálu?“ Člověk už musí zapojovat daleko víc pozornosti.

Michal Orsava

Rizikem je zaplavení sociálních sítí obsahem, u kterého nebude jasné, co je skutečné a co falešné. „Internet se může velmi jednoduše zaplavit těmito deepfaky. Na Facebooku, Instagramu, TikToku nebudete vědět, kdo tam ještě je,“ varuje Orsava. Obává se také politických manipulací, zejména těsně před volbami, kdy může falešné video vyvolat silnou emoci dříve, než se podaří vysvětlit, že není pravé.

Tyl shrnuje změnu informačního prostředí větou: „Dřív platilo, co vidím, tomu věřím, a teď to, co ověřím, tomu bych měl věřit.“ Audiovizuální obsah se podle něj bude muset posuzovat podobně jako textové informace: kdo ho vytvořil, odkud pochází, jaký má záměr, jaké emoce vyvolává a zda ho potvrzují další zdroje.

Hosté se shodují, že technická detekce nebude stoprocentní. Generátory i detektory se budou zlepšovat současně. „Je to pořád boj, prostě jako závod ve zbrojení,“ říká Orsava.

Kritické myšlení, ověřování a druhý kanál

Základem obrany má být kombinace kritického myšlení, ověřování zdrojů a praktických bezpečnostních návyků. Podle Tyla je důležité sledovat, zda obsah vyvolává silné emoce, přichází v citlivém čase nebo tlačí člověka k rychlé akci. Právě tehdy je pravděpodobnost manipulace vyšší.

VŠB-TUO: Česko získá přístup k jednomu z nejvýkonnějších evropských superpočítačů pro umělou inteligenci

Barda doporučuje nepohybovat se jen uvnitř scénáře, který útočník připravil. Pokud například někdo na videohovoru tlačí na zaplacení faktury, má smysl zeptat se na něco mimo kontext nebo ověřit požadavek jiným kanálem. „Pokud vás finanční ředitel tlačí, že máte zaplatit fakturu, tak se ho zeptejte, co dělal o víkendu. Pokud je to udělané skvěle a dokonale, tak by na to mohl reagovat, protože to bude interaktivní. Ale když to bude standardní video, které jsem natočil dopředu, které vás má přesvědčit, tak to není schopné reagovat,“ říká. Další možností je ověření přes SMS, telefonát nebo jiný nezávislý komunikační kanál.

Důležitou roli má škola. Děti podle hostů často používají nové nástroje rychleji než dospělí, ale potřebují se učit, jak s nimi pracovat bezpečně a kriticky. „Ověřování zdrojů, kritické myšlení,“ shrnuje Tyl, co by mělo být součástí vzdělávání.

Do budoucna se podle hostů deepfake ještě zlepší, prodlouží se délka generovaných videí a přibude personalizovaný obsah. Tyl očekává, že to, co je dnes krátké video, může být za pár let celovečerní film vygenerovaný na míru. Barda k tomu dodává, že budoucnost přinese „více mrzení“. Technologie tedy nabídne obrovské tvůrčí možnosti, ale zároveň bude vyžadovat mnohem větší obezřetnost než dosud.