Fenomén deepfake. Jak rozeznat skutečnost od klamu?
Vítej ve spletitém světě deepfake, kde nic z toho, co vidíš, není skutečné. Kde ti ke zjištění pravdy nepomůže žádný ze smyslů. A kde si dokonce ani lidé z oboru mnohdy nemohou být jistí. Technologie tvorby falešných videí se totiž každým rokem, ba dokonce i každým měsícem vylepšuje, a postupně tak smývá rozdíly mezi pravdou a fikcí.
Na jakém principu deepfake videa fungují? A jak lze poznat, zda se jedná o klam?
Co je deepfake?
Deepfake využívá takzvaného hlubokého učení (v angličtině deep learning) k vytváření falešných (v angličtině fake), ale přitom velmi realistických audio- či videomateriálů. Tato metoda umožňuje vkládání lidí do videí, manipulaci s jejich mimikou, a dokonce i vytváření falešných projevů a zvukových nahrávek.
Hlavním nástrojem pro tvorbu deepfake jsou neuronové sítě, konkrétně generativní adversariální sítě (GAN). Ty jsou trénovány na obrovském množství dat, aby se naučily rozpoznávat a reprodukovat vzorce v obrazech a zvucích. Výsledkem je, že dokážou generovat velmi přesvědčivé falešné materiály, které mohou být obtížně rozlišitelné od reality. Mnozí lidé tedy poukazují na to, že by se taková videa dala snadno zneužít.
Jak konkrétně může deepfake vypadat, zjistíš třeba v následujícím videu z loňského roku reportéra Andersona Coopera. „Tohle video je příklad deepfake, který dokazuje, co všechno je možné vytvořit s hodně výkonným počítačem. Pracovali jsme na něm asi 72 hodin a používali při tom velmi dobrý grafický procesor. Kdybychom měli trochu více času, mohli bychom video ještě vylepšit, už teď jej ale 90 % lidí není schopných rozeznat od reality,“ říká Cooper ve videu.
Jak rozeznat skutečnost od klamu?
Rozpoznání deepfake může být extrémně složité, technologie se totiž neustále zdokonaluje. Existuje ale několik indikátorů, které ti mohou pomoci falešně vytvořené video objevit. Alespoň tedy prozatím.
- Nepravidelnosti v obličeji – Při pečlivém sledování obličeje můžeš zaznamenat nepravidelnosti, jako jsou zvláštní pohyby očí, nesouměrnost obličeje nebo neobvyklé změny v osvětlení a stínech.
- Nekonzistentní mrkání – Působí mrkání člověka ve videu podivně nebo nereálně? Je možné, že se jedná o deepfake. Mrkání je totiž stále věc, kterou tato technologie nezvládá zpracovat úplně přesvědčivě.
- Kvalita zvuku a synchronizace – Pokud člověk ve videu mluví, dívej se mu na rty. Synchronizace mezi pohyby úst a zvukem je velmi náročná disciplína. Pomocí těchto nedokonalostí snadno odhalíš klam.
- Nereálné detaily – Některé detaily v deepfake videích vypadají prostě divně. Prozkoumej vlasy zobrazených lidí, jejich pokožku či oblečení. Pokud se jedná o klam, pravděpodobně narazíš na něco zvláštního.
- Konzistence pozadí – Při manipulaci s videem může být obtížné udržet konzistenci pozadí a osvětlení. Pokud si všimneš nesrovnalostí v pozadí nebo náhlých změn v osvětlení, může to být indikátor deepfake.
Zajímá tě svět technologií a chtěl by ses naučit programovat? Přihlas se do našeho akreditovaného rekvalifikačního kurzu a získej práci snů. Kromě bezkonkurenčního platu na tebe čeká také home office, flexibilita a mnoho dalších benefitů. Nakopni svou kariéru ještě dnes:
Technologie na odhalování deepfake
Jak už bylo řečeno v úvodu, lidské oko nemusí vždy pro odhalení deepfake stačit. Proto existují mnohé nástroje vyvinuté speciálně pro detekci falešného obsahu. Ty dokážou analyzovat videa a zvukové nahrávky, hledat nesrovnalosti a generovat upozornění v případě úspěšného nálezu. Do vývoje těchto nástrojů v posledních letech výrazně investují i velké společnosti jako Facebook, Microsoft nebo Google, které chtějí ochránit své uživatele před falešným obsahem a podvody.
Nástroje, jež si můžeš vyzkoušet i ty sám, najdeš třeba na webech:
- Sentinel AI,
- Sensity AI,
- HyperVerge,
- WeVerify,
- Deepware,
- Microsoft (aplikace Microsoft Authenticator).
Jak si vytvořit vlastní deepfake video?
Zvědavost je přirozenou lidskou vlastností. Úplně ti rozumíme, také my jsme si chtěli vyzkoušet vytvořit svůj vlastní jednoduchý deepfake, jen abychom se svým výtvorem mohli pokochat. Ostatně nikde není psáno, že tato technologie musí nutně sloužit jen ke špatným věcem.
Pokud si i ty chceš vytvořit své vlastní falešné video, můžeš k tomu využít mnoho různých dostupných nástrojů. Některé jsou zdarma, jiné bezplatně nabízejí alespoň zkušební verzi. My jsme využili stránku Synthesia, která má právě zkušební verzi zadarmo. Její výhodou navíc je, že dokáže vytvořit video v češtině. Zde je výsledek:
Kvalita zpracování samozřejmě odpovídá faktu, že je video zdarma. Můžeš si na něm ale snadno procvičit, jak poznat výtvor umělé inteligence od reality.
Hledáš novou příležitost a kariérní cestu? Začni s programováním a získej skvělé peníze, flexibilní pracovní podmínky, home office a mnoho dalšího. Rekvalifikuj se v našem akreditovaném kurzu pro junior programátory WWW aplikací. Nauč se pracovat s moderními nástroji budoucnosti a vybírej si z nekonečného množství pracovních nabídek. Nikdy není pozdě začít:
Přečti si také:
