Deepfake video: znaky, podle kterých ho lze odhalit

Deepfake video se dá často odhalit podle drobných nesrovnalostí v obličeji, ve světle a ve zvuku, jenže kvalita podvrhů roste a pouhým okem to jde čím dál hůř. Spolehlivější než zkoumání obrazu je proto ověření souvislostí: kdo video zveřejnil, kde se objevilo poprvé a zda o události informuje ještě někdo další.

Jak takové video vzniká

Deepfake je záznam vytvořený nebo upravený pomocí neuronových sítí tak, aby zobrazoval člověka říkajícího či dělajícího něco, co se nestalo. Starší postupy vyměňovaly obličej v existujícím videu. Novější umějí rozpohybovat jedinou fotografii, synchronizovat rty s libovolnou zvukovou stopou nebo vygenerovat celou scénu z textového popisu.

Samostatnou kapitolou je klonování hlasu. K napodobení stačí krátká ukázka řeči, jakou lze získat z veřejně dostupného videa.

Čeho si v obraze všímat

Prohlédněte si okraje obličeje, tedy místa, kde se tvář stýká s vlasy, ušima a krkem. Tam bývá vidět rozmazání nebo jemné chvění. Podezřelá je pleť bez pórů a vrásek, která působí vyhlazeně, a také zuby slité do jednolitého pruhu.

Sledujte oči. Nepřirozené mrkání, pohled, který nesedí se směrem hlavy, a chybějící nebo nesouhlasné odlesky v obou očích patří ke známým příznakům. Brýle a náušnice se při pohybu hlavy mohou deformovat či na okamžik zmizet.

Všimněte si světla. Stíny na tváři by měly odpovídat osvětlení zbytku scény. A zkuste video zpomalit nebo krokovat po snímcích, protože chyby se nejčastěji objevují při rychlém otočení hlavy nebo když rukou přejede před obličejem.

Čeho si všímat ve zvuku

Syntetický hlas bývá příliš rovnoměrný. Chybí nádechy, zaváhání, změny tempa a prostorový dozvuk místnosti. Rty se mohou s hláskami míjet, zejména u souhlásek, při nichž se ústa zavírají.

Také obsah napoví. Pokud známá osoba říká něco, co se zásadně rozchází s jejím obvyklým vystupováním, a navíc k něčemu naléhavě vyzývá, je namístě opatrnost.

Proč vizuální kontrola nestačí

Uvedené znaky platí pro méně povedené podvrhy. Nejnovější nástroje řadu z nich odstranily a komprese videa na sítích zbylé stopy zahladí. Po pravdě řečeno, kvalitně vyrobený deepfake už běžný divák na telefonu nerozezná, a nerozeznám ho ani já.

Proto přesouvám váhu jinam. Otázka nezní, zda video vypadá pravě, ale odkud pochází.

Ověření souvislostí

Zjistěte, kdo záznam zveřejnil jako první. Oficiální účet instituce nebo zavedené médium je něco jiného než anonymní profil založený minulý týden. Vyhledejte, zda o události píšou další nezávislé zdroje. Výrok významné osoby, o kterém neinformuje nikdo jiný, pravděpodobně nezazněl.

Pomáhá zpětné vyhledávání. Stačí pořídit snímek obrazovky z videa a vložit ho do vyhledávače obrázků, který ukáže, kde se záběr objevil dřív. Často se ukáže, že jde o starší skutečné video s vyměněným zvukem.

Označování a technické nástroje

Evropský akt o umělé inteligenci ukládá povinnost označovat uměle vytvořený či pozměněný obsah, který by mohl být považován za pravý. Velké platformy zavádějí štítky a technologické firmy pracují na standardu, jenž do souboru zapisuje údaje o původu a úpravách.

Detekční programy existují, ale jejich spolehlivost kolísá a na nové generátory reagují se zpožděním. Výsledek takového nástroje berte jako jedno vodítko mezi ostatními.

Hlasové podvrhy v osobní komunikaci

Naklonovaný hlas se může objevit i v telefonátu, který se tváří jako volání blízké osoby. Užitečným zvykem je v případě neobvyklé prosby hovor ukončit a zavolat zpět na číslo, které máte uložené. Některé rodiny si pro takové situace domlouvají kontrolní otázku. Nic to nestojí.

Pravidlo, které doporučuji

Než něco sdílíte, položte si otázku, zda byste za pravost ručili před známými. Pokud ne, nesdílejte, nebo aspoň připište, že zdroj neznáte. Častou chybou je přeposlat video s poznámkou „nevím, jestli je to pravda, ale“. Dosah to má stejný jako sdílení bez poznámky. Proč se takový obsah šíří tak snadno, vysvětluje text o tom, co dělá příspěvek virálním, a širší rámec přehled o působení sociálních sítí. O technologii, která za generováním obrazu stojí, píšu v článku o tom, jak generátory obrázků vytvářejí obraz z textu.

Zdroje

• Nařízení (EU) 2024/1689, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci)
• Standard pro původ a pravost obsahu, Coalition for Content Provenance and Authenticity (C2PA)
• Zprávy o hrozbách spojených s deepfake, Agentura Evropské unie pro kybernetickou bezpečnost (ENISA)
• Doporučení k rozpoznávání manipulovaného obsahu, Národní úřad pro kybernetickou a informační bezpečnost