Deepfake

Představte si situaci. Náhle vám zavolá neznáme číslo. Hlas na druhé straně je váš osobní bankéř. Uctivě se představí a položí vám jednoduchou otázku: “Mohl byste mi prosím sdělit vaše rodné číslo pro kontrolu identity?”

Je to přeci váš bankéř, nebo to aspoň tvrdí a jeho hlas je vám dost povědomý. Proč byste mu nevěřili a nesdělili mu informaci, o kterou žádá? 

Kdo z nás je s tímto typem podvodu obeznámen? Je stále těžší rozpoznat, co je opravdové, a co podvodný trik. Navíc se praktiky, které podvodníci využívají každým dnem zdokonalují.

Když realita splývá s fikcí 

Deepfake technologie je inovativní a zároveň velmi problematický nástroj, který umožňuje vytvářet uměle upravená videa a fotografie tak realistické, že je obtížné je odlišit od skutečných záznamů. Tato technologie využívá umělé inteligence a hlubokého učení (Deep Learning), aby nahradila obličeje a hlasy osobností ve stávajících videích nebo vytvořila zcela nové falešné záznamy. 

Technologie může být využita za účelem pošpinění něčí reputace, zesměšnění před rodinou nebo přáteli, k vydírání nebo ke zničení konkurence. Může mít dalekosáhlé důsledky, včetně ztráty pracovních příležitostí a romantických vztahů. 

Deepfake technologie našla své nejširší využití v oblasti pornografie. Výzkum ukázal, že téměř 96 % deepfake videí má pornograficky laděný obsah, přičemž 90 % z nich je zaměřeno na ženy. Oběti těchto útoků se mohou stát terčem falešných pornografických kampaní, které používají jejich obličeje, což může mít dalekosáhlé negativní dopady.

Příklad, na kterém lze tento problém ilustrovat, je i příběh básnířky Helen Mort, která se jako jedna z mnoha stala obětí deepfake kampaně zaměřeného na pornografii.

Deepfake technologie není omezena pouze na záměnu obličeje a částí těla. Útočníci též využívají záměnu hlasu, aby zvýšili autenticitu svých podvodů. Například pomocí umělé inteligence a strojového učení mohou replikovat hlas jiné osoby tak přesně, že je téměř nemožné rozpoznat rozdíl.  Jedním z mnoha zdokumentovaných případů je situace, kdy ředitel energetické společnosti sídlící ve Velké Británii obdržel telefonát od svého německého protějšku. Jeho německý nadřízený ho instruoval, aby co nejrychleji přeposlal 243 000 dolarů (přibližně 5 480 000 Kč) maďarskému dodavateli. Útočníci následně peníze převedli do Mexika. Pomocí umělé inteligence dokázali zreplikovat hlas německého kolegy a přijít tak k velkému obnosu peněz.

Je třeba zdůraznit, že deepfake technologie není hrozbou jen na individuální úrovni, ale také na úrovni celospolečnské. Identifikace a prevence deepfake hrozeb je nezbytná pro ochranu osobních údajů, reputace a společnosti jako celku. 

Zaregistrovali jste poslední projev Baracka Obamy?

Dokážete rozpoznat deepfake?

Denně se na sociálních sítích setkáváme s nepřeberným množstvím videozáznamů a fotografií, jejichž pravdivost je často přinejmenším sporná.

Níže jsme si pro vás připravili malý test. Dokážete rozpoznat upravené deepfake médium? Vyzkoušejte si to na těchto několika příkladech.

Fotografie

Audio

Proslov Johna F. Kennedyho v Dallasu chvíli před smrtí

Jay-Z covers „We Didn’t Start the Fire“ by Billy Joel

Video

Selhání mise Apollo 11

Pokud jste si nebyli jistí nebo pouze hádali, mohu vás uklidnit. Všechny příklady, které vidíte jsou „fake“.

Ke shlédnutí doporučuji také “In Event of Moon Disaster” od MIT.

Jak předcházet hrozbám? 

Rozpoznávání deepfake je těžší disciplínou, než se může zdát. Vyžaduje to nejen trénované oko, ale také všeobecný přehled o tématu, na které dané video, fotografie či zpráva cílí a kritický přístup. Nejvíce obezřetní bychom měli být v období voleb nebo válečného konfliktu a důkladně dané médium studovat. Zaměřit bychom se měli především na těchto několik aspektů. Nemusí se pouze jednat o videozáznam, ale také o falešné a upravené fotografie.

1. Zaměřte se na celek

Věnujte pozornost velikosti tváře vzhledem k celé hlavě. Deepfake videa často zahrnují změnu tvaru a velikosti tváře. Zkontrolujte pohyb tváře. Pozorně sledujte pohyby rtů, očí a obličejových svalů. Jedná-li se o fotografie, zkontroluje distorzi očí, úst, či jiných částí tváře. Též se zaměřte na barevný rozdíl a hladkost kůže, či na celek a kontext fotografie.

2. Oči a obočí 

Oční kontakt je klíčový. Zkoumejte pohyb očí, odraz na sítnici a okolí očí. Důležitý je také interval mrkání dané osoby. 

3. Líce a čelo 

Na okrajích tváří může dojít k zjemnění kůže a vyhlazení vrásek. Porovnejte stav pleti s fotografiemi a videi subjektu. 

4. Ústa 

Cílem může být pouze nahrazení úst. 

5. Vlasy a vousy 

Zkontrolujte typ vlasů a vousů subjektu. Jejich kvalita a textura by měla odpovídat reálnému stavu a fotografiím subjektu. 

6. Brýle 

Fyzické vlastnosti brýlí, jako je úhel odrazu světla, by měly být konzistentní s reálným stavem. 

7. Mateřská znaménka 

Porovnávejte existující fotografie a videa s deepfake obsahem. Mateřská znaménka by měla se měla na záznamu či fotografii shodovat. 

8. Chování a vyjadřování 

Poslouchejte pozorně hlasový projev. Deepfake může měnit hlasové charakteristiky. Také pozorujte, zda se subjekt chová přirozeně nebo roboticky. 

9. Opatrnost vůči okolí 

Prozkoumejte okolí subjektu. Je to reálné nebo mohlo být použito zelené plátno? Kontrolujte zdroj světla a jeho shodu se subjektem. 

10. Časový kontext

Zvažte, kdy bylo video zveřejněno. Během voleb nebo válečných konfliktů mohou být deepfake média využita k dezinformacím a manipulaci veřejnosti. 

Své schopnosti rozpoznávat deepfake si můžete otestovat také na webové stránce MIT Media Edu.

Je všechno jen černobílé? 

Deepfake technologie, i přes všechna zmiňovaná rizika a kontroverze, má potenciál přinést ve společnosti i pozitivní změny. Může totiž posloužit i jako nástroj pro podporu vědeckého výzkumu, medicínských inovací a vzdělávání. 

Pokud máte zájem se dozvědět více o této problematice, můžete nahlédnout do mé bakalářské práce: Deepfake technologie a její dopad na společnost. Práce se detailně zabývá různými aspekty této technologie a jejími dopady na společnost.

Autor: Bc. Jan Kejř (absolvent Aplikované informatiky na PřF UJEP)