Deep-fake videa (podvržená/falešná videa)

Deep-fake videa jsou podvržená/falešná videa, na nichž je za pomoci strojového učení (machine learning) jako podoblasti umělé inteligence synteticky pozměněn jakýkoliv obličej či hlas. Současný pokrok v oblasti generativních kompetitivních sítí (Generative Adversarial Networks – GANs), kdy se dvě neuronové sítě navzájem zdokonalují, umožňuje vytvořit realistické video, na němž kdokoliv říká cokoli, co si jeho tvůrce přeje [1]. Jinými slovy, jedna neuronová síť funguje jako tvořitel (generator) pokoušející se vygenerovat realistické obrázky, zatímco druhá neuronová síť zastává roli kritika (discriminator) poskytujícího zpětnou vazbu, které části generovaných obrázků obsahují vady, čímž vznikne realistické falešné video, jež je na takové úrovni, že pro běžného člověka jsou zmíněné manipulace s obrazem i zvukem obtížně rozpoznatelné [2].

Deep-fake videa slouží k dezinformačním politickým kampaním, kdy je jejich účelem manipulace s voliči či poškozování vybraných politiků/političek; k manipulování s důkazy, kdy je policii a žalobcům nahlášen trestný čin či přestupek, který se nikdy nestal; k podvodům, jež mají zásadní dopad do firemní či národní bezpečnosti (např. jeden ze zvukových deep-fake napodobil hlas generálního ředitele jedné z britských energetických společností, čímž se zločincům povedlo bankovním převodem ukrást 243 000 amerických dolarů); k nedobrovolným a diskreditačním porno videím, kdy jsou obličeje lidí, kteří mají být snímkem poškozeni, přidány k tělům pornohereček/pornoherců.     

Nejnovější vědecké studie naznačují, že šíření nepravdivých informací, v čele s deep-fake videi, může příjemce uvádět v omyl a způsobovat vážné krize ve společnosti [4]. Na fenomén vzniku a šíření deep-fake videí poukázala v roce 2020, kdy započala pandemie onemocnění COVID-19, britská televizní stanice Channel 4 (viz video).


Zdroje:

  1. Agarwal, S. Farid, H. et al. Detecting Deep-Fake Videos from Appearance and Behavior. 2020 IEEE International Workshop on Information Forensics and Security (WIFS), 2020, pp. 1-6.
  2. Kwok, A. and Koh, S. Deepfake: a social construction of technology perspective. Current Issues in Tourism 2021;24:(13): 1798-1802.
  3. Strom, D. Falešná videa jsou virální během několika hodin a zatím je nikdo neumí zastavit. Proč vznikají a v čem spočívá jejich nebezpečí? Avast blog, 19. října 2020.
  4. Zhang, X. and Ghorbani, A. An overview of online fake news: Characterization, detection, and discussion. Information Processing & Management 2020;57(2):102025.

Video: Ukázka deep-fake videa: falešný projev Alžběty II. odvysílaný 25. prosince 2020 britskou televizní stanicí Channel 4

Projekt TL04000176 AI komunikační platforma potlačující infodemii ve vazbě na novinářskou a mediální etiku
je spolufinancován se státní podporou Technologické agentury ČR v rámci Programu ÉTA

Projekt TL04000176 AI komunikační platforma potlačující infodemii ve vazbě na novinářskou a mediální etiku je spolufinancován se státní podporou Technologické agentury ČR v rámci Programu ÉTA

Tento web používá k poskytování služeb a analýze návštěvnosti soubory cookies v rámci platformy Google Analytics. Více informací o fungování těchto nástrojů je k dispozici ZDE. Tyto soubory cookies můžete odmítnout v nastavení svého prohlížeče, případně je můžete v prohlížeči i vymazat.