- Definice
- Mechanismus (strukturní popis)
- Průběh
- Teoretický rámec: krize svědectví záznamu
- Postup pro profesionály
- Fenomenologické znaky (pohled zevnitř)
- Detekční markery (pohled pozorovatele)
- Rizikové kontexty
- Odlišení
- Klinický a právní rámec
- Obrana a neutralizace
- Zotavení
- Ilustrativní příklad (anonymizovaný kompozit)
- Případy, které techniku ukazují
- Poznámka ke kódu
- Literatura
- Související
EA-2.3.7 Personální deepfake
| Pole | Hodnota |
|---|---|
| EA kód | EA-2.3.7 |
| Kategorie | 2. Scénáře delegitimizace |
| Subkategorie | 2.3 Mediální delegitimizace |
| Přístupová úroveň | L2 (odborná analýza) |
| Riziková úroveň | Vysoká až extrémní – u intimních deepfaků jde o závažné porušení důstojnosti |
| Reverzibilita | Nízká; vyvrácení nevymaže vzpomínku na obraz |
| Rodičovská kapitola | 3.2 Scénáře epistemické delegitimizace |
| Rychlá karta | QR: EA-2.3.7 |
Definice
Personální deepfake je syntetický nebo synteticky upravený záznam (video, zvuk, obraz), v němž konkrétní skutečná osoba „říká“ nebo „dělá“ něco, co nikdy neřekla ani neudělala, a který se použije k její delegitimizaci – profesní, politické nebo osobní. Pojem deepfake vznikl kolem roku 2017 pro záznamy vytvořené metodami hlubokého učení.
Epistemicky je deepfake zvláštní dvojím účinkem. Přímý účinek: publikum „vidí“ důkaz. Nepřímý účinek, který Chesneyová a Citronová (2019) nazvali liar's dividend (dividenda lháře): jakmile je známo, že deepfaky existují, lze i pravé záznamy odmítnout jako falešné. Deepfake tak poškozuje nejen cíl, ale i důvěru v záznam jako takový; srov. hyperrealita.
Mechanismus (strukturní popis)
- Věrohodný kontext. Syntetický záznam napodobuje situaci, která je pro cíl pravděpodobná (projev, telefonát, soukromé video).
- Emoční obsah. Obsah je pobuřující nebo ponižující, takže vyvolá rychlé sdílení dřív než ověření.
- Nízká kvalita jako krytí. Zhoršená kvalita („unikla nahrávka“) maskuje stopy syntézy.
- Rychlost proti ověření. Forenzní analýza trvá dny, šíření hodiny.
- Zbytková pochybnost. I po vyvrácení zůstává u části publika „něco na tom bude“.
Zvláštní a nejzávažnější podobou jsou intimní deepfaky – syntetické sexuální materiály skutečných osob, které slouží k ponížení a umlčení, zejména žen.
Průběh
Záznam se objeví v uzavřeném kanálu nebo anonymně a šíří se přes sítě, kde ho sdílejí lidé přesvědčení o jeho pravosti. Cíl se o něm často dozví od jiných. Následuje období, kdy musí dokazovat negativní tvrzení („to nejsem já“). Doloženým veřejným případem je syntetické video ukrajinského prezidenta z března 2022, které vyzývalo ke kapitulaci; bylo rychle vyvráceno, ale ukázalo, jak se technika může použít v krizi.
Teoretický rámec: krize svědectví záznamu
Fotografie, zvukový a obrazový záznam měly v moderní kultuře zvláštní epistemický status: považovaly se za stopu skutečnosti, ne za její popis. Chesneyová a Citronová (2019) upozornily, že deepfaky tento status podkopávají dvojím způsobem – umožňují vytvořit přesvědčivý falešný záznam a zároveň dávají každému, kdo byl zachycen na pravém záznamu, možnost tvrdit, že jde o podvrh (dividenda lháře). Baudrillard (1981) popsal simulakrum jako kopii bez originálu; personální deepfake je jeho doslovnou podobou: záznam události, která se nikdy nestala.
Psychologicky působí deepfake přes stejné mechanismy jako jiné dezinformace, ale silněji, protože obraz a hlas vyvolávají dojem přímého vnímání. Výzkum continued influence effect (Lewandowsky a kol. 2012) naznačuje, že i po vyvrácení může dojem z falešného záznamu ovlivňovat úsudek o osobě. Pro oběť to znamená, že vyvrácení je nutné, ale nestačí: potřebuje i obnovu důvěry v blízkém okolí a ochranu před opakovaným šířením.
Postup pro profesionály
Instituce, která obdrží podezřelý záznam, by měla nejprve ověřit původ (kdo záznam pořídil, kdy, kde, kdo ho poprvé zveřejnil) a teprve pak posuzovat obsah; požádat o forenzní analýzu; kontaktovat dotčenou osobu dřív, než o ní rozhodne. Terapeut pracující s obětí intimního deepfaku by měl postupovat jako u sexuálního násilí: bezpečí, kontrola nad dalšími kroky v rukou oběti, práce se studem.
Fenomenologické znaky (pohled zevnitř)
| Znak | Jak ho postižený popisuje |
|---|---|
| Odcizení vlastní tváře | „Je to moje tvář a můj hlas, ale nejsem to já.“ |
| Ponížení | U intimních deepfaků prožitek podobný sexuálnímu napadení. |
| Bezmoc dokazování | Musí prokazovat, že něco neudělal. |
| Ztráta kontroly nad obrazem | Neví, kde všude záznam koluje. |
| Nedůvěra k vlastním záznamům | Obava z jakéhokoli natáčení. |
Detekční markery (pohled pozorovatele)
| Marker | Co může naznačovat |
|---|---|
| Záznam bez původního zdroje, „unikl“ | Neověřitelný původ |
| Vizuální artefakty (okraje obličeje, mrkání, synchronizace rtů, osvětlení) | Možná syntéza; srov. detekci obsahu AI |
| Obsah odporuje dlouhodobému chování osoby | Podezření |
| Načasování před volbami, jednáním nebo rozhodnutím | Strategické použití |
| Hlas bez přirozeného prostředí, nepřirozená prozódie | Možné klonování hlasu; srov. EA-9.2.2 |
Technické znaky se s vývojem metod mění; spolehlivější je ověřování původu a kontextu než vizuální kontrola.
Rizikové kontexty
Političky a politici, novinářky a novináři, veřejně vystupující ženy, učitelky a studentky (intimní deepfaky ve školách), manažeři (podvodné hlasové pokyny), lidé ve sporech o péči o děti a v rozvodových řízeních. Riziko zvyšuje velké množství veřejných záznamů osoby.
Odlišení
- EA-2.3.1 Vytržený klip. Pravý záznam s odstraněným kontextem; deepfake je nepravý obsah.
- Úprava záznamu (cheapfake). Zpomalení, sestřih, změna titulků bez syntézy; viz EA-9.2.5.
- Satira a parodie. Zřetelně označená syntéza pro satirické účely je legitimní žánr; hranici určuje označení a záměr klamat.
- Odmítnutí pravého záznamu. Tvrzení „je to deepfake“ u pravého záznamu je opačná strana téhož jevu (dividenda lháře).
Klinický a právní rámec
Klinicky jde u intimních deepfaků o trauma blízké sexuálnímu násilí: stud, depersonalizace, úzkost, sociální stažení, riziko sebepoškození. U profesních deepfaků převládá akutní stres a bezmoc. Je nutné posoudit bezpečí a suicidální riziko.
Právně jsou relevantní ochrana osobnosti a podobizny (občanský zákoník), pomluva (§ 184 trestního zákoníku), u sexuálních deepfaků další trestné činy podle okolností, ochrana osobních údajů (nařízení (EU) 2016/679) a povinnosti platforem podle nařízení (EU) 2022/2065. Nařízení (EU) 2024/1689 o umělé inteligenci zavádí povinnost označovat syntetický obsah typu deepfake. Viz elektronické důkazy a glosář: deepfake.
Obrana a neutralizace
Pro cíl. Zajistit kopie a údaje o šíření; požádat platformy o odstranění; vyhledat forenzní posouzení a právní pomoc; komunikovat rychle a jednoznačně; mít oporu blízkých. Viz zachování důkazů.
Pro instituce. Postup pro podezřelé záznamy (ověřit původ, ne reagovat na obsah), ověřovací protokoly pro hlasové pokyny. Viz reakce na incident.
Pro publikum. Ptát se po původu záznamu, nesdílet neověřené; detekce obsahu AI.
Zotavení
Zotavení zahrnuje obnovu vztahu k vlastnímu obrazu a tělu, zpracování studu a ponížení a obnovu bezpečí v online prostoru. Pomáhá akutní stabilizace a terapie zaměřená na trauma.
Ilustrativní příklad (anonymizovaný kompozit)
Kandidátka do obecního zastupitelstva se týden před volbami dozví, že v místní diskusní skupině koluje zvukový záznam, v němž „její hlas“ uráží voliče. Záznam má šum a nízkou kvalitu, „unikl z porady“. Kandidátka okamžitě zveřejní prohlášení a požádá o forenzní posouzení; výsledek přijde až po volbách a potvrdí syntézu. Část voličů jí přesto řekne, že „něco na tom asi bylo“.
Případy, které techniku ukazují
Anonymizovaný kompozit mediální mob útok ukazuje, jak syntetický záznam spustí kampaň. Teoretický rámec dává kapitola EA v digitálním věku.
Poznámka ke kódu
Obdobný jev popisuje EA-9.2.1 Deepfake personality v kategorii 9 (digitální techniky). EA-2.3.7 popisuje deepfake jako nástroj delegitimizace konkrétní osoby, EA-9.2.1 jako technologický vzorec; jde o dvojí popis, nikoli o kolizi kódu.
Literatura
- Chesney, R., & Citron, D. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review.
- Wardle, C., & Derakhshan, H. (2017). Information Disorder. Rada Evropy.
- Baudrillard, J. (1981). Simulacres et simulation.
- Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and its correction. Psychological Science in the Public Interest.
Související
Techniky
- EA-9.2.1 Deepfake personality – technologický popis.
- EA-9.2.2 Klonování hlasu – zvuková podoba.
- EA-2.3.1 Vytržený klip – pravý záznam bez kontextu.
- EA-2.3.10 Virální zkreslení – šíření.
Pojmy
- Glosář: deepfake – technologie a terminologie.
- Glosář: hyperrealita – kopie bez originálu.
Pomoc
- Detekce obsahu AI – ověřování.