EA-9.2.4 Image Manipulation EA

Subkategorie 🎬 9.2 Generativní média — současná digitální epistemická agrese v éře AI, sociálních platforem a algoritmické governance.

---

1. Identifikace

Kód: EA-9.2.4 Název: Image Manipulation EA Subkategorie: 9.2 Generativní média Doména: Digitální / AI-mediated EA Risk level: Moderate-High

2. Definice

Image manipulation EA je cílená úprava fotografie generativními nástroji – doplnění nebo odstranění osoby, změna gesta, přepsání nápisu, úprava prostředí – a její prezentace jako autentického dokumentu. Na rozdíl od zjevné fotomontáže je úprava navržena tak, aby obstála při běžném pohledu a změnila význam zachycené situace.

3. Mechanismus (strukturálně)

Fotografie nese implicitní nárok: „takhle to bylo“. Úprava tento nárok zachovává a mění jen detail, na kterém závisí výklad – kdo byl přítomen, co držel, jaký nápis nesl transparent. Protože většina obrazu je pravá, působí celek věrohodně a úprava se hledá obtížně. Vzorec se uplatňuje v kompromitaci osob, v politických sporech, v pojistných a obchodních podvodech i v rodinných a partnerských konfliktech (údajné důkazy nevěry, násilí, zanedbání). Patří do širší rodiny zfalšovaného svědectví.

4. Detekční markery

• Obrázek se objevuje bez původního souboru a metadat; existuje jen snímek nebo přeposlaná kopie.
• Zpětné vyhledávání obrázku najde starší verzi, v níž chybí sporný detail.
• Nesoulad osvětlení, stínů, odrazů a perspektivy; deformované ruce, text nebo pozadí.
• Detail rozhodující pro výklad je právě ten, který je rozmazaný nebo nízkého rozlišení.
• Obrázek „dokládá“ přesně to, co šiřitel potřebuje, a jiné záběry téže situace chybějí.

5. Odlišení

Běžná úprava: jas, ořez, filtr; nemění, co obraz dokládá. Zavádějící kontext: pravý snímek s nepravdivým popiskem nebo z jiné doby a místa. EA-9.2.8 AI Eyewitness Fabrication: celý obraz smyšlené události, ne úprava skutečné.

6. Dopad a rámec

Dopad nesou zobrazené osoby (pověst, vztahy, zaměstnání) a ti, kdo podle obrázku rozhodují – redakce, soudy, zaměstnavatelé. V rodinných a opatrovnických sporech mohou upravené obrázky ovlivnit rozhodnutí o dětech (Rodinné soudy a EA). Právně může jít o pomluvu, podvod nebo padělání důkazu; forenzní posouzení vyžaduje původní soubor a dokumentovaný řetěz jeho opatrování.

7. Obrana a zotavení

Čtenář: zpětné vyhledávání obrázku, hledání dalších záběrů téže situace, kontrola data a místa. Redakce a soudy: vyžadovat původní soubor, metadata a výpověď autora snímku; nepovažovat snímek obrazovky za důkaz. Postižená osoba: zajistit vlastní originály a svědky, požádat o odborné posouzení, nahlásit obsah. Platformy: podporovat standardy původu obsahu a uchovávat původní soubory pro vyšetřování.

8. Příklad (anonymizovaný kompozit)

V opatrovnickém sporu předloží jeden z rodičů fotografii, na níž má druhý rodič stát s alkoholem vedle spícího dítěte. Druhý rodič má původní snímek z téhož večera – bez lahve, pořízený na rodinné oslavě. Soud nařídí znalecké posouzení; to zjistí rozdíly v kompresi a stínech v místě lahve. Fotografie je vyřazena a soud se zabývá i tím, kdo ji upravil.

9. Meze a otevřené otázky

Forenzní analýza obrazu dává pravděpodobnosti, ne jistoty, a s vývojem nástrojů se znaky úprav zmenšují. Proto roste význam původu snímku a nezávislých záznamů. Otevřené zůstává, jak zacházet s pravými snímky, jejichž autenticitu kdokoli zpochybní jako „AI“.

Otevřenou otázkou zůstává také to, jak se změní práce soudů a opatrovnických orgánů, až budou upravené snímky běžné a jejich odhalení drahé: hrozí, že se fotografie přestanou jako důkaz používat vůbec, nebo naopak, že se bude nekriticky přijímat cokoli, co forenzní nástroj neoznačí.

Rozpoznání úpravy samo neurčuje, kdo ji provedl ani s jakým záměrem. Forenzní nález konstatuje, že obraz byl zpracován, nikoli že ho zpracoval ten, kdo jej předložil; mezi autorem úpravy a šiřitelem bývá řada rukou a šiřitel mohl snímek přijmout v dobré víře. Stejně tak negativní nález nic nedokládá: metoda, která úpravu nenajde, snímek neověřuje jako autentický, protože Farid (2016) uvádí, že jednotlivé postupy obrazové forenziky dávají indicie, ne průkaz. Pro posouzení je proto podstatné oddělit tři otázky, které se v praxi slévají: zda byl obraz upraven, kdo jej upravil a co o tom věděl ten, kdo jej použil jako důkaz.

10. Pohled zevnitř a práce s postiženým

Člověk konfrontovaný s upraveným snímkem sebe sama může zažít zmatek a pochybnost o vlastní paměti („byla tam ta lahev?“) – zvlášť je-li vystaven dlouhodobému tlaku blízké osoby. Profesionál by měl tuto reakci normalizovat, pomoci zajistit vlastní dokumentaci a oddělit otázku autenticity od otázky viny. U obětí partnerské kontroly je vzorec často součástí širšího gaslightingu.

Pro děti, které se staly terčem upravených snímků ve škole, je klíčová rychlá reakce dospělých, odstranění obsahu a jasné sdělení, že vina je na straně autora úpravy.

11. Vztah k ostatním kategoriím EA

Mediální podobu téhož cíle – vytvořit z výseku obrazu nálepku – popisuje EA-2.3.10 Virální Misrepresentation. Upravený snímek použitý proti paměti blízké osoby patří k vzorcům paměťové rekonstrukce z kapitoly 1: obraz „dokládá“ minulost, kterou postižený pamatuje jinak.

12. Postup při sporném snímku

1. Vyžádat si originál souboru a údaje o jeho pořízení.
2. Zpětně vyhledat obrázek a starší verze.
3. Hledat nezávislé záznamy téže situace – jiné snímky, svědky, kamery.
4. Nechat posoudit forenzně, pokud snímek rozhoduje o sporu.
5. Dokumentovat celý postup ověření pro případné řízení.

13. Prevence a odolnost

Prevence spočívá v návyku nepovažovat obrázek za důkaz bez původu a ve znalosti jednoduchých ověřovacích kroků, jako je zpětné vyhledávání. Pro lidi v konfliktních vztazích je užitečné vést si vlastní dokumentaci (originály fotografií, zápisky s daty), která jim pomůže v případě, že bude jejich paměť zpochybňována. Systémově pomáhají standardy původu obsahu, které umožňují doložit, kdy a jak snímek vznikl a zda byl upravován, a pravidla soudů a úřadů, která snímky bez původu nepovažují za plnohodnotný důkaz.

Odborný kontext

Úprava fotografií je stará jako fotografie sama; Farid (2016) v příručce obrazové forenziky ukazuje, že forenzní analýza stojí na fyzikální a geometrické konzistenci (světlo, stíny, perspektiva, odrazy) a na stopách zpracování souboru, a že žádná jednotlivá metoda nedává jistotu. Generativní nástroje posouvají problém tím, že úpravy jsou rychlé, levné a lokálně věrohodné. Nightingale a Farid (2022) doložili, že lidé nedokážou spolehlivě rozpoznat ani zcela generované tváře; u lokální úpravy skutečného snímku je úloha ještě těžší.

Psychologie paměti ukazuje, proč jsou upravené fotografie zvlášť nebezpečné v osobních vztazích. Loftus (2005) shrnula výzkum, podle něhož lze lidem vštípit falešné vzpomínky na události, které se nestaly, a obrazové „důkazy“ tento proces usnadňují. V kontextu partnerské kontroly může upravený snímek posloužit k zpochybnění vlastní paměti oběti – vzorci, který kniha popisuje jako gaslighting. Chesney a Citron (2019) navíc upozorňují, že rozšíření manipulací oslabuje i důvěru v pravé snímky.

Souvislosti pro praxi

Pro soudy a opatrovnické orgány je dobrou praxí neakceptovat jako důkaz snímek obrazovky nebo přeposlaný obrázek, ale vyžadovat původní soubor a výpověď autora snímku, a v pochybnostech nařídit znalecké posouzení. Pro terapeuty pracující s oběťmi partnerské kontroly je důležité vědět, že zpochybňování paměti pomocí „důkazů“ je známý vzorec, a pomoci klientovi vést si vlastní dokumentaci. Pro redakce platí, že u sporného snímku se ověřuje původ dřív než obsah.

Literatura

• Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review.
• Farid, H. (2016). Photo Forensics. MIT Press.
• Loftus, E. F. (2005). Planting misinformation in the human mind: A 30-year investigation of the malleability of memory. Learning & Memory.
• Nightingale, S. J., & Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. PNAS.

Související

Sourozenecké techniky

• EA-9.2.5 Video Manipulation EA – tentýž princip u videa.
• EA-9.2.8 AI Eyewitness Fabrication – smyšlená událost.
• EA-9.2.9 AI Document Forgery – padělaný dokument.

Právo a forenzika

• Řetězec opatrování důkazu – původ snímku jako podmínka důkazu.
• Rodinné soudy a EA – kontext častého zneužití.

Obrana a pojmy

• Sebe-obrana: Detekce AI obsahu – praktické kontroly.
• Gaslighting – upravený snímek jako nástroj zpochybnění paměti.