EA-9.2.8 AI Eyewitness Fabrication

Subkategorie 🎬 9.2 Generativní média — současná digitální epistemická agrese v éře AI, sociálních platforem a algoritmické governance.

---

1. Identifikace

Kód: EA-9.2.8 Název: AI Eyewitness Fabrication Subkategorie: 9.2 Generativní média Doména: Digitální / AI-mediated EA Risk level: Moderate-High

2. Definice

AI eyewitness fabrication je výroba celé smyšlené události v podobě fotografií, videí, zvukových záznamů a průvodních textů, které vypadají jako materiál od očitých svědků („breaking news“). Na rozdíl od úpravy skutečného záznamu zde neexistuje žádná výchozí událost; fabrikace je součástí informační operace, podvodu nebo kompromitace.

3. Mechanismus (strukturálně)

Vzorec využívá dynamiku krizového zpravodajství: v prvních hodinách po „události“ je poptávka po obrazech obrovská, ověření pomalé a sdílení rychlé. Několik věrohodných záběrů z „různých telefonů“, doplněných texty a reakcemi, vytváří zdání, že se něco skutečně děje. I po vyvrácení zůstává emoční stopa (strach, hněv) a u části publika přesvědčení, že „něco na tom bylo“. Fabrikace se může opírat o AI news cascade a o syntetické svědky.

4. Detekční markery

• Záběry nelze geolokovat, nebo místo neodpovídá (architektura, značení, vegetace).
• Počasí, denní doba a stíny nesouhlasí s údaji o čase a místě.
• O události neinformují místní služby, úřady ani zavedená média; chybí záběry z obecně dostupných kamer.
• Obrazové vady typické pro generovaný obsah: nesmyslné nápisy, deformované postavy v pozadí.
• První sdílení pochází z účtů bez vazby k místu a s krátkou historií.

5. Odlišení

Staré záběry v novém kontextu: skutečná, ale jiná událost; odhalí zpětné vyhledávání. EA-9.2.4 Image Manipulation EA: a EA-9.2.5 – úprava skutečného záznamu. Zmatek v prvních hodinách: rozporné informace o skutečné události; ověření je postupně sjednotí.

6. Dopad a rámec

Fabrikované události mohou vyvolat paniku, násilí proti skupinám obviněným z „útoku“, pohyb na trzích nebo diplomatické napětí. Opakované fabrikace navíc vedou k únavě a cynismu („nic se nedá ověřit“), což oslabuje reakci na skutečné krize. Rámcem obrany jsou krizová komunikace úřadů, ověřovací týmy redakcí a pravidla platforem pro syntetický obsah; právně podle okolností šíření poplašné zprávy nebo podněcování.

7. Obrana a zotavení

Čtenář: v prvních hodinách krize sdílet jen potvrzené informace od místních služeb a úřadů; ověřit místo a čas záběru. Redakce: geolokace, chronolokace, kontakt s místními zdroji; otevřeně uvádět, co je neověřené. Úřady a krizové štáby: rychle a pravidelně komunikovat, i když nemají všechny informace. Platformy: označovat syntetický obsah a zpomalovat šíření neověřených krizových záběrů.

8. Příklad (anonymizovaný kompozit)

Večer se rozšíří série fotografií hořící budovy úřadu v krajském městě, doplněná texty o „explozi“. Hasiči o žádném zásahu nevědí; místní obyvatelé zveřejní živé záběry klidné budovy. Analýza ukáže, že fotografie mají nesmyslné nápisy na okolních budovách a architektura neodpovídá. Do vyvrácení se však zpráva dostane do zahraničních agregátorů a vyvolá dotazy na úřady.

9. Meze a otevřené otázky

Ověřovací metody (geolokace, chronolokace) jsou účinné, ale vyžadují čas a dovednost, kterou má málokdo. Otevřenou otázkou je, jak sladit rychlost krizového zpravodajství s nutností ověření, a jak zabránit, aby obava z fabrikací vedla k nedůvěře ke skutečným svědkům.

Kniha neuvádí čísla o četnosti fabrikovaných událostí, protože spolehlivá srovnávací data chybějí; dostupné jsou hlavně případové analýzy ověřovacích týmů a výzkumných skupin. Otevřené zůstává i to, jak se změní práce zpravodajů, až bude generování videa běžné a levné.

Otevřená zůstává i otázka mezinárodní spolupráce, protože fabrikace často vznikají mimo jurisdikci země, které se týkají.

Rozpoznání fabrikace neprokazuje, kdo ji vyrobil ani proč; přiřazení původu je samostatná úloha a potřebuje jiné doklady než samotný obraz. Nejistota o pravosti záběru také není dokladem, že je záběr falešný — Vaccari a Chadwick (2020) upozorňují, že škoda vzniká právě z této nejistoty, nikoli až z přesvědčení o nepravdě.

Interpretace knihy: obrácený omyl je stejně vážný. Prohlásit svědectví skutečného člověka za fabrikaci je důsledkem téhož vzorce, který Chesney a Citron (2019) popsali jako plošnou ztrátu důvěryhodnosti záznamu; posouzení proto patří ověřovacím postupům, ne první domněnce.

10. Pohled zevnitř a práce s postiženým

Lidé, kteří fabrikovanou událost prožili jako skutečnou, mohou mít reálné stresové reakce – strach o blízké, poplach, nespavost. Vyvrácení tyto reakce automaticky neruší. V komunitách zasažených paniku pomáhá klidná komunikace, vysvětlení mechanismu a prostor pro sdílení zkušenosti bez zesměšňování.

Pro skupiny, které fabrikovaná událost označila za viníky, je důležitá rychlá a veřejná ochrana ze strany autorit, protože obviňování může přerůst v násilí ještě před vyvrácením; i po něm zůstává v komunitě nedůvěra, se kterou je třeba pracovat.

Pomáhá také veřejné poděkování lidem, kteří včas sdíleli ověřené informace a pomohli fabrikaci vyvrátit.

11. Vztah k ostatním kategoriím EA

Fabrikovaná událost je extrémní podobou EA-2.3.5 Pseudo-kontroverze Amplifikace: nevyrábí se jen spor, ale samotný fakt, o němž se vede. Z teoretického hlediska ji kniha čte v rámci kapitoly o EA v digitálním věku jako posun od zkreslení reality k její náhradě.

12. Postup při údajné krizové události

1. Ověřit u místních služeb a úřadů, zda o události vědí.
2. Geolokovat a chronolokovat záběry.
3. Hledat nezávislé záznamy – veřejné kamery, místní obyvatele, zavedená média.
4. Nesdílet neověřené záběry ani s varováním.
5. Zveřejnit výsledek ověření srozumitelně a rychle.

13. Prevence a odolnost

Odolnost společnosti proti fabrikovaným událostem stojí na důvěryhodných institucích, které v krizích komunikují rychle a pravidelně, na médiích s ověřovacími týmy a na publiku, které ví, že první záběry z „události“ mohou být podvrh. Pro jednotlivce je nejpraktičtější pravidlo sledovat v krizi místní služby a úřady a nesdílet neověřené záběry. Pro platformy je prevencí zpomalení šíření neověřených krizových záběrů a označování syntetického obsahu. Školy mohou zařadit nácvik geolokace a ověřování obrazu do výuky.

Odborný kontext

Výzkum krizové komunikace a šíření pověstí ukazuje, že v prvních hodinách po události je poptávka po informacích nejvyšší a ověření nejpomalejší; Starbird, Arif a Wilson (2019) popsali, jak se v této fázi online komunity podílejí na tvorbě výkladů a jak do nich strategické operace vstupují. Fabrikovaná událost tento okamžik využívá v extrémní podobě – nenabízí výklad události, ale událost samu.

Vaccari a Chadwick (2020) zjistili, že syntetická videa nemusí diváky přesvědčit, aby způsobila škodu: postačí, že zvýší jejich nejistotu a sníží důvěru ve zprávy obecně. Opakované fabrikace tak mohou vést k únavě, při níž lidé přestávají věřit i skutečným zprávám z krizí. Chesney a Citron (2019) tuto možnost předvídali jako jednu z hlavních společenských škod syntetických médií. Ověřovací metody – geolokace, chronolokace, srovnání s nezávislými záznamy – jsou účinné, ale vyžadují čas a dovednost, a proto je klíčová role institucí, které je ovládají.

Souvislosti pro praxi

Pro krizové štáby a úřady je nezbytné komunikovat v prvních hodinách rychle a pravidelně, i když nemají všechny informace, protože ticho vyplní fabrikace. Pro redakce je užitečné mít ověřovací tým s dovednostmi geolokace a dohodu s místními zdroji. Pro veřejnost platí jednoduché pravidlo: v prvních hodinách krize sdílet jen informace od místních služeb a úřadů.

Literatura

• Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review.
• Starbird, K., Arif, A., & Wilson, T. (2019). Disinformation as collaborative work. Proceedings of the ACM on Human-Computer Interaction (CSCW).
• Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation. Social Media + Society.

Související

Sourozenecké techniky

• EA-9.2.6 AI News Cascade – textové „pokrytí“ smyšlené události.
• EA-9.2.7 Synthetic Witness Testimony – smyšlení svědci.
• EA-9.2.4 Image Manipulation EA – úprava skutečného snímku.

Pojmy

• Informační operace – rámec, v němž se fabrikace nasazují.
• Hyperrealita – obraz, který nahrazuje událost.

Ověřování a obrana

• Triangulace napříč zdroji v OSINT – geolokace a ověření.
• Sebe-obrana: Časově odložené hodnocení – nesdílet v prvních hodinách.
• Obrana proti dezinformacím – organizační reakce.