Epistemic security (epistemická bezpečnost)

Definice

Epistemická bezpečnost (epistemic security) je mezioborové pole na pomezí kognitivní vědy, bezpečnostních studií, filozofie informace a bezpečnosti umělé inteligence, které se zabývá systémovými hrozbami pro kolektivní i individuální schopnost utvářet poznání. Ekosystém vědění chápe jako infrastrukturu, jež je nepostradatelná a zranitelná záměrným útokem, strukturálním úpadkem i neplánovaným selháním. Pojem v této podobě ustavila zpráva Alan Turing Institute, která epistemickou bezpečnost definuje jako podmínky, za nichž je společnost schopna spolehlivě získávat pravdivá přesvědčení, revidovat je podle důkazů a slučovat rozptýlené vědění (Seger a kol., 2020).

Pojem je tedy mladý, ale jeho předmět není. Sociální epistemologie Alvina Goldmana už dříve zkoumala, jak institucionální uspořádání – soudní proces, recenzní řízení, zpravodajství – ovlivňuje, kolik pravdy společnost získá (Goldman, 1999). Epistemická bezpečnost k tomu přidává bezpečnostní hledisko: tyto instituce lze cíleně poškodit.

Co drží ustálená literatura

Ústředním poznatkem oboru je, že pravdivé informace nestačí. Protivník může poznávací infrastrukturu poškodit, aniž by vyslovil jediné nepravdivé tvrzení – zahlcením objemem, zpochybněním kvalifikace nebo obsazením pozornosti (Seger a kol., 2020). Model zahlcení popsali Christopher Paul a Miriam Matthewsová jako propagandu, která nemá přesvědčit, nýbrž rozkolísat, a která proto nepotřebuje být soudržná ani pravdivá (Paul a Matthews, 2016); rozvádí jej heslo firehose of falsehood.

Druhým doloženým poznatkem je povaha strukturního uzavření. C. Thi Nguyen rozlišil epistemickou bublinu, v níž jsou protiargumenty jen nepřítomné, a echo komoru, která vnější zdroje aktivně znehodnocuje; druhá je odolná vůči dodání chybějících informací a vyžaduje jiný zásah (Nguyen, 2020). Cass Sunstein a Adrian Vermeule podobně popsali „ochromenou epistemologii“ uzavřených skupin, v níž se přesvědčení nemohou korigovat (Sunstein a Vermeule, 2009). Hesla epistemic bubble a epistemická monokultura rozvádějí oba případy.

Třetím poznatkem je obtížnost opravy. Stephan Lewandowsky, Ullrich Ecker a John Cook shrnuli, že samotné uvedení faktu na pravou míru nestačí a že mylné přesvědčení působí dál i poté, co je vyvráceno; účinnější je nabídnout alternativní vysvětlení než jen popřít (Lewandowsky, Ecker a Cook, 2017). Interdisciplinární přehled Davida Lazera a spolupracovníků k tomu doplňuje, že chybí základní měření: o rozsahu, cílení ani o dlouhodobém účinku falešných zpráv nejsou spolehlivá data (Lazer a kol., 2018).

Čtvrtým poznatkem je, že poškození nemusí být způsobeno lhářem. Cailin O'Connorová a James Owen Weatherall modelovali, jak se mylná přesvědčení šíří i mezi aktéry, kteří postupují bezúhonně, pokud je ovlivněna struktura jejich sítě nebo výběr toho, co se zveřejní (O'Connor a Weatherall, 2019). Terminologické rozlišení nepravdivé informace šířené bez úmyslu, s úmyslem a pravdivé informace použité ke škodě ustavila zpráva Rady Evropy (Wardle a Derakhshan, 2017).

Jak se projevuje

Oslabenou epistemickou bezpečnost v komunitě nebo organizaci poznáme nejspíš podle toho, že se účastníci neshodnou ani na tom, jak by se sporná otázka dala ověřit; Nguyenovo rozlišení ukazuje, proč je právě tento znak vážnější než neshoda v odpovědi (Nguyen, 2020). Druhým znakem je polarizace důvěry: buď slepá, nebo žádná, bez stupňů mezi tím (Sunstein a Vermeule, 2009).

Třetím znakem je plošné zpochybnění institucí, které měly spory rozhodovat; Goldman upozorňuje, že tyto instituce nejsou neomylné, ale jejich nahrazení ničím vede k tomu, že spor nerozhodne nikdo (Goldman, 1999). V knize se mu věnuje heslo delegitimizace. Čtvrtým znakem je obsah, jehož původ nelze doložit, a s ním spojená nejistota, která přetrvává i u pravých záznamů (Seger a kol., 2020); k tomu viz deepfake.

Pátým znakem je posun rozhodovacího kritéria: rozhoduje se podle toho, co se nejvíc šíří, ne podle toho, co je doloženo. Paul a Matthewsová ukazují, že právě toto přesunutí je cílem zahlcení, ne přijetí konkrétní verze (Paul a Matthews, 2016).

Mechanismus

Útoky na epistemickou bezpečnost obvykle nemíří na jednotlivá fakta, ale na spojnice mezi lidmi, zdroji a institucemi: oslabují důvěru tam, kde má být, a vytvářejí ji tam, kde být nemá (Seger a kol., 2020). Ekosystém pak ztrácí schopnost opravovat vlastní chyby, protože oprava sama potřebuje důvěryhodný kanál (Lewandowsky, Ecker a Cook, 2017).

Druhou složkou mechanismu je struktura sítě. O'Connorová a Weatherall ukazují, že i malý zásah do toho, kdo komu naslouchá nebo co se zveřejní, mění výsledné přesvědčení celé skupiny, aniž by kdokoli lhal (O'Connor a Weatherall, 2019). Z toho plyne pro knihu podstatný závěr: obrana jednotlivce proti technikám epistemické anihilace je nutná, ale nestačí, protože zranitelnost je uložena i v uspořádání okolí (interpretace knihy).

Třetí složkou je nerovné rozložení. Kdo je předem brán jako nedůvěryhodný, ztrácí možnost doložit se první, a oslabení důvěryhodnosti svědectví tak dopadá na ty, kdo jí měli nejméně; jde o testimoniální nespravedlnost ve Frickerové smyslu (Fricker, 2007), rozvedenou v heslu testimoniální nespravedlnost.

Odlišení

Od kybernetické bezpečnosti se epistemická bezpečnost liší předmětem ochrany: ta chrání technické systémy, tato poznávací procesy, které na nich běží (Seger a kol., 2020). Od boje proti dezinformacím se liší záběrem: zaměření na nepravdivý obsah vynechává pravdivý obsah použitý ke zkreslení i poškození struktury důvěry, které žádnou nepravdu nepotřebuje (Wardle a Derakhshan, 2017).

Od moderace obsahu se liší úrovní: moderace posuzuje jednotlivé položky, epistemická bezpečnost uspořádání celku, a Lazer a spolupracovníci upozorňují, že bez měření účinku se dopad jednotlivých zásahů nedá posoudit (Lazer a kol., 2018). Info-ops jsou jednou z hrozeb, které obor studuje, a deplatforming jedním z obranných zásahů s vlastními náklady (Paul a Matthews, 2016).

Význam pro Kompendium

Epistemická bezpečnost je v knize makrorámcem, v němž působí katalog technik na úrovni jednotlivce. Samo Kompendium je artefaktem tohoto rámce: taxonomií útočných technik proti individuálnímu i kolektivnímu poznávání, určenou kvalifikovaným klinikům, výzkumníkům a bezpečnostním profesionálům (interpretace knihy, navazující na Seger a kol., 2020). Kolektivní rozměr rozvádí oddíl Populační zdraví a prevence.

Vlastním přínosem knihy je převod oborových pojmů na úroveň jediného vztahu: co zpráva Alan Turing Institute popisuje jako poškození společenské infrastruktury, popisuje kniha jako poškození jednoho člověka, u něhož je infrastrukturou okruh lidí, jimž může věřit (interpretace knihy, navazující na Seger a kol., 2020).

Obrana a zotavení

Na úrovni jednotlivce je doloženou obranou rozmanitost zdrojů a ověřování přes zdroje s nezávislým původem; Nguyen upozorňuje, že u echo komory samotné přidání zdrojů nestačí, protože komora je znehodnotí, a je třeba obnovit důvěru ke konkrétním lidem (Nguyen, 2020). V knize k tomu vedou průvodci Informační dieta a Rozpočet pozornosti.

Na úrovni organizace je obranou dohledatelnost rozhodnutí, nezávislé kontrolní role a standardy dokumentace; Goldmanův rozbor institucí ukazuje, proč jsou taková opatření epistemicky účinná, i když působí jen procedurálně (Goldman, 1999). Odpovídá tomu kapitola Dohledatelnost rozhodnutí.

Na úrovni společnosti patří k obraně mediální gramotnost a ochrana nezávislých institucí; povinnosti velmi velkých platforem při hodnocení systémových rizik zavedl akt o digitálních službách, nařízení (EU) 2022/2065. Lewandowsky, Ecker a Cook ovšem zdůrazňují, že vzdělávací opatření působí nejlépe před vystavením, ne po něm (Lewandowsky, Ecker a Cook, 2017); v knize k tomu vede Prevence mediální gramotností.

Meze pojmu a kritika

První mezí je samo měření. Lazer a spolupracovníci upozorňují, že chybí data o rozsahu i o účinku, a že bez nich hrozí přehánění hrozby stejně jako její podcenění (Lazer a kol., 2018). Druhou mezí je zneužitelnost: pojem bezpečnosti otevírá cestu k opatřením, která omezují projev, a obor sám uvádí ochranu svobody projevu jako podmínku svých doporučení (Seger a kol., 2020).

Třetí mezí je riziko, že se z epistemické bezpečnosti stane rámec pro paušální nedůvěru. Pokud je každý nesouhlas čten jako útok na ekosystém, mizí rozdíl mezi hrozbou a legitimním sporem; Nguyen i Sunstein s Vermeulem shodně upozorňují, že uzavření nastává i u těch, kdo se brání (Nguyen, 2020; Sunstein a Vermeule, 2009). Kniha proto drží pojem jako popis podmínek, ne jako oprávnění k zásahu.

Literatura

• Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
• Goldman, A. I. (1999). Knowledge in a Social World. Oxford University Press.
• Lazer, D. M. J., et al. (2018). The science of fake news. Science.
• Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the post-truth era. Journal of Applied Research in Memory and Cognition.
• Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. Episteme.
• O'Connor, C., & Weatherall, J. O. (2019). The Misinformation Age: How False Beliefs Spread. Yale University Press.
• Paul, C., & Matthews, M. (2016). The Russian „Firehose of Falsehood“ Propaganda Model. RAND Corporation.
• Seger, E., Avin, S., Pearson, G., et al. (2020). Tackling Threats to Informed Decision-Making in Democratic Societies: Promoting Epistemic Security in a Technologically-Advanced World. The Alan Turing Institute.
• Sunstein, C. R., & Vermeule, A. (2009). Conspiracy theories: Causes and cures. Journal of Political Philosophy.
• Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policy Making. Council of Europe.

Související

Pojmy

• Info-Ops – informační operace jako jedna ze studovaných hrozeb.
• Deepfake – hrozba syntetických médií.
• Firehose of Falsehood – útok objemem.
• Deplatforming – obranný zásah s vlastními náklady.
• Epistemic bubble – strukturální zúžení informačního pole.
• Epistemická monokultura – ztráta rozmanitosti zdrojů.
• Epistemická anihilace – mikroúroveň téhož poškození.
• Testimoniální nespravedlnost – nerovné rozložení újmy.

Prevence a kniha

• Populační zdraví a prevence – kolektivní rozměr.
• Prevence mediální gramotností – společenská obrana.
• Dohledatelnost rozhodnutí – obrana organizace.

Strukturní vazby

• Bridge: epistemic-security – most: jak se tento pojem projevuje v kapitolách knihy