Etika popisu újmy

Co tato stránka je. Není to licenční doložka ani návod ke čtení, nýbrž pravidlo, podle něhož je kniha napsána: text popisuje mechanismy újmy na úrovni struktury a odmítá je popsat na úrovni provedení. Pravidlo platí pro každou stránku knihy a tato stránka uvádí jeho důvod i jeho cenu.

Abstrakt

Kniha popisuje, jak se lidem ničí schopnost vědět, čemu věřit. Takový text nese odpovědnost, kterou nelze přenést na čtenáře: literatura o poznání dvojího užití ukazuje, že tentýž poznatek současně slouží obraně a snižuje překážky ke škodě, takže jej nelze „vyčistit“ bez ztráty užitku (Miller a Selgelid, 2007). Etika hranic zde proto neznamená právní ani technické omezení, ale mez vedenou textem samotným — rozhodnutí, co se ještě napíše a co už ne.

Důvod, proč mez nevede k mlčení, je asymetrie obou užití. Obranné využití poznatku vyžaduje sdílené porozumění mezi tím, kdo chrání, a tím, kdo je chráněn, zatímco útočné využití je jednostranné a z utajení těží; obranný případ proto strukturálně mluví pro otevřenost na úrovni rozpoznání (srov. Miller a Selgelid, 2007).

Mez má tři části, které tato stránka probírá odděleně: komu je kniha určena, co odmítá napsat a proč je popis rozpoznatelného vzorce něčím jiným než jeho výukou. Rozhodování o citlivém poznání nelze vyřešit plošným zákazem ani plošným zveřejněním; doporučeným postupem je vícestupňové posouzení jednotlivých pasáží (National Research Council, 2004).

Komu je kniha určena

Prvním adresátem je člověk, který zažil něco, pro co nemá jméno. Fricker popisuje hermeneutickou nespravedlnost jako stav, v němž člověku chybějí sdílené pojmy pro vlastní zkušenost, takže ji nedokáže pojmenovat ani sdělit druhým (Fricker, 2007). Kniha je psána tak, aby z ní šel odnést pojem, ne postup.

Druhým adresátem je klinik, vyšetřovatel nebo bezpečnostní pracovník, který potřebuje rozpoznat vzorec, s nímž pracuje profesně. Herman na materiálu obětí dlouhodobého násilí ukazuje, že pojmenování vzorce je součástí léčby, protože dává zkušenosti strukturu, kterou lze sdělit a ověřit (Herman, 1992). Pro tohoto čtenáře je kniha přesnější, než by snesl populární výklad, a to je její hlavní riziko.

Třetím adresátem je čtenář, který knize nevěří. Longino argumentuje, že objektivita tvrzení nespočívá v postoji autora, nýbrž v tom, nakolik je tvrzení vystaveno kritice, která je může opravit (Longino, 1990). Tato stránka je psána pro takového čtenáře: uvádí pravidlo i to, co kvůli němu v knize chybí, aby šlo posoudit, zda je obranný rámec dodržen.

Komu kniha určena není, lze poznat podle posunu zájmu: od rozpoznání k provedení, tedy k otázkám po účinnosti, po výběru cíle nebo po zakrytí stop. Právě tento posun literatura o dvojím užití označuje za znak zneužití materiálu, protože obranný čtenář tyto odpovědi nepotřebuje (Miller a Selgelid, 2007). Čtenáře, který knihu otevřel kvůli vlastnímu stavu, odkazuje kniha jinam, než na vlastní taxonomii — na etické aspekty a na odbornou pomoc; závazek nepůsobit újmu je přitom silnější než závazek být užitečný (Beauchamp a Childress, 2019).

Co kniha odmítá napsat

Kniha odmítá operační sekvence, scénáře promluv, dávkování, kritéria výběru cíle a postupy zakrývání stop. Takové podrobnosti jsou přesně tím, co vícestupňové posouzení řadí mezi materiál „vzbuzující obavy“, u něhož je přístup odstupňovaný, nikoli veřejný (National Research Council, 2004). Úrovně, s nimiž kniha pracuje, popisuje bezpečnostní klasifikace.

Odmítnutí je zacíleno, ne plošné. Bostrom rozlišuje mezi rizikem, které nese sama idea, a rizikem, které nese hotová předloha k provedení, a upozorňuje, že i pouhé upření pozornosti na slabé místo je samostatný typ informačního rizika (Bostrom, 2011). Kniha se vzdává předlohy; riziko upřené pozornosti nese dál a tvrdit o sobě něco jiného by bylo nepřesné.

Obdobnou logiku časování a podrobnosti zná bezpečnostní praxe: kdo najde zranitelnost, oznámí ji nejprve tomu, kdo ji může opravit, a veřejně ji popíše až po přiměřené lhůtě; postup normalizuje mezinárodní norma pro zveřejňování zranitelností (ISO, 2018). Kniha z této praxe přebírá zdrženlivost v podrobnosti, nikoli mlčení o existenci problému.

Co odmítnuto není, je stejně určité: jméno vzorce, jeho struktura, jeho typické následky a znaky, podle nichž jej lze rozpoznat zvenčí. Starkův popis donucující kontroly ukazuje, že právě přechod od výčtu jednotlivých incidentů k popisu vzorce umožnil rozpoznat újmu, která v jednotlivostech vypadala jako nevinná (Stark, 2007).

Proč popis vzorce není jeho výukou

Rozdíl, na němž pravidlo stojí, je rozdílem mezi věděním, že něco je, a věděním, jak se to dělá. Ryle ukazuje, že schopnost nějakou věc provést není souborem tvrzení o ní a nelze ji z popisu odvodit, protože se získává výcvikem a opravovanou praxí (Ryle, 1949). Popis struktury proto neuděluje dovednost — ale neznamená to, že je neškodný.

Tento rozdíl je sporný a kniha na něm nestojí sama. Stanley a Williamson proti Rylovi argumentují, že vědění, jak něco dělat, je zvláštním případem vědění, že něco platí, takže mezi popisem a dovedností není propast, kterou Ryle předpokládá (Stanley a Williamson, 2001). Přijme-li se jejich stanovisko, je obranný rámec jen otázkou míry, ne druhu — a kniha pak musí obhájit každou jednotlivou pasáž, nikoli celý žánr.

Hranice mezi oběma rejstříky není dána tématem, nýbrž pasáží. Posouzení, které doporučuje Finkova zpráva, se vztahuje ke konkrétnímu experimentu a jeho popisu, nikoli k celé disciplíně (National Research Council, 2004). Kniha proto neposuzuje, zda se o technice smí psát, ale kolik se o ní smí napsat, a dělá to u každé stránky zvlášť.

Obranný žánr má přitom precedens. Cialdini popisuje techniky vynucování souhlasu a oslovuje čtenáře jako jejich cíl, který se má naučit odmítnout, nikoli jako budoucího uživatele (Cialdini, 1984). Tento způsob adresování je v knize zachován i tam, kde je popisovaný mechanismus závažnější.

Proti utajení mluví i starší zkušenost bezpečnostní vědy: bezpečnost nemůže stát na tom, že protivník mechanismus nezná, protože mechanismy se učí pozorováním a napodobováním (Kerckhoffs, 1883). Anderson tento princip rozšiřuje na systémy, u nichž utajení návrhu oslabuje obránce víc než útočníka, protože obránce potřebuje mechanismus pochopit, aby jej odrazil (Anderson, 2008). Techniky epistemické anihilace se tomuto popisu blíží: šíří se nápodobou bez ohledu na to, zda o nich někdo píše.

Cena pravidla

Pravidlo má cenu a nese ji čtenář. Kdo chce vědět, jak se něco dělá, to v knize nenajde, a nenajde to ani v odkazech, protože kniha odstupňovaný materiál nezveřejňuje (National Research Council, 2004). Je to ztráta úmyslná, nikoli nedostatek, který by někdo později doplnil.

Cenu platí i text sám. Zamlčení metodických podrobností je v rozporu s požadavkem na úplné hlášení výsledků a činí tvrzení obtížněji ověřitelným, což je známé napětí celé debaty o dvojím užití (Miller a Selgelid, 2007). Kniha je proto v některých pasážích méně přesvědčivá, než by být mohla, a tam, kde se to děje, to říká.

Cenu platí také obránce, který nácvik potřebuje. Odstupňovaný přístup předpokládá instituci, která žadatele posoudí a jeho přístup zaznamená (National Research Council, 2004); statický veřejný text takovou institucí není, a proto kniha výcvikový materiál neposkytuje nikomu, ani tomu, kdo by na něj měl nárok.

Opačná cena je stejně skutečná a kniha si ji připisuje. Kdo zadrží i slovník rozpoznání, nechá ohrožené bez kategorií, jimiž by poznali, co se jim děje; nepublikovat materiál na úrovni rozpoznání má tedy také svou etickou cenu (Fricker, 2007). Mez je proto vedena mezi rozpoznáním a provedením, ne mezi mlčením a řečí.

Žádná z těchto úvah problém neřeší. Strukturální dilema dvojího užití zůstává otevřené i poté, co je rozhodnuto o jednotlivé pasáži, protože rozhodnutí snižuje riziko na jedné straně a užitek na druhé (Miller a Selgelid, 2007). Kniha vede tomuto nevyřešenému problému vlastní heslo dual-use poznání a podrobný rozbor nese příloha dvojí použitelnost poznání.

Kde pravidlo nestačí

Pravidlo nechrání před přivlastněním slovníku. Freyd popisuje vzorec, v němž ten, kdo působí újmu, popře ji, zaútočí na toho, kdo ji pojmenoval, a obrátí role oběti a pachatele (Freyd, 1997). Obranná terminologie je pro takový obrat použitelná a kniha tomu zabránit nedokáže.

Pravidlo také nerozhoduje, zda popis na úrovni vzorce prospěje víc, než uškodí. Starkův popis donucující kontroly jako vzorce, a ne jako série jednotlivých incidentů, posloužil rozpoznání i právní praxi, ale týž popis dává jméno i tomu, kdo jej uplatňuje (Stark, 2007). Kniha se pro tuto sázku rozhodla s vědomím, že ji nelze vyhrát předem.

Vymáhání pravidla stojí a padá s textem, ne se čtenářem. Kniha nemá nad svými čtenáři žádnou pravomoc, a proto má jen dva nástroje: odstupňovanou podrobnost a výslovné odmítnutí; závazky, které z toho plynou pro uživatele, shrnuje etický kodex. Jak se taková mez vztahuje k tomu, co kniha tvrdí o vlastním poznání, rozebírá epistemická integrita.

Literatura

• Anderson, R. (2008). Security Engineering: A Guide to Building Dependable Distributed Systems (2. vyd.). Wiley.
• Beauchamp, T. L., & Childress, J. F. (2019). Principles of Biomedical Ethics (8. vyd.). Oxford University Press.
• Bostrom, N. (2011). Information hazards: A typology of potential harms from knowledge. Review of Contemporary Philosophy.
• Cialdini, R. B. (1984). Influence: The Psychology of Persuasion. Harper & Row.
• Freyd, J. J. (1997). Violations of power, adaptive blindness and betrayal trauma theory. Feminism & Psychology.
• Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
• Herman, J. L. (1992). Trauma and Recovery. Basic Books.
• ISO/IEC 29147 (2018). Information technology – Security techniques – Vulnerability disclosure. International Organization for Standardization.
• Kerckhoffs, A. (1883). La cryptographie militaire. Journal des sciences militaires.
• Longino, H. E. (1990). Science as Social Knowledge: Values and Objectivity in Scientific Inquiry. Princeton University Press.
• Miller, S., & Selgelid, M. J. (2007). Ethical and philosophical consideration of the dual-use dilemma in the biological sciences. Science and Engineering Ethics.
• National Research Council (2004). Biotechnology Research in an Age of Terrorism. National Academies Press.
• Ryle, G. (1949). The Concept of Mind. Hutchinson.
• Stanley, J., & Williamson, T. (2001). Knowing how. The Journal of Philosophy.
• Stark, E. (2007). Coercive Control: How Men Entrap Women in Personal Life. Oxford University Press.

Související

Oddíl

• Tři závazky knihy – kam toto pravidlo patří mezi závazky knihy.
• Interpretační autorita čtenáře – právo, které obranné čtení předpokládá.
• Epistemická integrita – standard, který kniha uplatňuje na vlastní tvrzení.

Etika a klasifikace knihy

• 1.3 Etické aspekty a upozornění – závazný etický rámec práce s taxonomií.
• Bezpečnostní klasifikace – úrovně citlivosti, podle nichž se podrobnost odstupňuje.
• K čemu kniha neslouží – proč kniha popisuje strukturu, a ne postup.
• Etický kodex – závazky, které čtenář přijímá.
• Dvojí použitelnost poznání o manipulaci – etika publikace podrobně.

Pojmy

• Dual-use poznání – nevyřešený problém, který kniha pouze spravuje.
• Epistemic security – obor, do něhož obranný rámec patří.
• Hermeneutický outsourcing – co se stane, když pojmy pro vlastní zkušenost dodává někdo jiný.