Dual-use poznání

Definice

Dual-use poznání (angl. dual-use knowledge, česky též poznání dvojího užití) je strukturální etický problém, který vzniká všude tam, kde je stejné porozumění potřebné pro obranu i pro útok. Termín pochází z literatury o kontrole zbrojení a o biologické bezpečnosti; zpráva americké Národní rady pro výzkum jej zavedla jako ústřední pojem správy citlivého biologického výzkumu (National Research Council, 2004). Odtud se rozšířil na informační bezpečnost a prostřednictvím Kompendia epistemické a kognitivní anihilace na epistemickou bezpečnost (viz Epistemic security).

Problém dvojího užití je strukturálně nevyhnutelný; nejde o vadu podání. Miller a Selgelid ukazují, že dilema vzniká právě tehdy, když tentýž poznatek slouží legitimnímu cíli a zároveň snižuje překážky ke škodě, takže jej nelze „vyčistit“ bez ztráty užitku (Miller a Selgelid, 2007). Klinik, který umí rozpoznat gaslighting, mu rozumí natolik, že by jej dokázal provádět; výzkumník, který dokumentuje vzorce EA-1.3.1 Imunizace proti falsifikaci, by je mohl nasadit; operátor Red Teamu, který umí simulovat kampaně delegitimizace ve velkém, ví, jak by se vedly. Omezení přístupu poznání neodstraní; změní jen to, kdo je má.

Původ a kontext pojmu

V biologii a chemii se o dvojím užití vedou spory desítky let. Konference v Asilomaru v roce 1975 se stala vzorem toho, že vědecká obec může sama vyhlásit dočasné omezení a pravidla bezpečné práce s rekombinantní DNA, dřív než je uloží zákonodárce (Berg et al., 1975). Zpráva Národní rady pro výzkum, podle předsedy komise označovaná jako Finkova zpráva, pak popsala sedm typů „experimentů vzbuzujících obavy“ a doporučila, aby rozhodování o nich spočívalo na vícestupňovém posouzení, nikoli na plošném zákazu (National Research Council, 2004).

Nejznámější zkouškou rámce byl spor o dvě studie přenosu ptačí chřipky H5N1 mezi savci z let 2011–2012. Americký poradní výbor pro biologickou bezpečnost nejprve doporučil zveřejnit je bez metodických podrobností; po veřejné debatě a přezkumu vyšly obě práce v plném znění (Herfst et al., 2012; Imai et al., 2012). Případ ukázal, že rozhodnutí o publikaci není binární a že redakce citlivých částí naráží na požadavek reprodukovatelnosti vědy.

V informační bezpečnosti se problém řeší koordinovaným zveřejňováním zranitelností: kdo zranitelnost najde, oznámí ji nejprve tomu, kdo ji může opravit, a veřejně ji popíše až po přiměřené lhůtě; postup normalizuje mezinárodní norma (ISO/IEC 29147, 2018). Právní význam má pojem dvojího užití v kontrole vývozu, kde jej Evropská unie používá pro zboží, software a technologie s civilním i vojenským využitím (Evropský parlament a Rada EU, 2021). Kompendium z těchto oblastí přebírá logiku, nikoli právní režim; podrobné české zpracování rámce nese příloha Dual use – dvojí použitelnost poznání o manipulaci.

Čtyři zásady rámce v Kompendiu

Asymetrie škody. Obranné využití poznatků o EA obvykle vyžaduje sdílené porozumění s chráněnou osobou (klinik a pacient, bezpečnostní tým a organizace), zatímco útočné využití je jednostranné. Obranný případ tedy strukturálně upřednostňuje transparentnost, protože jeho účinek závisí na tom, že poznání mají i ti, které chrání (srov. Miller a Selgelid, 2007).

Minimální veřejné poznání. Základní schopnost rozpoznat běžné manipulační vzorce je sama o sobě veřejným statkem. Fricker popisuje hermeneutickou nespravedlnost jako stav, v němž lidem chybějí sdílené pojmy pro vlastní zkušenost, takže ji nedokážou pojmenovat ani sdělit (Fricker, 2007). Kdo zadrží slovník rozpoznání, nechá potenciální oběti bez kategorií, jimiž by poznaly, co se jim děje; nepublikovat materiál na úrovni rozpoznání má tedy také svou etickou cenu.

Odstupňovaný přístup. Konkrétní podrobnosti provedení, nové vzorce útoku a neověřené techniky si žádají omezený přístup pro kvalifikované výzkumníky, kliniky a bezpečnostní pracovníky, zatímco materiál k rozpoznání zůstává otevřený (National Research Council, 2004). Úrovně citlivosti, s nimiž kniha pracuje, popisuje bezpečnostní klasifikace předmluvy.

Přiměřenost a odpovědnost. Kdo má přístup k citlivějšímu materiálu, přijímá povinnosti dokumentace a dohledu a jeho přístup není anonymní. Tato zásada odpovídá obecnému principu biomedicínské etiky, podle něhož riziko škody musí být vyváženo přínosem a odpovědností toho, kdo s rizikem nakládá (Beauchamp a Childress, 2019). Závazky uživatelů shrnuje etický kodex.

Jak se projevuje

Problém dvojího užití se v praxi neukazuje jako abstraktní dilema, ale jako řada konkrétních rozhodnutí: zda a jak podrobně popsat mechanismus techniky, aby jej čtenář poznal, ale nemohl jej použít jako návod; komu zpřístupnit scénáře výcviku a simulace Red Teamu; jak zaznamenat, k čemu bylo citlivé poznání použito; a jak reagovat, když někdo materiál zjevně zneužívá (Miller a Selgelid, 2007). Varovným znakem zneužití je posun zájmu od rozpoznání k provedení: otázky po „účinnosti“, po výběru cíle nebo po zakrytí stop, které obranný čtenář nepotřebuje.

V publikační praxi se stejné napětí řeší u výzkumu manipulace a vlivu, kde je třeba vyvážit úplnost hlášení výsledků a riziko, že metodika poslouží jako návod (National Research Council, 2004). Postupy, jimiž se to v knize děje, rozebírá stránka publikační etika výzkumu manipulace.

Mechanismus

Kompendium považuje alternativu – utajení – v této oblasti za epistemicky sebezničující. Techniky epistemické anihilace se šíří pozorováním a napodobováním bez ohledu na publikaci; publikace k tomu přidává obranný slovník, který obětem a klinikům umožňuje rozpoznat a odolat tomu, co by se jinak šířilo nepozorovaně (srov. Fricker, 2007). Asymetrie proto hovoří pro odstupňovanou otevřenost: materiál k rozpoznání co nejšířeji dostupný, materiál o nových technikách omezený a auditovaný a útočný operační materiál nepublikovaný. Nejpřísněji se to týká tříd technik, jako je metakognitivní destrukce, které útočí na samu schopnost posuzovat vlastní myšlení.

Veřejné vydání knihy z toho vyvozuje závazné pravidlo psaní: mechanismus se popisuje jen jako strukturální vzorec, který pozorovatel pozná, vždy spolu s detekčními znaky, odlišením, obranou a zotavením – nikdy jako postup, který by šlo provést. Bostrom by takový materiál zařadil mezi informace, jejichž riziko roste s mírou operační podrobnosti, nikoli s tím, že se o jevu vůbec mluví (Bostrom, 2011). Co z toho plyne pro čtenáře, vysvětluje stránka K čemu kniha neslouží.

Odlišení

Cenzura plošně potlačuje poznání; rámec dvojího užití naopak hledá, jak poznání zveřejnit bezpečně a komu jakou míru podrobnosti zpřístupnit (National Research Council, 2004). Rozdíl je v tom, že dual-use rozhodování je odůvodněné, přezkoumatelné a vázané na konkrétní riziko, ne na nepohodlnost obsahu.

Bezpečnost utajením (security through obscurity) spoléhá na to, že útočník nezná postup. Kryptografie ji odmítá od 19. století: systém má zůstat bezpečný, i když protivník zná jeho konstrukci (Kerckhoffs, 1883). V epistemické oblasti selhává ještě zřetelněji, protože techniky manipulace jsou staré, rozšířené a předávají se mimo jakoukoli literaturu.

Informační riziko (information hazard) je širší pojem pro újmu, kterou může způsobit pravdivá informace sama o sobě (Bostrom, 2011). Dual-use poznání je jeho zvláštní případ: poznatek, jehož škodlivé použití je odvrácenou stranou užitečného.

Etika výzkumu je obecnější rámec, který zahrnuje informovaný souhlas a posouzení etickou komisí (Beauchamp a Childress, 2019); dual-use je jeho specifickou částí, která se netýká jen účastníků výzkumu, ale i třetích osob, jimž by výsledky mohly uškodit. Praktické náležitosti posouzení popisuje etické posouzení výzkumného protokolu.

Význam pro Kompendium

Kompendium uplatňuje úvahy o dvojím užití odstupňováním podrobnosti: přehledová taxonomie EA a materiál k rozpoznání jsou otevřené (přehled Kompendia a glosář) a podrobné rozbory jednotlivých technik v sekci Techniky jsou ve veřejném vydání psány na úrovni rozpoznání, ne provedení (srov. National Research Council, 2004).

Obrana a zotavení

Pro čtenáře a odborníky z rámce plyne několik pravidel. Poznání se používá v součinnosti s chráněnou osobou, ne „na ni“; to, k čemu bylo použito, se dokumentuje a podrobuje supervizi; zjevné zneužití se hlásí; a výuka postupuje od rozpoznání k obraně, nikdy k nácviku provedení (Beauchamp a Childress, 2019). Tato pravidla jsou formulována v etických aspektech předmluvy.

Pro toho, kdo byl manipulaci vystaven, má rámec i zotavující rozměr: pojmenování mechanismu snímá stud a vrací schopnost zkušenost sdělit (Fricker, 2007). Proto se kniha nevzdává popisu jen proto, že by jej mohl číst i někdo se zlým úmyslem; místo toho volí úroveň podrobnosti, která slouží rozpoznání a obraně a útočníkovi nic nového nepřináší.

Meze a otevřené otázky

Hranice mezi „rozpoznáním“ a „návodem“ není ostrá a v jednotlivém případě ji musí stanovit úsudek, ne pravidlo (Miller a Selgelid, 2007). Odstupňovaný přístup navíc vytváří vlastní riziko: soustřeďuje citlivé poznání u úzkého okruhu, jehož důvěryhodnost se předpokládá, ale neověřuje se vždy dost důkladně. Otevřenou otázkou zůstává i to, jak se rámec promítne do éry velkých jazykových modelů, které dokážou z otevřeného materiálu sestavit podrobnosti, jež žádný jednotlivý text neobsahuje (Bostrom, 2011). Kniha tyto meze nepovažuje za důvod k mlčení, ale za důvod k průběžné revizi vlastní praxe.

Literatura

• Beauchamp, T. L., & Childress, J. F. (2019). Principles of Biomedical Ethics (8. vyd.). Oxford University Press.
• Berg, P. et al. (1975). Summary statement of the Asilomar conference on recombinant DNA molecules. Proceedings of the National Academy of Sciences.
• Bostrom, N. (2011). Information hazards: A typology of potential harms from knowledge. Review of Contemporary Philosophy.
• Evropský parlament a Rada EU (2021). Nařízení (EU) 2021/821, kterým se zavádí režim Unie pro kontrolu vývozu, zprostředkování, technické pomoci, tranzitu a přepravy zboží dvojího užití. Úřední věstník EU.
• Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
• Herfst, S. et al. (2012). Airborne transmission of influenza A/H5N1 virus between ferrets. Science.
• Imai, M. et al. (2012). Experimental adaptation of an influenza H5 HA confers respiratory droplet transmission to a reassortant H5 HA/H1N1 virus in ferrets. Nature.
• ISO/IEC 29147 (2018). Information technology – Security techniques – Vulnerability disclosure. International Organization for Standardization.
• Kerckhoffs, A. (1883). La cryptographie militaire. Journal des sciences militaires.
• Miller, S., & Selgelid, M. J. (2007). Ethical and philosophical consideration of the dual-use dilemma in the biological sciences. Science and Engineering Ethics.
• National Research Council (2004). Biotechnology Research in an Age of Terrorism. National Academies Press.

Související

Pojmy

• Kompendium EA – samo Kompendium, navržené v tomto rámci.
• Epistemická anihilace – model hrozby, jehož studium problém dvojího užití vyvolává.
• Taxonomie EA – odstupňovaná struktura taxonomie.
• Delegitimizace – slovník na úrovni rozpoznání.
• Metakognitivní destrukce – přísně kontrolovaná třída technik.
• Informed consent – etika výzkumu, jejíž je dual-use částí.

Kapitoly

• Dual-use (příloha) – etika publikace podrobně.
• Bezpečnostní klasifikace – úrovně citlivosti materiálu.
• Etický kodex – závazky uživatelů Kompendia.
• 1.1 Účel kompendia – obranný imperativ knihy.
• K čemu kniha neslouží – proč kniha popisuje strukturu, ne postup.

Strukturní vazby

• Bridge: dual-use-poznani – most: jak se tento pojem projevuje v kapitolách knihy