Dual use – dvojí použitelnost poznání o manipulaci

Pozice v knize: referenční příloha sekce 08. Přílohy. Shrnuje, jak kniha zachází s tím, že popis manipulativních technik může sloužit obraně i útoku. Pojem vykládá heslo Dual-use poznání; etická pravidla stanoví Etický kodex výzkumníka EA.

Vymezení

Pojem dual use (dvojí užití) pochází z kontroly vývozu a z bezpečnostní politiky, kde označuje zboží a technologie použitelné k civilním i vojenským účelům. V biologických vědách se pro výzkum, jehož výsledky lze zneužít k vážné škodě, ustálilo označení dual-use research of concern; k jeho rozšíření přispěla zpráva amerických národních akademií Biotechnology Research in an Age of Terrorism, známá jako Finkova zpráva (National Research Council, 2004). Právě tato zpráva zavedla představu, že některé poznatky nelze jednoduše „utajit“ ani „zveřejnit“, ale je třeba s nimi odpovědně nakládat na úrovni celé vědecké komunity. Dilema je přitom asymetrické: obránce musí rozumět celé šíři mechanismů, aby je rozpoznal napříč situacemi, zatímco útočníkovi stačí jediná technika, a stejné poznání tak posiluje obě strany nerovnoměrně (Miller & Selgelid, 2007).

Kniha pojem přenáší na poznání o manipulaci. Popis toho, jak manipulace funguje, je nezbytný pro rozpoznání, prevenci a léčbu, a zároveň by v určité podobě mohl posloužit k tomu, aby někdo manipuloval účinněji. Miller a Selgelid (2007) ukázali, že tento rozpor je vlastním jádrem dvojího užití: nelze jej odstranit, protože užitečnost i rizikovost plynou z téhož poznání, lze jej jen řídit vážením přínosů a škod. Kniha proto nevolí mezi mlčením a beztrestnou otevřeností, ale mezi způsoby, jak poznání zpřístupnit obraně a ztížit útok.

Proč kniha nemůže mlčet

Kdo nezná vzorec, nepozná jej. Oběti coercive control, členové uzavřených skupin i jejich terapeuti dlouho neměli jazyk, jímž by svou zkušenost pojmenovali; Miranda Fricker (2007) tento stav nazývá hermeneutickou nespravedlností – situací, v níž skupina postrádá sdílené pojmy k porozumění vlastní významné zkušenosti. Mlčení o mechanismech chrání především ty, kdo je už používají, protože ti se je naučí praxí, zatímco zasažení zůstávají bez pojmů (Fricker, 2007). Proto kniha mechanismy popisuje – nikoli aby je učila provádět, ale aby je dala rozpoznat. Totéž platí pro odbornou pomoc: bez sdíleného pojmosloví nedokáže terapeut ani vyšetřovatel zkušenost oběti zařadit, pojmenovat a doložit, takže chybějící jazyk sám prodlužuje poškození a znesnadňuje jeho nápravu (Fricker, 2007).

Jak kniha riziko řídí

Kniha řídí riziko dvojího užití několika navzájem propojenými zásadami, které odpovídají požadavku odpovědného nakládání s citlivým poznáním (Miller & Selgelid, 2007). Mechanismus popisuje vždy jen jako strukturální vzorec, který pozorovatel pozná – co je vidět, jak to probíhá a co to s člověkem dělá –, a zásadně nepodává skripty, postupy „krok za krokem“, rady k výběru cíle, k zesílení účinku ani k zakrytí stop. Každý popis techniky je navíc spárován s detekčními znaky, s odlišením od neškodných jevů a klinických stavů, s obranou a s cestou k zotavení, takže těžiště textu leží na rozpoznání, nikoli na provedení.

Druhou vrstvou řízení jsou přístupové úrovně a etický rámec. Nejcitlivější části – terminální protokoly a ultramární techniky – jsou určeny kvalifikovaným čtenářům podle Bezpečnostní klasifikace přístupu a pravidla pro autory, výzkumníky a pedagogy stanoví Etické aspekty a upozornění. Kazuistiky jsou důsledně anonymizované kompozity bez identifikačních detailů, aby popis nikdy neposloužil k identifikaci konkrétní oběti ani pachatele.

Pravidla pro čtenáře a uživatele

Jednotlivé skupiny čtenářů zacházejí s poznáním odlišně a odpovídají za to podle svého postavení (Miller & Selgelid, 2007). Klinici používají popisy k diagnostice a psychoedukaci v řízené dávce, protože nadměrná psychoedukace může klienta zahltit nebo vést k sebeobviňování. Pedagogové v simulačních a výukových cvičeních pracují s rozpoznáváním, nikoli s nácvikem provádění, a dodržují bezpečnostní protokoly; viz Bezpečnostní protokoly pro simulační cvičení v kapitole 3.1 a Před-simulační screening.

Výzkumníci podléhají etickému posouzení projektu a informovanému souhlasu; viz IRB Review a Informovaný souhlas v EA výzkumu. Organizace používají poznatky k ochraně zaměstnanců a ke kontrolním mechanismům, ne k ovlivňování vlastních lidí; viz Organizační obrana. Laický čtenář používá popisy k rozpoznání a k vyhledání pomoci a svépomocné návody najde v oddílu Praktické návody sebe-obrany. Toto odstupňování odpovědnosti podle role je jádrem odpovědného zpřístupnění citlivého poznání (Miller & Selgelid, 2007).

Znaky zneužití

Že poznání slouží opačnému účelu, prozrazuje několik znaků. Signálem je zájem o „účinnost“ technik bez zájmu o jejich detekci a obranu, dále používání pojmů knihy k obviňování nebo umlčování druhých – například výrok „to je gaslighting“ jako zbraň ve sporu, bez doložení vzorce –, diagnostikování lidí na dálku a nálepkování i použití terapeutických postupů ke kontrole klienta. Fricker (2007) upozorňuje, že nástroje, které mají porozumění umožnit, se mohou obrátit v nástroje upírání důvěryhodnosti; na riziko, že taxonomie sama může sloužit moci, upozorňují EA jako mocenský nástroj a Stigmatizace skrze EA kategorie.

Iatrogenní rozměr

Dvojí použitelnost se týká i pomoci samé: intervence, která má chránit, může škodit, pokud nahradí jednu autoritu druhou, pokud tlačí na rychlé „odhalení pravdy“ nebo pokud označí za manipulaci něco, co jí není. Lilienfeld (2007) doložil, že některé psychologické intervence mohou pacientovi prokazatelně uškodit, a že riziko iatrogenní škody je proto třeba brát stejně vážně jako riziko neléčení; viz Iatrogenic harm a Iatrogenní účinky EA intervencí.

Příklad (anonymizovaný kompozit)

V kurzu pro studenty psychologie se probírá vzorec love bombing. Jeden účastník se ptá, „jak to udělat, aby si toho druhý nevšiml“. Vyučující otázku věcně odmítne, vysvětlí rámec kurzu a vrátí diskusi k tomu, jak vzorec rozpoznat a jak podpořit člověka, který jej zažívá; situaci zapíše a probere s garantem programu. Příklad ukazuje, že řízení dvojího užití není jen věcí textu, ale i praxe těch, kdo s ním pracují – tedy právě té kultury odpovědnosti, kterou pro citlivé poznání požadují Miller a Selgelid (2007). Příklad je anonymizovaný kompozit bez vazby na konkrétní osobu.

Meze a otevřené otázky

Žádná úroveň popisu nezaručí, že poznání nebude zneužito; kniha volí kompromis mezi užitečností pro obranu a omezením rizika, což je podle Millera a Selgelida (2007) jediný realistický postoj k dvojímu užití, neboť úplné odstranění rizika by znamenalo i ztrátu obranného přínosu. Otevřená zůstává otázka, jak hodnotit veřejnou dostupnost knihy oproti výhodě, kterou přináší zasaženým, a jak postupovat s novými technikami – například v prostředí umělé inteligence –, u nichž zatím chybí ověřené obranné postupy a u nichž se dilema dvojího užití teprve ustavuje (National Research Council, 2004).

Literatura

• National Research Council (2004). Biotechnology Research in an Age of Terrorism. National Academies Press.
• Miller, S., & Selgelid, M. J. (2007). Ethical and Philosophical Consideration of the Dual-use Dilemma in the Biological Sciences. Science and Engineering Ethics, 13(4), 523–580.
• Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
• Lilienfeld, S. O. (2007). Psychological Treatments That Cause Harm. Perspectives on Psychological Science, 2(1), 53–70.

Související

Etika a pravidla

• Etický kodex výzkumníka EA – závazná pravidla.
• Bezpečnostní klasifikace přístupu – přístupové úrovně.
• Etické aspekty a upozornění – etický rámec předmluvy.

Glosář

• Dual-use poznání – definice pojmu.
• Bridge: Dual-use poznání – propojení hesla s knihou.
• Iatrogenic harm – škoda způsobená pomocí.

Kritika a výzkum

• EA jako mocenský nástroj – riziko zneužití taxonomie.
• Informovaný souhlas v EA výzkumu – výzkumná etika.