Případová studie 80: Kult subredditu

Upozornění: Anonymizovaný kompozit několika strukturálně podobných případů; trestní věc, která komunitu zaměstnávala, je smyšlená a nevychází z žádného konkrétního případu. Jména, místa a data jsou změněna. Kompozit a silné zastření údajů odpovídají postupům, které pro publikaci klinického materiálu doporučuje Gabbard (2000). Určeno odborníkům k rozpoznání a obraně.

Výchozí situace subjektu

Subjektem je jednatřicetiletý datový analytik, svobodný, žijící sám v pronájmu. Zajímal se o kriminalistiku a pravidelně četl subreddit věnovaný amatérskému „řešení“ nevyjasněného zmizení mladé ženy. Subreddit měl desítky tisíc členů a tým šesti moderátorů. Subjekt přispíval analýzami časových os a map, které komunita oceňovala, a po půl roce byl pozván do moderátorského týmu. Massanari (2017) ukázala, že kombinace hlasovacího algoritmu, dobrovolné moderace a kultury konkrétní platformy může v některých komunitách soustavně zvýhodňovat určitý typ obsahu a postoje; tento případ sleduje, jak taková struktura působí na jednoho z moderátorů.

Byl pečlivý, introvertní, s historií lehké sociální úzkosti, ale bez psychiatrické léčby. Svou motivaci popisoval jako „spravedlnost pro oběť“ a pocit, že jeho analytické schopnosti konečně slouží něčemu důležitému. Matias (2019) popisuje dobrovolné moderátory jako lidi, kteří odvádějí občanskou práci z pocitu odpovědnosti za komunitu; právě tato motivace je zde zároveň zdrojem zranitelnosti.

Časová osa expozice

V prvních šesti měsících byl analytikem z davu: příspěvky s grafy, karma, uznání a vnímání komunity jako „vyšetřovacího týmu“. Mezi sedmým a dvanáctým měsícem moderoval – zaváděl pravidla proti „trollům“, automatické filtry a blokování (ban) za účast v kritických komunitách. Janis (1982) popsal u skupinového myšlení (groupthink) roli „strážců mysli“ (mindguards), kteří chrání skupinu před nepříjemnými informacemi; moderátorská pravidla tuto roli postupně převzala.

Mezi třináctým a osmnáctým měsícem vznikla kolektivní jistota: komunita se shodla na „podezřelém“, soukromé osobě z okolí oběti. Mezi devatenáctým a jednadvacátým měsícem eskalace vyústila v odkazy na profily podezřelého a vlnu zpráv jemu a jeho rodině, do nichž moderátoři nezasáhli. Ve dvaadvacátém měsíci se jistota zhroutila: policie oznámila jiného pachatele a podezřelý veřejně popsal dopady. Sunstein (2009) ukazuje, že skupiny stejně smýšlejících lidí se v průběhu diskuse posouvají k extrémnějšímu postoji, než s jakým jejich členové začínali.

Projevené EA techniky

EA-2.1.9 Pseudo-konsenzus vytvoření vznikal tím, že hlasování nahoru a dolů třídilo nikoli podle kvality argumentu, ale podle souladu s převládající teorií. Na první stránce zůstávalo jen to, co ji potvrzovalo, a vzniklo zdání široké shody. Muchnik, Aral a Taylor (2013) v randomizovaném experimentu doložili, že jediný kladný hlas udělený na začátku zvyšuje pravděpodobnost dalších kladných hodnocení, takže hlasovací systémy mají sklon k sociálnímu stádnímu efektu (herding).

EA-9.3.6 Content Moderation Bias se projevila tím, že pravidlo „žádné obhajování podezřelého“, zavedené proti trollům, postupně zachytilo každou námitku. Automatický filtr skrýval příspěvky s výrazy jako „alibi“ nebo „nevinný“ do ruční kontroly, která se neprováděla. Gillespie (2018) upozorňuje, že automatizovaná moderace je vždy hodnotovou volbou, a když se nikdo nedívá, co filtr skrývá, stává se neviditelnou cenzurou.

EA-1.1.1 Selektivní expozice spočívala v tom, že ban za účast v kritické komunitě odřízl jediný zdroj protiargumentů. Nguyen (2020) by tuto komunitu označil za ozvěnovou komoru (echo chamber), protože vnější hlasy nebyly jen nepřítomné, ale aktivně trestané.

EA-1.2.3 Iluzorní komplexita měla podobu husté sítě časových os, map a výřezů z fotografií, která vypadala jako vyšetřování, ale stála na několika neověřených předpokladech, které nikdo nezpochybnil. Heuer (1999) v příručce analýzy zpravodajských informací ukazuje, že množství podrobností zvyšuje sebedůvěru analytika, aniž by nutně zvyšovalo přesnost jeho závěrů.

EA-2.3.4 Mob Coordination a EA-2.3.8 Doxxing Epistemický se uplatnily bez výslovné výzvy: odkazy na podezřelého se šířily v komentářích a moderátoři je mazali pomalu a nedůsledně. Suler (2004) popisuje efekt online odbrzdění, který spolu s rozptýlenou odpovědností v anonymním davu snižuje zábrany vůči jednání, jehož by se jednotlivec tváří v tvář nedopustil.

Posledním prvkem byl konfirmační bias na úrovni komunity: nová informace byla čtena jen tak, aby zapadla do teorie, a kdo upozornil na alternativu, byl označen za „toho, kdo kryje“. Nickerson (1998) popsal konfirmační zkreslení jako všudypřítomnou tendenci hledat a vykládat důkazy ve prospěch již přijaté hypotézy; v komunitě se tato tendence jednotlivců sčítala.

Komunita neměla vůdce v klasickém smyslu. Kontrolu vykonávala struktura – hlasování, filtry a moderátorská pravidla – a ztotožnění členů s rolí „vyšetřovatelů“. Jde o epistemickou monokulturu bez guru; Janis (1982) ukázal, že iluze jednomyslnosti a sebecenzura mohou vzniknout i bez autoritářského vedení.

Fenomenologický průběh

Subjekt popisoval období před moderováním jako nejlepší dobu svého dospělého života: „Poprvé jsem měl pocit, že moje práce s daty někomu pomáhá.“ Karma a reakce poskytovaly okamžitou zpětnou vazbu, jakou v práci nedostával. Crocker a Wolfe (2001) by tento stav popsali jako sebehodnocení podmíněné jedinou oblastí, které je zranitelné výkyvy vnějšího hodnocení.

Jako moderátor se ocitl pod tlakem. Každý den četl desítky nahlášených příspěvků a měl pocit, že „brání oběť“ proti trollům. Moderátorský chat měl vlastní humor a zkratky; námitka proti teorii se v něm vnímala jako únava kolegy, ne jako argument. Subjekt popisoval, že „jistota rostla, ale nikdo si nepamatoval, kdy jsme ji vlastně získali“ – přesný popis kumulativního posunu rámování a chyby sledování zdroje, kterou popsali Johnson, Hashtroudi a Lindsay (1993): obsah zůstane, původ se ztratí.

Ve fázi eskalace se objevila disociativní kvalita: subjekt mazal příspěvky s adresou podezřelého a zároveň si říkal, že „si to zaslouží vědět, co si o něm lidi myslí“. Bandura (1999) řadí přisouzení viny oběti a rozptýlení odpovědnosti mezi mechanismy morálního vyvázání. Po oznámení jiného pachatele zažil prudký kolaps: nespavost, zvracení a opakované čtení výpovědi podezřelého o tom, co prožila jeho rodina. Hlavním obsahem se stal stud a vina – morální zranění z rozporu mezi vlastními hodnotami a tím, čeho se účastnil (Litz et al., 2009).

Detekční bod

Detekce přišla zvenčí a byla brutální: veřejné policejní sdělení a následně výpověď podezřelého v médiích. Před tím byl jen jeden slabý signál. Bývalý člen, zabanovaný za účast v kritické komunitě, poslal subjektu soukromou zprávu s věcným rozborem, proč časová osa nedává smysl. Subjekt zprávu přečetl, ale neodpověděl: „Myslel jsem, že je to manipulace.“ Fricker (2007) popisuje svědeckou nespravedlnost (testimonial injustice) jako odepření věrohodnosti mluvčímu kvůli jeho postavení; nálepka „zabanovaný“ zde fungovala přesně tak.

Retrospektivně byly přítomny asymetrie amplifikace, kdy stejné příspěvky stoupaly a protiargumenty mizely, odpor k upřesnění v moderátorském chatu a monokultura zdrojů. Pro moderátory podobných komunit je ověřitelným markerem podíl skrytých nebo zabanovaných příspěvků, které obsahují protiargumenty; Kraut a Resnick (2012) doporučují pravidelný audit moderátorských rozhodnutí jako součást zdravé správy komunity.

Diferenciální diagnostika

První alternativou je poctivé občanské pátrání. Amatérští vyšetřovatelé někdy pomohou – sdílením informací s policií, ne pranýřováním soukromých osob. Rozdíl je v otevřenosti vůči falsifikaci a v ochraně lidí, kteří nejsou obviněni; Heuer (1999) by řekl, že poctivá analýza aktivně hledá důkazy proti vlastní hypotéze.

Druhou alternativou jsou obsedantně-kompulzivní rysy. Neustálé kontrolování a nespavost by mohly připomínat nutkavé chování. DSM-5 však u obsedantně-kompulzivní poruchy popisuje vtíravé myšlenky, které člověk prožívá jako nechtěné (American Psychiatric Association, 2013); zde šlo o skupinově sdílenou aktivitu se sociální odměnou.

Třetí alternativou je akutní stresová reakce a deprese po zhroucení. Příznaky po oznámení byly výrazné a vyžadovaly krizovou péči; je třeba je hodnotit i jako riziko sebepoškození (suicidální riziko). Turecki a Brent (2016) řadí akutní psychosociální zátěž k bezprostředním rizikovým faktorům sebevražedného jednání, a posouzení rizika je proto v takové chvíli nezbytné.

Čtvrtou alternativou je paranoidní porucha. Podezíravost vůči kritikům byla omezena na komunitu a po odchodu zmizela, zatímco paranoidní porucha osobnosti je podle DSM-5 trvalým vzorcem nedůvěry v mnoha prostředích (American Psychiatric Association, 2013).

Pátou alternativou je upřímné přesvědčení. Subjekt v teorii skutečně věřil a přesvědčení samo není patologie. Rozhodující bylo, že struktura komunity znemožnila jeho revizi; Nickerson (1998) připomíná, že konfirmační zkreslení je normální lidskou tendencí, kterou korigují až instituce s pravidly pro nesouhlas.

Intervenční strategie

Nejprve proběhla krizová stabilizace a posouzení suicidálního rizika (Turecki a Brent, 2016), poté protokol epistemické rekonstrukce ve stupních S1–S5, jejichž pořadí vychází z modelu zotavení, který popsala Herman (1992).

S1 – Validace a mapování. Uznání motivace – spravedlnosti pro oběť – bez relativizace škody. Mapa zahrnovala vlastní rozhodnutí, rozhodnutí týmu a mechanismy, které jednaly za ně. Litz a kolegové (Litz et al., 2009) považují rozlišení vlastního podílu od podílu okolností za předpoklad práce s morálním zraněním.

S2 – Externalizace introjektů. Oddělení vlastního analytického úsudku od „hlasu komunity“: které závěry by subjekt sám obhájil, kdyby je musel podepsat jménem. White a Epston (1990) popisují externalizaci jako oddělení problému od osoby; zde se oddělovaným hlasem stal kolektivní soud.

S3 – Rekonstrukce metakognice. Rozbor časové osy, na níž stála teorie, a identifikace bodů, kde se předpoklad změnil ve fakt (hodnocení důkazů, osobní audit zkreslení). Heuer (1999) navrhuje analýzu konkurujících hypotéz (analysis of competing hypotheses), v níž se důkazy posuzují proti všem alternativám současně; subjekt ji použil zpětně na celou teorii komunity.

S4 – Hermeneutická obnova. Práce s morálním zraněním: vina úměrná podílu, nikoli totální. Subjekt napsal podezřelému omluvný dopis přes jeho právního zástupce. Bandura (1999) ukazuje, že navrácení osobní odpovědnosti je protipólem morálního vyvázání; úměrnost viny chrání před tím, aby se změnila v sebetrestání.

S5 – Konsolidace a transfer. Analytické dovednosti převedl do dobrovolnictví v ověřování faktů pod redakčním dohledem, kde je odpovědnost jasně přiřazena. Tetlock (2005) ukazuje, že úsudek se zlepšuje tam, kde jsou předpovědi a závěry zaznamenávány a zpětně porovnávány se skutečností.

Právní rámec

Subjekt konzultoval právníka kvůli možné odpovědnosti moderátorů za šíření osobních údajů a pomluvy; konkrétní právní hodnocení nebylo v kompozitu uzavřeno. Obecně se šíření nepravdivého obvinění soukromé osoby dotýká civilní ochrany osobnosti podle zákona č. 89/2012 Sb., občanského zákoníku, a trestní roviny pomluvy podle zákona č. 40/2009 Sb., trestního zákoníku; zveřejňování osobních údajů spadá pod nařízení (EU) 2016/679 (GDPR). Zda a kdo by odpovídal, závisí na konkrétním jednání a text to nepředjímá. Gillespie (2018) upozorňuje, že odpovědnost za obsah v moderovaných komunitách je rozptýlena mezi autory, dobrovolné moderátory a platformu, a právě tato rozptýlenost ztěžuje nápravu.

Výsledek

Po patnácti měsících subjekt nemoderuje žádnou komunitu, pracuje a obnovil několik vztahů mimo internet. Akutní příznaky odezněly. Reziduálně přetrvává vina a nedůvěra k vlastním analýzám, kterou terapeut pozoruje i v práci – subjekt kontroluje výsledky víckrát, než je nutné. Podezřelý omluvu přijal, ale ke kontaktu nesvolil. Komunita se přejmenovala a věnuje se jinému případu; řada členů si neuvědomuje, co se stalo. Janis (1982) doporučoval proti skupinovému myšlení zavést postupy pro systematický nesouhlas, například roli ďáblova advokáta; bez nich se podobné selhání může opakovat.

Klinické poučení

Kult nemusí mít vůdce. Hlasovací systémy, filtry a pravidla mohou vykonávat funkci guru: určovat, co je vidět, a trestat odchylku (Massanari, 2017). Pravidla zavedená proti trollům mají tendenci zachytit legitimní nesouhlas, a komunity by proto měly pravidelně revidovat, co jejich filtry skrývají (sledovatelnost rozhodnutí), jak doporučují i Kraut a Resnick (2012).

Moderátoři jsou ve zvláštní pozici: nesou odpovědnost, ale jsou zároveň formováni strukturou, a terapie musí držet obojí (Matias, 2019). Otevřenou otázkou zůstává, jak má komunita amatérského pátrání nastavit ochranu nevinných osob, když její samotná existence stojí na hledání viníka; Heuer (1999) by odpověděl, že ochranou je metoda, která nutí hledat důkazy proti vlastní hypotéze, ale zda ji lze vynutit v otevřené online komunitě, zůstává nejisté.

Literatura

• American Psychiatric Association. (2013). Diagnostic and Statistical Manual of Mental Disorders (5th ed.). American Psychiatric Publishing.
• Bandura, A. (1999). Moral disengagement in the perpetration of inhumanities. Personality and Social Psychology Review.
• Crocker, J., a Wolfe, C. T. (2001). Contingencies of self-worth. Psychological Review.
• Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
• Gabbard, G. O. (2000). Disguise or consent. International Journal of Psychoanalysis.
• Gillespie, T. (2018). Custodians of the Internet. Yale University Press.
• Herman, J. L. (1992). Trauma and Recovery. Basic Books.
• Heuer, R. J. (1999). Psychology of Intelligence Analysis. Center for the Study of Intelligence.
• Janis, I. L. (1982). Groupthink: Psychological Studies of Policy Decisions and Fiascoes (2nd ed.). Houghton Mifflin.
• Johnson, M. K., Hashtroudi, S., a Lindsay, D. S. (1993). Source monitoring. Psychological Bulletin.
• Kraut, R. E., a Resnick, P. (2012). Building Successful Online Communities: Evidence-Based Social Design. MIT Press.
• Litz, B. T., et al. (2009). Moral injury and moral repair in war veterans. Clinical Psychology Review.
• Massanari, A. (2017). #Gamergate and The Fappening: How Reddit's algorithm, governance, and culture support toxic technocultures. New Media & Society.
• Matias, J. N. (2019). The civic labor of volunteer moderators online. Social Media + Society.
• Muchnik, L., Aral, S., a Taylor, S. J. (2013). Social influence bias: A randomized experiment. Science.
• Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. Episteme.
• Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology.
• Suler, J. (2004). The online disinhibition effect. CyberPsychology & Behavior.
• Sunstein, C. R. (2009). Going to Extremes: How Like Minds Unite and Divide. Oxford University Press.
• Tetlock, P. E. (2005). Expert Political Judgment: How Good Is It? How Can We Know? Princeton University Press.
• Turecki, G., a Brent, D. A. (2016). Suicide and suicidal behaviour. The Lancet.
• White, M., a Epston, D. (1990). Narrative Means to Therapeutic Ends. W. W. Norton.

Související

Techniky

• EA-2.1.9 Pseudo-konsenzus vytvoření – hlasování jako výroba shody.
• EA-9.3.6 Content Moderation Bias – filtry, které skryly nesouhlas.
• EA-2.3.8 Doxxing Epistemický – šíření údajů o soukromé osobě.

Glosář

• Konfirmační bias – kolektivní čtení nových informací.
• Epistemická monokultura – kult bez guru.

Protokoly a obrana

• Hodnocení důkazů – odkud se vzal „fakt“.
• Sledovatelnost rozhodnutí – revize moderátorských pravidel.
• Pomluva v EA kontextu – právní rovina pranýřování.

Sousední případy

• Případ 78: Kult internetového fóra – starší formát s hodnostmi a vylučováním.
• Případ 04: Mediální mob attack – zkušenost cíle davového útoku.
• Historický případ: Pizzagate – veřejně známý vzorec davového „odhalení“ nevinných.