Případová studie 73: Kult digitální platformy

Upozornění: Anonymizovaný kompozit z několika případů spojených s komunitními online platformami; obor, název, firma, země i časové údaje jsou změněny. Případ nepopisuje žádnou skutečnou službu. Kompozit a silné zastření údajů odpovídají postupům, které pro publikaci klinického materiálu doporučuje Gabbard (2000). Slouží kvalifikovaným odborníkům k rozpoznání vzorce, u něhož je kontrolujícím činitelem kombinace vlastníka platformy a jejích mechanismů.

Výchozí situace subjektu

Subjekt, muž kolem třiceti let, pracuje jako vývojář softwaru. S platformou se setkal v devatenácti letech jako student: šlo o komunitní službu otázek a odpovědí pro jeden technický obor, kde dobrovolníci odpovídali na dotazy, hlasovali o kvalitě odpovědí a získávali reputační body. Za body se odemykala oprávnění – editace cizích příspěvků, hlasování o uzavření otázek a nakonec role moderátora. Zakladatel a ředitel firmy, která platformu provozovala, psal pravidelné manifesty o „znalostech, které patří komunitě“, a vystupoval na setkáních dobrovolníků jako jeden z nich. Terranova (2000) upozornila, že digitální ekonomika stojí na dobrovolné, neplacené a často s potěšením odváděné práci uživatelů, kterou si přisvojuje provozovatel; právě tento rámec je pro případ výchozí.

Pro subjekt byla platforma školou, místem prvního uznání i profesní vizitkou: reputační skóre uváděl v životopise a díky němu získal první práci. Byl spíše uzavřený, měl stabilní vztah s rodiči a několik přátel ze studií a neměl psychiatrickou anamnézu. Na rozdíl od kultu kolem jednoho moderátora fóra (případ 78) nebo jednoho serveru (případ 79) zde kontrolu nevykonával jeden člověk. Vykonávala ji firma prostřednictvím pravidel, algoritmů a nástrojů a malý okruh zaměstnanců a elitních moderátorů s přístupem do soukromého kanálu se zakladatelem. Gillespie (2018) ukazuje, že moderace není okrajovou funkcí platforem, ale jádrem toho, čím platforma je, a že rozhodování o ní zůstává převážně neviditelné.

Časová osa expozice

V prvních dvou letech subjekt odpovídal na otázky, sbíral první body a měl pocit, že „tady se hodnotí kvalita, ne známosti“. Mezi druhým a pátým rokem získal oprávnění k editaci, udržoval každodenní série aktivity, reagoval na notifikace v telefonu a jiné zájmy výrazně ustoupily. Fogg (2003) popsal, jak navržená technologie mění chování kombinací motivace, snadnosti a spouštěče; série a odznaky jsou učebnicovým příkladem takového návrhu. Mezi pátým a devátým rokem byl moderátorem, měl přístup do soukromého kanálu se zakladatelem a cítil se spoluodpovědný za „poznání oboru“.

V devátém až desátém roce firma změnila obchodní model a pravidla licencování obsahu, dobrovolníci protestovali a subjekt měl nová pravidla vymáhat. V desátém roce odmítl mazat kritické příspěvky; jeho vlastní příspěvky ztratily viditelnost a objevila se hromadná nahlášení. Následovalo automatické odebrání moderátorských práv a pozastavení účtu, přičemž desetiletá práce zůstala pod licencí firmy, a poté rok rekonstrukce v terapii a budování profesní identity mimo platformu. Hirschman (1970) rozlišuje mezi hlasem a odchodem jako dvěma reakcemi na úpadek organizace; protest dobrovolníků byl hlasem, který organizace potlačila, a odchod neumožnila bez ztráty díla.

Rozhodujícím rysem bylo, že pravidla platformy byla dlouho skutečně spravedlivá a pro subjekt osvobozující: hodnotila jeho odpovědi, ne jeho původ. Kontrola nevznikla zneužitím zjevně špatného systému, ale tím, že dobrý systém měl jednoho vlastníka, který mohl kdykoli změnit jeho pravidla, a že subjekt měl veškerou svou odbornou identitu uloženou v jeho číslech. Muller (2018) popisuje, jak se měřítko, které mělo výkon jen zachycovat, stává jeho cílem a začne určovat, co lidé za výkon považují.

Projevené EA techniky

EA-9.3.2 Engagement Optimization EA se projevila sériemi denní aktivity, odznaky a notifikacemi, které držely pozornost na platformě; jejich přerušení bylo prožíváno jako ztráta. Schüll (2012) na příkladu hracích automatů ukázala, jak proměnlivá odměna a nepřerušovaný tok podnětů vytvářejí stav, z něhož se těžko vystupuje; reputační systém sdílí část této struktury. Rozpoznávacím znakem je, že kontrola čísel předchází kontaktu s lidmi.

EA-9.3.6 Content Moderation Bias nastala po obratu: příspěvky kritizující nová pravidla byly uzavírány jako „mimo téma“ a mazány, podpůrné příspěvky zůstávaly. Gillespie (2018) zdůrazňuje, že pravidla moderace jsou vždy hodnotovou volbou, a proto je jejich nerovnoměrné vymáhání vůči kritikům provozovatele zvlášť závažné.

EA-9.3.5 Shadowban Coordination se ukázala tím, že se odpovědi subjektu po jeho odporu přestaly zobrazovat na předních místech, aniž by mu kdo sdělil proč; platforma odkazovala na „algoritmus“. Pasquale (2015) označuje systémy, jejichž vstupy a pravidla zůstávají dotčeným skryté, za černé skříňky (black box) a upozorňuje, že neprůhlednost sama je formou moci.

EA-9.3.8 Mass Reporting Coordination spočívala v tom, že loajální uživatelé hromadně nahlašovali jeho starší příspěvky za drobné prohřešky proti pravidlům, jež se dříve nevymáhala. Matias (2019) popisuje dobrovolnou moderaci jako občanskou práci, která je vůči tlaku komunity zranitelná; hromadné nahlašování mění nástroj ochrany komunity v nástroj trestu.

EA-9.6.3 Automated Content Takedown a EA-9.6.4 AI Deplatforming Cascade navázaly: součet nahlášení spustil automatické odebrání práv a pozastavení účtu a odvolání vyřizoval tentýž okruh, proti němuž protestoval. Burrell (2016) rozlišuje několik zdrojů neprůhlednosti algoritmických systémů – záměrné utajení, odbornou nesrozumitelnost a vnitřní složitost modelu – a všechny tři zde působily současně.

EA-2.1.9 Pseudo-konsenzus vytvoření dovršila obraz: vybrané pozitivní ohlasy na nová pravidla byly v oficiálním oznámení zvýrazněny jako „hlas komunity“. Kraut a Resnick (2012) ukazují, že vnímaná podpora většiny silně ovlivňuje ochotu členů online komunity se ozvat; výběrové zvýraznění tuto ochotu záměrně tlumí.

Fenomenologický průběh

Subjekt popisoval reputační skóre jako „číslo, které říkalo, kolik jsem“. Ráno se nejprve díval na přírůstek bodů a teprve potom na zprávy od lidí. Pocit vlastní odbornosti se postupně přestal opírat o to, zda jeho kód v práci funguje, a začal se opírat o hlasování anonymních uživatelů. Crocker a Wolfe (2001) popisují sebehodnocení podmíněné určitou oblastí (contingencies of self-worth): čím více je sebeúcta navázána na jedno externí měřítko, tím prudčeji kolísá s jeho výkyvy. Ve vnitřním okruhu se k tomu přidala silná sounáležitost: „Měli jsme pocit, že chráníme poznání celého oboru před zaplavením nesmysly.“

Po obratu se objevila zvláštní forma nejistoty, kterou subjekt nedokázal rozptýlit: nevěděl, zda pokles viditelnosti jeho odpovědí je trestem, nebo náhodným výsledkem algoritmu. Platforma mu nedala data, která by to rozhodla. „Nejhorší nebylo, že mě umlčeli. Nejhorší bylo, že jsem nevěděl, jestli mě umlčeli, nebo jestli už jen píšu horší odpovědi.“ Tato neprůhlednost, kterou Pasquale (2015) považuje za systémový rys, vedla k nejistotě o realitě a k rekurzivní paralýze: každou novou odpověď přepisoval tolikrát, že ji nakonec nepublikoval.

Po pozastavení účtu přišel pocit vymazání. Odpovědi, které psal deset let, zůstaly veřejné, některé pod jeho jménem, jiné anonymizované, a firma je dále licencovala. Subjekt to popisoval jako „vidět svůj dům, ve kterém bydlí někdo jiný“. Objevila se epistemická bezdomovost i obtíž věřit jakékoli vnější zpětné vazbě, protože ta jediná, které věřil, se ukázala jako nástroj vlastníka. Terranova (2000) předpověděla právě tento rozpor: práce, kterou člověk prožívá jako dar komunitě, je zároveň hodnotou, kterou si odnáší provozovatel.

Detekční bod

Vzorec pojmenovali až lidé mimo platformu. Kolegyně v práci si všimla, že subjekt hodnotí kvalitu kódu kolegů podle toho, „kolik by to dostalo hlasů“, a že je po pozastavení účtu dlouhodobě nesoustředěný; na její popud vyhledal psychologa. Muller (2018) popisuje přenos metriky do oblastí, pro které nebyla navržena, jako jeden z nejspolehlivějších znaků toho, že měřítko ovládlo úsudek.

Z hlediska markerů byla zřetelná deplatformingová kaskáda – hromadná nahlášení, automatické odebrání práv, odvolání bez nezávislého posouzení – a asymetrie amplifikace mezi kritickými a podpůrnými příspěvky po změně pravidel. Část těchto pozorování mohl subjekt doložit snímky obrazovky a exportem vlastních dat, o který požádal na základě práva na přístup k osobním údajům podle obecného nařízení o ochraně osobních údajů (GDPR); Gillespie (2018) zdůrazňuje, že bez takových dat zůstává uživatel vůči moderaci bez důkazů.

Diferenciální diagnostika

První alternativou je problematické užívání internetu. Kompulzivní kontrola bodů a notifikací byla přítomna a vyžadovala samostatnou práci, protože podle Schüll (2012) má návrh nepřerušovaného toku vlastní návykový potenciál. Nevysvětluje však jádro obtíží: ztrátu schopnosti posoudit kvalitu vlastní práce jinak než metrikou jedné firmy.

Druhou alternativou je paranoidní ideace. Neprůhlednost algoritmů činí ověření nemožným a klinik by neměl nejistotu klienta automaticky vykládat jako paranoiu (Burrell, 2016). Rozhodující je, zda klient připouští alternativní vysvětlení a zda lze část tvrzení doložit daty; obojí platilo.

Třetí alternativou je běžný spor se společností. Nesouhlas s obchodním rozhodnutím firmy je běžný; Hirschman (1970) ho popisuje jako zdravou reakci členů na úpadek organizace. Zde se k němu připojila ztráta identity, vztahů a desetileté práce bez možnosti odvolání k nezávislému orgánu.

Čtvrtou alternativou je legitimní dobrovolnická komunita s pevnými normami. Přísná pravidla a moderace samy o sobě kultem nejsou; Kraut a Resnick (2012) je naopak řadí k předpokladům úspěšné online komunity. Rozlišující je transparentnost pravidel, možnost nezávislého odvolání a možnost odejít s vlastní prací.

Pátou alternativou je depresivní epizoda. Nálada byla po pozastavení účtu snížena; zlepšovala se s budováním profesních vazeb mimo platformu, což podporuje reaktivní povahu obtíží. Crocker a Wolfe (2001) očekávají právě takový průběh u sebehodnocení navázaného na jedinou oblast, která byla ztracena.

Intervenční strategie

Postup vycházel z protokolu epistemické rekonstrukce s prvky digitální hygieny. Herman (1992) zdůrazňuje, že zotavení začíná obnovou bezpečí a pocitu vlády nad vlastním životem; zde to znamenalo nejprve vrátit subjektu kontrolu nad tím, které podněty k němu přicházejí.

S1 – Validace a mapování. Uznání, že platforma mu dlouho skutečně dávala férové hodnocení a že ztráta je skutečná. Vznikla mapa toho, co z jeho odborné identity bylo uloženo jen v jednom systému. Boss (1999) upozorňuje, že ztráta, kterou okolí nepovažuje za skutečnou, se hůře zpracovává; validace proto předcházela všemu ostatnímu.

S2 – Externalizace introjektů. Oddělení věty „jsem tolik, kolik mám bodů“ od vlastního měřítka kvality a pojmenování, že metrika byla nástrojem firmy, ne objektivním soudem. White a Epston (1990) by takový krok označili za oddělení problému od osoby.

S3 – Rekonstrukce metakognice. Hodnocení vlastní práce podle kritérií, která lze ověřit bez platformy: funguje kód, chápe kolega vysvětlení, obstojí odpověď za rok? Souběžně proběhla detoxikace feedu a vypnutí notifikací. Flavell (1979) chápe metakognici jako sledování vlastního poznání; cílem bylo vrátit toto sledování z platformy k samotnému subjektu.

S4 – Hermeneutická obnova. Přijetí nejistoty: některé věci, například zda byl jeho pokles viditelnosti úmyslný, se nikdy nedozví. Práce s tím, jak žít s nerozhodnutelnou otázkou bez přemítání, vychází z pojetí nejednoznačné ztráty, jak ho popisuje Boss (1999).

S5 – Konsolidace a transfer. Vlastní archiv odpovědí, portfolio na místě, které sám spravuje, a diverzifikace sítě – mentoring juniorů v práci a setkání komunity oboru offline. Rozložení sebehodnocení do více oblastí snižuje podle Crockera a Wolfeové (Crocker a Wolfe, 2001) jeho zranitelnost.

Právní a organizační rámec

Přístup k vlastním datům, o který subjekt požádal, zaručuje nařízení (EU) 2016/679 (GDPR); jeho provádění v českém právu upravuje zákon č. 110/2019 Sb., o zpracování osobních údajů. Nařízení (EU) 2022/2065 o digitálních službách (Digital Services Act) ukládá poskytovatelům online platforem mimo jiné povinnost odůvodnit omezení obsahu nebo účtu a zajistit vnitřní systém vyřizování stížností; posouzení, zda se vztahovalo na tuto konkrétní službu a období, patří právníkovi. Gillespie (2018) i Pasquale (2015) dovozují, že bez povinné transparentnosti zůstává uživatel vůči rozhodnutím platformy fakticky bezbranný.

Provozovatelům komunitních platforem doporučujeme zveřejněná pravidla moderace, odvolání k orgánu nezávislému na vedení a možnost dobrovolníků odnést si vlastní práci. Obecné zásady digitální hygieny patří i do vzdělávání studentů technických oborů, pro něž je taková platforma často prvním profesním prostředím; Matias (2019) ukazuje, že dobrovolní moderátoři nesou odpovědnost, kterou jim platforma nevyvažuje odpovídajícími právy.

Výsledek

Po roce subjekt přispívá do otevřené dokumentace jednoho softwarového projektu, kde jsou rozhodnutí veřejná a správci se mění. Kompulzivní kontrola čísel se zmírnila, ale v nových prostředích s metrikami se vrací; vědomě se jim vyhýbá. Přetrvává nedůvěra k firemní rétorice o „komunitě“ a smutek nad prací, kterou už nemůže považovat za svou. Firma jeho účet neobnovila a na odvolání neodpověděla věcně. Zbytková citlivost na metriky odpovídá tomu, co Muller (2018) popisuje jako trvalou stopu prostředí, v němž číslo nahradilo úsudek.

Klinické poučení

U klientů, jejichž profesní identita vznikla na jedné platformě, je třeba zjišťovat, kolik z jejich sebehodnocení závisí na metrice, kterou vlastní někdo jiný (Crocker a Wolfe, 2001). Neprůhlednost algoritmických systémů vytváří nejistotu, kterou nelze rozptýlit fakty; terapie musí počítat s tím, že některé otázky zůstanou otevřené, a nesmí je zaměnit za příznak (Burrell, 2016).

Pro právníky jsou export vlastních dat a dokumentace průběhu moderace důležitým materiálem (elektronické důkazy), protože bez nich nelze nerovné vymáhání pravidel doložit (Gillespie, 2018). Otevřenou otázkou zůstává, zda lze mluvit o kultu, když kontrolujícím činitelem je z velké části systém, a ne osoba. Případ naznačuje, že struktura kontroly může být podobná, i když odpovědnost je rozptýlená; Lifton (1961) popsal kontrolu prostředí jako rys situace, nikoli jen vůdce, a tento výklad je zde interpretací, nikoli zjištěním.

Literatura

• Boss, P. (1999). Ambiguous Loss: Learning to Live with Unresolved Grief. Harvard University Press.
• Burrell, J. (2016). How the machine „thinks“: Understanding opacity in machine learning algorithms. Big Data & Society.
• Crocker, J., a Wolfe, C. T. (2001). Contingencies of self-worth. Psychological Review.
• Flavell, J. H. (1979). Metacognition and cognitive monitoring. American Psychologist.
• Fogg, B. J. (2003). Persuasive Technology: Using Computers to Change What We Think and Do. Morgan Kaufmann.
• Gabbard, G. O. (2000). Disguise or consent. International Journal of Psychoanalysis.
• Gillespie, T. (2018). Custodians of the Internet. Yale University Press.
• Herman, J. L. (1992). Trauma and Recovery. Basic Books.
• Hirschman, A. O. (1970). Exit, Voice, and Loyalty. Harvard University Press.
• Kraut, R. E., a Resnick, P. (2012). Building Successful Online Communities: Evidence-Based Social Design. MIT Press.
• Lifton, R. J. (1961). Thought Reform and the Psychology of Totalism. W. W. Norton.
• Matias, J. N. (2019). The civic labor of volunteer moderators online. Social Media + Society.
• Muller, J. Z. (2018). The Tyranny of Metrics. Princeton University Press.
• Pasquale, F. (2015). The Black Box Society. Harvard University Press.
• Schüll, N. D. (2012). Addiction by Design: Machine Gambling in Las Vegas. Princeton University Press.
• Terranova, T. (2000). Free labor: Producing culture for the digital economy. Social Text.
• White, M., a Epston, D. (1990). Narrative Means to Therapeutic Ends. W. W. Norton.

Související

Techniky

• EA-9.3.2 Engagement Optimization EA – vazba přes body, série a notifikace.
• EA-9.3.5 Shadowban Coordination – umlčení bez vysvětlení.
• EA-9.6.4 AI Deplatforming Cascade – automatické vymazání po odporu.

Glosář

• Deplatforming – ztráta přístupu k vlastnímu publiku a práci.
• Epistemická bezdomovost – ztráta jediného zdroje odborného uznání.

Protokoly a obrana

• Detekční signatura: Deplatformingová kaskáda – průběh, který případ ukončil.
• Sebe-obrana: Detoxikace feedu – práce s kompulzivní kontrolou.
• Digitální hygiena – prevence u studentů a začínajících profesionálů.

Sousední případy

• Případ 72: Kult nakladatelství – kontrola nad dílem a právy v knižním světě.
• Případ 78: Kult fóra – kontrola soustředěná do jedné osoby.
• Případ 80: Kult subredditu – moderátorská moc v rámci velké platformy.