EA-9.3.4 Recommendation Radicalization

Subkategorie 📱 9.3 Sociální platformy — současná digitální epistemická agrese v éře AI, sociálních platforem a algoritmické governance.

---

1. Identifikace

Kód: EA-9.3.4 Název: Recommendation Radicalization Subkategorie: 9.3 Sociální platformy Doména: Digitální / AI-mediated EA Risk level: Moderate-High

2. Definice

Recommendation radicalization je postupný posun uživatele k extrémnějšímu obsahu prostřednictvím doporučovací smyčky: od mírného obsahu k ostřejšímu a dále k extrémnímu, přičemž každý krok vypadá jako malé a přirozené pokračování. Vzorec může vznikat jako vedlejší účinek optimalizace na zapojení, nebo cíleně – když aktéři vytvářejí obsah odstupňovaný tak, aby uživatele vedl.

3. Mechanismus (strukturálně)

Doporučovací systém nabízí obsah, který udrží pozornost; intenzivnější obsah ji často udrží lépe. Uživatel, který hledá vysvětlení osobní frustrace (osamělost, nespravedlnost, ztráta), dostává nabídku stále jednoznačnějších odpovědí a stále jasněji definovaného nepřítele. Komunity kolem obsahu poskytují uznání a příslušnost, které uživateli jinde chybějí. Radikalizace tak není jen informační, ale i sociální proces; algoritmus je urychlovač, ne jediná příčina. Vzorec úzce souvisí s EA-9.5.9 Meme Radicalization Pipeline, kde se tentýž gradient odehrává přes humor.

4. Detekční markery

• Proměna slovníku: nálepky pro skupiny lidí, dehumanizující výrazy, „my a oni“.
• Rostoucí čas strávený s jedním typem obsahu a jednou komunitou; ubývání jiných zájmů a vztahů.
• Nedůvěra ke všem „mainstreamovým“ zdrojům a k blízkým, kteří s obsahem nesouhlasí.
• Postupné přijímání tvrzení, která by dotyčný dříve odmítl, a omlouvání násilí.
• Historie sledování ukazuje zřetelný gradient od obecných témat k vyhraněným.

5. Odlišení

Hledání informací o kontroverzním tématu: zájem bez proměny identity, slovníku a vztahů. Politická angažovanost: i ostrá, pokud respektuje lidskou důstojnost a zůstává otevřená argumentům. EA-9.3.3 Feed Personalization Bias: zúžení obrazu bez dynamického posunu k extrému.

6. Dopad a rámec

Na úrovni jednotlivce vede radikalizace k izolaci, konfliktům v rodině, někdy ke ztrátě práce a vzácně k násilí. Na úrovni společnosti posiluje extremistické komunity. Rámec reakce zahrnuje prevenci (mediální výchova, práce s mládeží), poradenství pro blízké a programy odchodu z extremistického prostředí; tam, kde hrozí násilí, i bezpečnostní složky. Regulačně se týká povinnosti platforem posuzovat rizika doporučovacích systémů.

Pro školy a sociální služby je radikalizace i otázkou bezpečnosti spolužáků a kolegů; při vážném podezření na přípravu násilí je namístě spolupráce s odborníky a v krajním případě s policií.

7. Obrana a zotavení

Blízcí: udržet vztah a rozhovor i při nesouhlasu; zajímat se o potřeby, které obsah naplňuje (příslušnost, smysl, uznání). Uživatel: všímat si gradientu v doporučeních; čistit historii a vědomě vyhledávat jiné zdroje. Školy a sociální práce: prevence izolace, nabídka skutečné komunity. Profesionálové: pracovat podle zkušeností z programů odchodu; zahanbení a konfrontace bývají kontraproduktivní.

8. Příklad (anonymizovaný kompozit)

Šestnáctiletý chlapec začne sledovat videa o posilování a sebezdokonalování. Doporučení ho postupně přivedou k obsahu o tom, že za jeho neúspěch mohou ženy a „systém“, a dál k uzavřené komunitě s nenávistným slovníkem. Rodiče si všimnou, že přestal chodit na trénink a mluví o spolužačkách s pohrdáním. Školní psycholožka s ním mluví o jeho osamělosti, ne o videích; postupně se vrátí do sportovního oddílu a jeho zájem o komunitu slábne.

9. Meze a otevřené otázky

Role algoritmů v radikalizaci je předmětem výzkumného sporu: některé studie nacházejí výrazný posun doporučení k extrému, jiné zdůrazňují aktivní vyhledávání uživatelů. Pravděpodobně se kombinují oba faktory. Kniha proto vzorec popisuje jako interakci systému a osobní zranitelnosti.

Další otevřenou otázkou je, jak hodnotit účinnost prevence, protože úspěch se projevuje tím, co se nestalo. Programy odchodu a preventivní projekty proto často dokládají výsledky jen kvalitativně a kniha jejich účinnost nekvantifikuje.

Nalezený gradient ve sledovaném obsahu neznamená, že člověk je radikalizovaný, a už vůbec ne, že je nebezpečný. Posuzovat změnu názorů a posuzovat riziko násilí jsou dvě různé úlohy s různými nástroji; většina lidí, kteří se k extrémnímu obsahu dostanou, se k násilí nikdy nepřiblíží a část ho sleduje ze zvědavosti, z odporu nebo profesně. Z dat o doporučeních navíc nelze odečíst, co uživatel hledal sám – Ribeiro et al. (2020) proto o migraci mluví jako o pozorované dráze, ne o příčině. Rodičům a školám z toho plyne praktická mez: historie prohlížení je podnět k rozhovoru, ne diagnóza ani sama o sobě důvod k hlášení.

10. Pohled zevnitř a práce s postiženým

Zevnitř radikalizace působí jako prozření a příslušnost: konečně někdo vysvětluje, proč je život těžký. Kritika zvenčí potvrzuje, že „oni“ jsou proti. Účinná práce proto začíná vztahem a uznáním potřeb a teprve postupně otevírá pochybnosti. Odchod z komunity přináší ztrátu identity a přátel; podpora musí nabídnout náhradu, ne jen zákaz.

Pro rodiče je těžké přijmout, že jejich dítě sdílí nenávistný obsah; podpora pro ně samotné – poradna, skupina rodičů v podobné situaci – jim pomůže zůstat s dítětem ve vztahu, který je pro jeho návrat klíčový.

11. Vztah k ostatním kategoriím EA

Kniha popisuje radikalizaci i v případových studiích (online radikalizace, incel recovery). Postupné posouvání hranic odpovídá vzorci posunu rozsahu a přechodu od mírného k extrémnímu v EA-9.5.9.

12. Postup pro blízké a profesionály

1. Všimnout si změn ve slovníku, vztazích a čase stráveném online.
2. Zahájit rozhovor z pozice zájmu, ne obvinění.
3. Zjistit potřeby, které obsah a komunita naplňují.
4. Nabídnout alternativy – vztahy, aktivity, smysl.
5. Vyhledat odbornou pomoc, pokud se objeví omlouvání násilí nebo izolace.

13. Prevence a odolnost

Prevence stojí na skutečných vztazích a komunitách, na mediální výchově, která vysvětluje doporučovací systémy, a na tom, že dospělí berou online svět mladých vážně. Pro platformy je prevencí omezení doporučování obsahu, který dehumanizuje skupiny.

14. Otázky pro rozhovor a šetření

• Jaký obsah sleduješ nejčastěji a jak ses k němu dostal?
• Co ti dává komunita kolem něj?
• Změnily se tvoje vztahy s lidmi mimo ni?
• Je obsah, který je i na tebe moc?

Odborný kontext

Ribeiro et al. (2020) na rozsáhlých datech z videoplatformy doložili, že uživatelé migrovali od mírnějšího obsahu k obsahu krajnějšímu a že doporučovací systém k této migraci zčásti přispíval; jiné studie zdůrazňují aktivní vyhledávání uživatelů. Benkler, Faris a Roberts (2018) ukázali, že radikalizace probíhá v mediálních ekosystémech, které se navzájem posilují a odmítají vnější korekci. Kniha proto chápe algoritmus jako urychlovač, nikoli jedinou příčinu.

Sociálně-psychologický rámec vysvětluje, proč je radikální komunita přitažlivá: nabízí identitu, příslušnost a jasného nepřítele (Tajfel a Turner 1979). Lidé v krizi, osamělí nebo s pocitem křivdy jsou k této nabídce vnímavější. Výzkum „psychologického očkování“ ukázal, že seznámení s manipulativními technikami předem zvyšuje schopnost je rozpoznat (Roozenbeek a van der Linden 2019), což je slibný prvek prevence.

Souvislosti pro praxi

Pro školy je užitečné propojit prevenci radikalizace s prevencí šikany a osamělosti, protože jde často o tytéž děti. Pro rodiče platí, že zákaz bez náhrady obvykle vede k utajování; rozhovor a nabídka skutečné komunity jsou účinnější. Pro terapeuty je důležité pracovat s pocitem křivdy, který komunita využívá, a nabídnout jiný způsob, jak ho zpracovat.

Literatura

• Benkler, Y., Faris, R., & Roberts, H. (2018). Network Propaganda. Oxford University Press.
• Ribeiro, M. H., Ottoni, R., West, R., Almeida, V. A. F., & Meira, W. (2020). Auditing radicalization pathways on YouTube. Proceedings of FAT 2020*.
• Roozenbeek, J., & van der Linden, S. (2019). Fake news game confers psychological resistance against online misinformation. Palgrave Communications.
• Tajfel, H., & Turner, J. C. (1979). An integrative theory of intergroup conflict. In W. G. Austin & S. Worchel (Eds.), The Social Psychology of Intergroup Relations. Brooks/Cole.

Související

Sourozenecké techniky

• EA-9.3.3 Feed Personalization Bias – zúžení obrazu světa.
• EA-9.5.9 Meme Radicalization Pipeline – gradient přes humor.
• EA-9.3.1 Algoritmická amplifikace – infrastruktura doporučování.

Případy

• Online radikalizace – anonymizovaný případ.
• Incel recovery – cesta zpět.
• Exit z extrémní pravice – zkušenosti z odchodu.

Prevence a obrana

• Detekční signatura: Akcelerace izolace – ubývání vztahů.
• Sebe-obrana: Prevence izolace – udržení sítě vztahů.