EA-9.4.5 Troll Farm EA

Subkategorie 🕸️ 9.4 Bot networks — současná digitální epistemická agrese v éře AI, sociálních platforem a algoritmické governance.

---

1. Identifikace

Kód: EA-9.4.5 Název: Troll Farm EA Subkategorie: 9.4 Bot networks Doména: Digitální / AI-mediated EA Risk level: Moderate-High

2. Definice

Troll farm („trollí farma“) je profesionalizovaná operace, v níž desítky až stovky placených pracovníků podle centrálních pokynů spravují množství falešných person a produkují obsah – komentáře, příspěvky, memy, provokace – se zadaným cílem a měřitelnými výkonovými ukazateli. Nejznámějším doloženým příkladem je petrohradská Internet Research Agency, jejíž činnost podrobně popsaly vyšetřovací zprávy v USA.

3. Mechanismus (strukturálně)

Trollí farma spojuje lidskou kreativitu s průmyslovou organizací. Na rozdíl od botů umí reagovat na kontext, používat místní slang a vést dlouhé diskuse; na rozdíl od spontánních trollů pracuje systematicky a dlouhodobě. Cílem nebývá jen šíření konkrétní teze, ale často rozvrat: posilování konfliktů mezi skupinami, zahlcení debaty, šíření cynismu a pocitu, že „pravdu nelze zjistit“. Tento účinek popisuje model firehose of falsehood: množství a rychlost místo konzistence.

4. Detekční markery

• Účty s propracovanými personami, které se aktivují v pracovních hodinách jednoho časového pásma.
• Obsah se tematicky mění současně u mnoha účtů podle aktuálního zadání.
• Provokace na obou stranách konfliktu – tentýž zdroj posiluje protichůdné skupiny.
• Jazykové zvláštnosti, které neodpovídají deklarovanému původu persony.
• Opakující se rétorické šablony, které se objevují napříč jazyky a zeměmi.

5. Odlišení

Spontánní trolling: jednotlivci provokují pro zábavu, bez koordinace a zadání. Placená komunikační agentura: legitimní, pokud vystupuje pod jménem klienta. EA-9.4.2 CIB: obecný rámec; trollí farma je jeho profesionalizovaná, lidmi provozovaná podoba.

6. Dopad a rámec

Trollí farmy přispívají k polarizaci a nedůvěře a mohou ovlivnit volby a veřejné debaty, i když přesnou velikost jejich účinku na postoje je obtížné změřit. Pro bezpečnostní rámec jde o součást informačních operací států i soukromých aktérů. Odpovědí jsou zprávy platforem, analýzy výzkumníků, sankční a trestní opatření vůči organizátorům a posilování odolnosti společnosti.

Pro komunity, které se staly cílem, je důležité pochopit, že rozvrat je cílem operace; obnova důvěry mezi skupinami, které byly rozeštvány, vyžaduje společná pravidla diskuse a někdy i zprostředkovaný rozhovor. Pro politiky a veřejné činitele platí, že obviňovat oponenty z „placeného trollingu“ bez důkazů je samo o sobě formou diskreditace, které by se měli vyhýbat.

7. Obrana a zotavení

Uživatel: všímat si provokací, které útočí na obě strany; neodpovídat obsahu, jehož cílem je vyvolat hádku. Novináři a výzkumníci: odhalovat sítě a jejich zadání; vysvětlovat cíl rozvratu, ne jen obsah. Komunity a moderátoři: pravidla diskuse, která snižují dosah provokací. Státy a instituce: strategická komunikace, podpora mediální gramotnosti (Programy mediální gramotnosti).

8. Příklad (anonymizovaný kompozit)

Ve skupině rodičů se rozhoří spor o očkování a současně ve skupině lékařů vlna útoků na „antivaxery“. Výzkumníci si všimnou, že nejostřejší příspěvky na obou stranách pocházejí z účtů s podobnou historií, aktivních ve stejných hodinách a se stejnými jazykovými chybami. Analýza ukáže síť napojenou na zahraniční operaci, jejímž cílem nebylo přesvědčit, ale rozeštvat. Po zveřejnění se obě skupiny dohodnou na pravidlech diskuse.

9. Meze a otevřené otázky

Ne každý ostrý účet je troll z farmy a obvinění z „placeného trolla“ se samo stává nástrojem diskreditace oponentů. Rozhodují doložené síťové znaky, ne nepohodlný názor. Velikost skutečného vlivu trollích farem na voliče je mezi výzkumníky sporná.

Kniha neuvádí čísla o počtech pracovníků nebo účtů jednotlivých operací, pokud nejsou doložena oficiálními zprávami.

Otevřené zůstává i to, jak se trollí farmy promění s nástupem jazykových modelů, které mohou část lidské práce nahradit a zároveň zvýšit objem produkovaného obsahu; kniha tento vývoj sleduje v souvislosti s EA-9.4.4.

10. Pohled zevnitř a práce s postiženým

Lidé, kteří se s trollí farmou střetli – jako cíle útoků nebo jako ti, kdo se nechali vtáhnout do hádek –, často popisují vyčerpání a ztrátu důvěry v online debatu. Pomáhá pochopit cíl rozvratu: vyhrát se dá tím, že se nenechám vtáhnout, ne tím, že porazím každého trolla. Pro bývalé zaměstnance takových operací (pokud se objeví) může být důležitá i práce s vinou.

Pro lidi, kteří se v konfliktu se zahraničními trolly nechali strhnout k ostrým výrokům vůči sousedům či kolegům, je užitečné vědět, že nebyli jediní, a mít možnost vztahy napravit bez ztráty tváře.

11. Vztah k ostatním kategoriím EA

Teoretický rámec dodává kapitola o politické a ideologické EA a Snyderova analýza tyranie. Dlouhodobé zahlcování debaty souvisí s EA-1.1.2 Informační přetížení.

12. Postup při podezření na trollí farmu

1. Zmapovat účty s propracovanými personami a jejich aktivitu v čase.
2. Hledat pracovní rytmus – hodiny, dny, časové pásmo.
3. Porovnat rétorické šablony napříč jazyky a tématy.
4. Sledovat provokace na obou stranách konfliktu.
5. Spolupracovat s výzkumníky a předat poznatky platformám.

13. Prevence a odolnost

Prevence stojí na odolnosti komunit vůči provokacím – pravidlech diskuse, moderaci, vědomí, že cílem bývá rozvrat –, na mediální gramotnosti a na strategické komunikaci institucí. Pro jednotlivce platí, že nejlepší odpovědí na provokaci je často nereagovat.

Pro školy a knihovny je užitečné zařadit do mediální výchovy příklady provokací cílených na obě strany sporu, aby lidé vzorec poznali i ve vlastní komunitě.

14. Otázky pro rozhovor a šetření

• Kdy jsou účty aktivní a v jakém rytmu?
• Útočí tentýž zdroj na obě strany sporu?
• Odpovídá jazyk deklarovanému původu persony?
• Mění účty témata současně?
• Komu prospívá rozeštvání debaty?

Odborný kontext

Činnost petrohradské Internet Research Agency patří k nejpodrobněji zdokumentovaným příkladům profesionalizované trollí operace; vyšetřovací zprávy v USA a akademické analýzy popsaly její organizaci, rozsah a cílení na obě strany politických konfliktů. Paul a Matthews (2016) popsali propagandistický model, který spoléhá na množství, rychlost a opakování a je lhostejný k pravdě i ke konzistenci; trollí farmy jsou jeho lidskou infrastrukturou. Woolley a Howard (2018) doložili, že podobné operace s placenými pracovníky provozují státy i soukromé firmy v řadě zemí.

Benkler, Faris a Roberts (2018) upozornili, že vliv zahraničních operací na americké volby nelze oddělit od domácího mediálního prostředí, které jejich obsah přebíralo a zesilovalo; velikost samotného účinku trollí farem na postoje voličů zůstává sporná. Kniha proto zdůrazňuje cíl rozvratu – posilování konfliktů a cynismu – spíše než schopnost přesvědčit.

Za pozornost stojí povaha samotných důkazů. Obraz petrohradské operace pochází z obžalob a parlamentních vyšetřovacích zpráv, tedy z dokumentů vzniklých pro určitý účel: dobře dokládají organizaci, financování a objem práce, ale o výsledném vlivu na voliče vypovídají málo. Paul a Matthews (2016) svůj model „firehose of falsehood“ formulovali jako popis doktríny a jejích předpokladů, nikoli jako měření přesvědčovacího účinku. Rozlišení od legitimní komunikační agentury proto nestojí na tom, jak ostrý obsah vzniká, ale na tom, zda je klient pojmenovatelný: agentura pracující pod jménem zadavatele nese reputační i právní odpovědnost, kterou farma s falešnými personami právě ruší. Interpretace knihy: výkonové ukazatele, jimiž se taková operace řídí, přitom odměňují objem, ne pravdivost.

Souvislosti pro praxi

Pro moderátory a redakce je užitečné vědět, že provokace na obou stranách sporu mohou mít společný zdroj, a moderovat podle chování, ne podle strany. Pro instituce je prevencí pravidelná a pravdivá komunikace, která nenechává prostor pro spekulace. Pro výzkum je cenná spolupráce s platformami při analýze sítí.

Literatura

• Benkler, Y., Faris, R., & Roberts, H. (2018). Network Propaganda. Oxford University Press.
• Paul, C., & Matthews, M. (2016). The Russian „Firehose of Falsehood“ Propaganda Model. RAND Corporation.
• Woolley, S. C., & Howard, P. N. (Eds.) (2018). Computational Propaganda. Oxford University Press.

Související

Sourozenecké techniky

• EA-9.4.2 Coordinated Inauthentic Behavior – obecný rámec.
• EA-9.4.3 Sock Puppet Network – falešné identity.
• EA-9.4.6 Mass Comment Coordination – zahlcení komentáři.

Pojmy a teorie

• Firehose of falsehood – zahlcení množstvím.
• Informační operace – bezpečnostní rámec.
• Politická a ideologická EA – teoretická kapitola.

Obrana

• Programy mediální gramotnosti – společenská odolnost.
• Obrana proti dezinformacím – organizační reakce.