Historický případ: Internet Research Agency

Kategorie: Dezinformace a manipulace veřejností · Období: přibližně 2013–2018 · Místo: Petrohrad; cílení na USA

Internet Research Agency (IRA) je modelový případ koordinovaného neautentického chování (coordinated inauthentic behavior) na sociálních sítích. Nešlo v první řadě o šíření jedné lži, ale o výrobu falešných společenských identit – „obyčejných Američanů“ všech politických barev –, jejichž prostřednictvím organizace vstupovala do domácích sporů cizí země (DiResta a kol., 2018; Howard a kol., 2018). Pro Kompendium je případ důležitý tím, že útok nemíří na jednotlivé přesvědčení, ale na schopnost společnosti poznat, kdo v její debatě vůbec mluví.

Případ patří k nejlépe zdokumentovaným informačním operacím digitální éry: existuje obžaloba zvláštního vyšetřovatele, dvoudílná zpráva zpravodajského výboru amerického Senátu, datové sady odstraněných účtů zveřejněné platformami a desítky nezávislých analýz (Mueller, 2019; Senate Select Committee on Intelligence, 2019). Zároveň je to případ, na němž se ukazuje rozdíl mezi doloženým rozsahem operace a nedoloženým rozsahem jejího účinku. Obojí je pro defenzivní praxi stejně podstatné a stránka obě roviny drží odděleně.

Kontext

IRA vznikla kolem roku 2013 v Petrohradu jako soukromá firma napojená na podnikatele Jevgenije Prigožina. Původně se zaměřovala na domácí publikum a na ukrajinské téma po roce 2014; postupně rozšířila činnost na anglicky mluvící prostor (Mueller, 2019). Navazovala na tradici sovětských aktivních opatření, ale pracovala v prostředí, kde distribuci obstarávaly algoritmy platforem a kde cena vytvoření nové „identity“ klesla téměř na nulu (Rid, 2020). Prigožin v únoru 2023 veřejně přiznal, že IRA založil a financoval.

Historik zpravodajství Rid (2020) zdůrazňuje, že digitální prostředí obrátilo poměr nákladů, který platil pro aktivní opatření studené války. Dříve bylo nutné budovat síť spolupracujících novinářů a podvrhovat dokumenty; nyní stačí účet, který se tváří jako člen komunity, a publikum samo obsah šíří dál. Tím se informační operace přiblížila tomu, co Wardle a Derakhshan (2017) popisují jako ekosystém informační poruchy, v němž se záměrná dezinformace mísí s nevědomým sdílením a s pravdivým, ale vytrženým obsahem.

Co se stalo

V letech 2014–2017 provozovala IRA stovky účtů a stránek na Facebooku, Instagramu, Twitteru, YouTube a dalších službách. Stránky se tvářily jako místní aktivistické skupiny – od afroamerických přes konzervativní, náboženské a veteránské až po secesionistické (DiResta a kol., 2018). Analýza twitterových účtů ukázala, že se dělily do funkčních typů, mimo jiné na „pravicové“ a „levicové“ persony, falešné zpravodajské kanály a účty zaměřené na šíření strachu (Linvill a Warren, 2020).

Obsah IRA se v roce 2016 týkal amerických prezidentských voleb. Kromě online aktivit organizace přes falešné identity svolávala i skutečná shromáždění na území USA; zpráva zvláštního vyšetřovatele popisuje, že organizátoři komunikovali s americkými aktivisty, kteří o ruském původu výzev nevěděli (Mueller, 2019). Senátní zpráva dokumentuje, že organizování akcí bylo soustavnou součástí operace; často uváděným příkladem jsou souběžná protichůdná shromáždění v Houstonu v květnu 2016, k nimž vyzvaly dvě různé stránky řízené IRA (Senate Select Committee on Intelligence, 2019).

V říjnu a listopadu 2017 platformy při slyšeních v Kongresu uvedly rozsah; Facebook odhadl, že obsah IRA mohl zasáhnout až kolem 126 milionů uživatelů (Senate Select Committee on Intelligence, 2019). Toto číslo vyjadřuje potenciální expozici, nikoli počet ovlivněných lidí, a v pozdější debatě bylo často interpretováno nepřesně.

Dne 16. února 2018 zvláštní vyšetřovatel Robert Mueller obžaloval 13 ruských občanů a 3 subjekty včetně IRA. Muellerova zpráva z dubna 2019 popsala kampaň IRA v samostatné části prvního svazku (Mueller, 2019); v říjnu 2019 se jí podrobně věnoval druhý svazek zprávy zpravodajského výboru amerického Senátu, který vycházel mimo jiné z analýz připravených pro výbor (Senate Select Committee on Intelligence, 2019; Howard a kol., 2018).

Epistemické mechanismy

Výroba falešného „my“

IRA nepřesvědčovala zvenčí, ale mluvila jménem skupin, k nimž se publikum hlásilo. Falešná persona sdílela jazyk, humor a křivdy komunity a teprve na tomto základě podsouvala interpretace (DiResta a kol., 2018). Tato strategie odpovídá síti sock-puppet účtů a trollí farmě; diagnosticky jde o koordinované neautentické chování. Freelon a kol. (2022) ukázali, že účty předstírající afroamerickou identitu dosahovaly nadprůměrné míry interakce, což ilustruje, jak účinně falešná příslušnost ke skupině nahrazuje důvěryhodnost zdroje.

Polarizace obou pólů

Charakteristické bylo souběžné oslovování protichůdných táborů. Cílem nebylo prosadit jeden názor, ale zesílit vzájemnou nedůvěru: každá strana viděla nejradikálnější verzi té druhé, často vyrobenou stejnou organizací (Linvill a Warren, 2020). Výsledkem je frame war a zúžení společného faktického základu. Interpretačně lze tento vzorec číst jako pokus využít polarizaci, která v americkém mediálním prostředí existovala nezávisle na ruské operaci (Benkler, Faris a Roberts, 2018).

Využití architektury platforem

Obsah byl optimalizován pro sdílení – emočně silné memy, identitní symboly, pobouření. Algoritmy, které odměňují interakci, pak zajistily distribuci bez dalších nákladů (algoritmická amplifikace, emoční inženýrství memů). Analýzy připravené pro Senát popisují, že operace přizpůsobovala formát jednotlivým službám a že Instagram hrál větší roli, než se v první veřejné debatě předpokládalo (DiResta a kol., 2018; Howard a kol., 2018).

Přechod z online do offline

Svolávání skutečných akcí ukazuje, že neautentické identity mohou koordinovat chování reálných lidí, kteří o původu výzvy nevědí (Mueller, 2019). Hranice mezi „informační“ a „fyzickou“ operací se tu stírá: člověk, který na shromáždění přijde, jedná v dobré víře a v souladu se svým přesvědčením, a přesto je součástí cizího scénáře. Z obranného hlediska je to důvod, proč ověřování organizátora akce patří k základní hygieně občanského aktivismu (Wardle a Derakhshan, 2017).

Dopady na jednotlivce a společnost

Měřitelný vliv IRA na volební výsledek nebyl prokázán. Studie publikovaná v roce 2023 v Nature Communications nenašla souvislost mezi expozicí ruským účtům na Twitteru a změnou postojů či volebního chování; expozice se navíc koncentrovala u malé skupiny silně stranických uživatelů (Eady a kol., 2023). K podobnému závěru dospěla už dřívější studie, která u uživatelů, již s účty IRA na konci roku 2017 interagovali, nenašla měřitelnou změnu politických postojů (Bail a kol., 2020). Opačnou, silnou interpretaci vlivu nabízí Jamieson (2018); část výzkumu s ní nesouhlasí.

Podstatnější dopad je proto třeba hledat jinde. Prvním je kontaminace důvěry: vědomí, že část debaty byla vyrobena, vede ke generalizované podezíravosti a skutečné hlasy jsou pak odbývány jako „boti“ nebo „trollové“ (Benkler, Faris a Roberts, 2018). Druhým je poškození komunit, jejichž identita byla zneužita – zejména afroamerických aktivistických skupin, jejichž jazyk IRA napodobovala a jejichž důvěryhodnost tím utrpěla (Freelon a kol., 2022). Třetím je precedens pro další státní i nestátní aktéry, kteří metodu převzali (DiResta a kol., 2018).

Na úrovni jednotlivce popisují práce o informační poruše dvojí zranitelnost: uživatel, který falešný obsah sdílel, může po odhalení prožívat stud a nedůvěru ve vlastní úsudek, a uživatel, který o operaci jen slyšel, může začít pochybovat o autenticitě každého neznámého hlasu (Wardle a Derakhshan, 2017). Obojí je epistemická škoda, kterou volební statistika nezachytí.

Odlišení od příbuzných jevů

Koordinované neautentické chování je třeba odlišit od autentického aktivismu, který je také koordinovaný – petice, kampaně a demonstrace mají organizátory a sdílené materiály. Rozhodujícím znakem není koordinace sama, ale klam o identitě a původu mluvčího (DiResta a kol., 2018). Stejně tak je třeba odlišit operaci IRA od otevřené státní propagandy, jejíž původ je přiznaný, a od jednotlivých provokatérů, kteří nepatří k žádné organizované síti (Wardle a Derakhshan, 2017).

Pro posouzení konkrétního účtu nebo kampaně z toho plyne, že nesouhlas, radikální názor ani podezřelé načasování samy o sobě nedokládají cizí operaci. Atribuci umožnily až kombinace technických stop dostupných platformám, vyšetřovacích pravomocí státu a analýzy celých sítí účtů, nikoli dojem jednotlivého pozorovatele (Senate Select Committee on Intelligence, 2019).

Odhalení, dokumentace a vyrovnání

Rozhodující roli sehrála kombinace investigativní žurnalistiky, která petrohradskou firmu v ruských i západních médiích popisovala už v letech 2014–2015, interních vyšetřování platforem a státních orgánů (Rid, 2020). Platformy zveřejnily datové sady odstraněných účtů, které umožnily nezávislý výzkum; pro Senát připravily analytické zprávy mimo jiné týmy z Oxfordské univerzity a firmy New Knowledge (Howard a kol., 2018; DiResta a kol., 2018). Obžalovaní ruští občané nebyli vydáni a trestní stíhání zůstalo symbolické (Mueller, 2019).

Hlavním výsledkem jsou změny v praxi platforem: pravidla proti koordinovanému neautentickému chování, pravidelné zprávy o odstraněných sítích, štítky u státních médií a v Evropské unii povinnosti velkých platforem v oblasti systémových rizik (regulace platforem). Senátní výbor ve svých doporučeních zdůraznil mimo jiné sdílení informací o hrozbách mezi platformami a státními orgány (Senate Select Committee on Intelligence, 2019).

Poučení pro detekci a obranu dnes

Signatury koordinace zahrnují synchronní publikování, sdílený obsah napříč „nezávislými“ účty, krátkou historii účtů a nesoulad jazyka s deklarovanou identitou (bot coordination, platformní koordinace). Linvill a Warren (2020) ukazují, že jednotlivý účet bývá nenápadný a vzorec se objeví teprve při pohledu na síť a na její vývoj v čase; detekce je proto úlohou analytiků s přístupem k datům, ne běžného čtenáře.

OSINT postupy pracují s analýzou sítí sdílení a časových vzorců (detekce botů, manipulace na sociálních sítích). Metodickou zásadou zůstává, že každý závěr o koordinaci je pravděpodobnostní a má být doložen tak, aby ho mohl nezávislý analytik zopakovat (DiResta a kol., 2018).

Individuální obrana spočívá v tom, u silně emotivního obsahu ověřit, kdo je jeho autorem, a vědomě vyhledávat přímý kontakt s lidmi z „druhé strany“ místo jejich internetových karikatur (Wardle a Derakhshan, 2017). Zvláštní pozornost si zaslouží výzvy k fyzickým akcím od organizátorů, které nelze ověřit mimo samotnou platformu (Mueller, 2019).

Institucionální obrana stojí na transparentnosti datových přístupů pro výzkum a na veřejné atribuci s doloženými důkazy (Senate Select Committee on Intelligence, 2019). Atribuce bez důkazů je škodlivá dvakrát: neochrání před skutečnou operací a zároveň učí veřejnost, že označení „cizí vliv“ je jen rétorická zbraň (Benkler, Faris a Roberts, 2018).

Hranice výkladu

Rozsah kampaně je dobře doložen; její účinek mnohem méně (Eady a kol., 2023). Přeceňování vlivu IRA může být samo zdrojem epistemické škody – nabízí jednoduché vysvětlení složitých domácích procesů a legitimizuje označování nepohodlných názorů za cizí vliv. Rovněž role IRA v britském referendu o Brexitu z roku 2016 nebyla prokázána v rozsahu, který starší verze této stránky naznačovala. Viz politická instrumentalizace.

Otevřenou otázkou zůstává, nakolik lze závěry z let 2014–2017 přenášet na pozdější prostředí, v němž platformy změnily pravidla a v němž generativní nástroje dále snížily cenu falešné identity. Benkler, Faris a Roberts (2018) připomínají, že domácí mediální ekosystém měl na šíření dezinformací větší podíl než zahraniční operace; tento závěr je interpretací jejich dat, nikoli obecným pravidlem pro jiné země a období.

Literatura

• Bail, C. A., a kol. (2020). Assessing the Russian Internet Research Agency's impact on the political attitudes and behaviors of American Twitter users in late 2017. Proceedings of the National Academy of Sciences, 117(1).
• Benkler, Y., Faris, R., & Roberts, H. (2018). Network Propaganda: Manipulation, Disinformation, and Radicalization in American Politics. Oxford University Press.
• DiResta, R., a kol. (2018). The Tactics & Tropes of the Internet Research Agency. New Knowledge.
• Eady, G., a kol. (2023). Exposure to the Russian Internet Research Agency foreign influence campaign on Twitter in the 2016 US election and its relationship to attitudes and voting behavior. Nature Communications, 14.
• Freelon, D., a kol. (2022). Black trolls matter: Racial and ideological asymmetries in social media disinformation. Social Science Computer Review.
• Howard, P. N., a kol. (2018). The IRA, Social Media and Political Polarization in the United States, 2012–2018. Oxford Internet Institute.
• Jamieson, K. H. (2018). Cyberwar: How Russian Hackers and Trolls Helped Elect a President. Oxford University Press.
• Linvill, D. L., & Warren, P. L. (2020). Troll factories: Manufacturing specialized disinformation on Twitter. Political Communication, 37(4).
• Mueller, R. S. (2019). Report on the Investigation into Russian Interference in the 2016 Presidential Election, sv. I. U.S. Department of Justice.
• Rid, T. (2020). Active Measures: The Secret History of Disinformation and Political Warfare. Farrar, Straus and Giroux.
• Senate Select Committee on Intelligence (2019). Russian Active Measures Campaigns and Interference in the 2016 U.S. Election, sv. 2: Russia's Use of Social Media. U.S. Senate.
• Wardle, C., & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policy Making. Council of Europe.

Související

Sousední případy

• Sovětská aktivní opatření – předchůdce metody
• Cambridge Analytica – jiný model cílení ve stejném období
• QAnon – domácí, decentralizované šíření bez centrální „farmy“

Techniky a pojmy

• Bot amplification – automatizované zesilování
• Firehose of falsehood – ruský model objemové propagandy
• Epistemic bubble – prostředí, v němž falešné identity působí nejsnáz

Klinika, právo a obrana

• Ruský vliv – vzorce EA – regionální kontext
• Populační dopad dezinformací – co lze měřit a co ne
• Scénář: koordinace botů – výcvik rozpoznávání