Historický případ: Cambridge Analytica

Kategorie: Dezinformace a manipulace veřejností · Období: 2013–2018 · Místo: Velká Británie a USA

Případ Cambridge Analytica není v první řadě příběhem o lži, ale o asymetrii vědění: o tom, že jedna strana ví o adresátovi mnohem víc než adresát o ní, a že sdělení, které člověk vidí, mohou být šitá na míru jeho předpokládaným slabinám, aniž by se o tom dozvěděl kdokoli jiný (Zuboff, 2019). V Kompendiu slouží jako případ, kde se střetává reálné porušení soukromí s přeceňovaným mýtem o všemocné manipulaci – a obojí má epistemické důsledky.

Pro defenzivní praxi je případ užitečný právě svou dvojznačností. Doložené je neoprávněné získání a použití osobních údajů a nedostatečná kontrola ze strany platformy; doložená není schopnost firmy měnit volební chování v míře, kterou sama inzerovala (Information Commissioner's Office, 2020). Kdo případ čte jen jako důkaz „hacknutí demokracie“, přehlíží skutečný strukturální problém a zároveň přebírá marketingový příběh samotné firmy.

Kontext

Cambridge Analytica vznikla v roce 2013 jako odnož britské skupiny SCL, která dlouhodobě nabízela „behaviorální“ komunikaci pro vojenské a politické klienty. Financoval ji americký investor Robert Mercer, ve vedení působil i Steve Bannon (Wylie, 2019). Firma se prezentovala schopností spojit velká data s psychologickými profily podle modelu pěti faktorů osobnosti (OCEAN) a cílit politická sdělení podle osobnostních rysů (Kaiser, 2019).

Vědeckou inspirací byl výzkum, který ukázal, že z digitálních stop – například z „lajků“ na Facebooku – lze s určitou přesností odhadnout osobnostní rysy a další citlivé vlastnosti (Kosinski, Stillwell a Graepel, 2013). Navazující studie uvedla, že počítačové odhady osobnosti z lajků mohou být přesnější než odhady známých daného člověka (Youyou, Kosinski a Stillwell, 2015). Tyto práce samy o sobě nic neříkají o tom, zda lze odhadnuté rysy využít k účinné politické persvazi; tento krok byl v příběhu firmy předpokladem, nikoli zjištěním.

Co se stalo

V roce 2014 vytvořil výzkumník Aleksandr Kogan prostřednictvím své firmy aplikaci thisisyourdigitallife – osobnostní kvíz. Vyplnilo ho několik set tisíc lidí, ale tehdejší rozhraní Facebooku umožnilo získat i data jejich přátel, a data byla předána Cambridge Analytice (Information Commissioner's Office, 2018). Klíčovým rysem je, že naprostá většina dotčených lidí s aplikací nikdy nepřišla do styku.

V prosinci 2015 deník The Guardian informoval o využití těchto dat v americké primárkové kampani (Davies, 2015); Facebook tehdy požadoval jejich smazání, ale nekontroloval to. V roce 2016 firma pracovala pro kampaň Donalda Trumpa (Kaiser, 2019).

V březnu 2018 zveřejnily The Guardian/The Observer a The New York Times výpověď bývalého zaměstnance Christophera Wylieho (Cadwalladr a Graham-Harrison, 2018); britská televize Channel 4 odvysílala skrytě natočené záznamy vedení firmy, které se chlubilo i neetickými metodami. Facebook následně uvedl, že data mohla zahrnovat až 87 milionů uživatelů. V květnu 2018 Cambridge Analytica ukončila činnost (Wylie, 2019).

V roce 2019 americká Federální obchodní komise (FTC) uložila Facebooku pokutu 5 miliard dolarů za porušení ochrany soukromí (Federal Trade Commission, 2019); britský úřad ICO již v roce 2018 udělil maximální pokutu podle tehdejšího práva, 500 000 liber (Information Commissioner's Office, 2018). V říjnu 2020 ICO v dopise parlamentnímu výboru o ukončení vyšetřování konstatoval, že nenašel důkaz o zapojení firmy do kampaně k referendu o Brexitu nad rámec počátečních jednání a že její metody byly z velké části běžné (Information Commissioner's Office, 2020).

Epistemické mechanismy

Asymetrie a neviditelnost

Klíčový mechanismus je strukturální: sdělení bez veřejného svědka. Cílená reklama, kterou vidí jen vybraná skupina, uniká veřejné oponentuře – nikdo ji nemůže vyvrátit, protože ji ostatní nevidí. Ztrácí se tím podmínka, kterou Habermas (1989) a další teoretici veřejné sféry považují za základní: sdílený prostor, v němž lze tvrzení zpochybnit. Jde o variantu selektivní expozice a personalizace feedu.

Profilování zranitelnosti

Slib „psychografie“ spočíval v tom, že sdělení zasáhne člověka v místě, kde je nejméně kritický – v obavách, odporu či identitě (Wylie, 2019). I když se účinnost ukázala jako sporná, samotný princip je v Kompendiu popsán jako cílení na kognitivní biasy a latentní emocionální modulace. Experimentální práce ukazuje, že přizpůsobení reklamy osobnosti může v komerčním prostředí mírně zvýšit odezvu (Matz a kol., 2017); o přenositelnosti na volební rozhodování se vede spor.

Souhlas bez porozumění

Lidé, kteří vyplnili kvíz, souhlasili s „výzkumem“; jejich přátelé nesouhlasili s ničím (Information Commissioner's Office, 2018). Případ ilustruje selhání informovaného souhlasu v digitálním prostředí: formální souhlas nepokrývá skutečné použití dat. Zuboff (2019) tento posun popisuje jako přeměnu lidské zkušenosti v surovinu pro predikci chování, o níž dotčený nerozhoduje.

Mýtus všemocné manipulace

Paradoxně silným epistemickým účinkem byl příběh o firmě, nikoli její práce. Představa, že volby lze „hacknout“ psychologickým profilováním, se rychle rozšířila; zbavuje voliče odpovědnosti a podporuje fatalistický obraz demokracie jako hry neviditelných manipulátorů. Hersh (2015) už před aférou ukázal, že představa kampaní o voličích je omezena daty, která mají k dispozici, a bývá hrubší, než veřejnost předpokládá.

Dopady na jednotlivce a společnost

Bezprostředním dopadem byla ztráta kontroly nad osobními daty u desítek milionů lidí, kteří o jejich použití nevěděli (Information Commissioner's Office, 2018). Pro jednotlivce to znamená zkušenost, že informace sdílené v osobním prostoru mohou bez vědomí cestovat k neznámým aktérům; tato zkušenost oslabuje ochotu účastnit se veřejné komunikace vůbec (Zuboff, 2019).

Na úrovni společnosti případ urychlil pokles důvěry v platformy a v politickou komunikaci a stal se argumentem pro přísnější ochranu dat a transparentnost politické reklamy – knihovny reklam a pravidla pro cílení. Probíhal souběžně s nabytím účinnosti GDPR v květnu 2018; pokuta britského dozorového úřadu byla ještě vyměřena podle staršího zákona, protože porušení této změně předcházelo (Information Commissioner's Office, 2018).

Méně viditelným dopadem je legitimizace konspiračního výkladu politiky. Na obou stranách politického spektra se případ používal k vysvětlení nevítaných volebních výsledků, čímž se pozornost přesouvala od domácích příčin k neviditelnému manipulátorovi (Hersh, 2015). Interpretačně jde o tentýž vzorec, který Kompendium popisuje u přeceňování vlivu Internet Research Agency.

Odlišení od příbuzných jevů

Mikrocílení samo není manipulací: segmentace publika je běžnou součástí politické i komerční komunikace a může sloužit i legitimním účelům, například oslovení skupin, které se o kampaně jinak nezajímají (Hersh, 2015). Epistemicky problematickým se stává ve chvíli, kdy se spojí tři prvky – data získaná bez skutečného souhlasu, sdělení skrytá před veřejnou kontrolou a obsah, který cílí na předpokládané slabiny místo na argumenty (Zuboff, 2019).

Případ je třeba odlišit i od zahraniční informační operace. Cambridge Analytica byla komerční dodavatel domácích kampaní, nikoli státní aktér, a její pochybení se v řízeních posuzovala jako porušení ochrany údajů, nikoli jako vměšování (Information Commissioner's Office, 2020).

Odhalení, dokumentace a vyrovnání

K odhalení vedla kombinace dlouhodobé investigativní práce, zejména novinářky Carole Cadwalladrové, výpovědí vnitřních svědků – Wylieho, později Brittany Kaiserové – a parlamentních vyšetřování v Británii a USA (Cadwalladr a Graham-Harrison, 2018; Kaiser, 2019). Vnitřní svědci přitom podávali vlastní, místy rozporné výklady, a jejich knihy je třeba číst jako svědectví účastníků, nikoli jako nezávislou analýzu.

Vyrovnání proběhlo hlavně v rovině ochrany dat a spotřebitelského práva, nikoli volebního práva: sankcionován byl Facebook za nedostatečnou ochranu dat, nikoli manipulace voličů, které se nepodařilo prokázat v rozsahu, jaký firma sama inzerovala (Federal Trade Commission, 2019; Information Commissioner's Office, 2020).

Poučení pro detekci a obranu dnes

První obrannou otázkou je „kdo ještě tuto zprávu vidí?“ Sdělení, které je určeno jen mně, nemá veřejnou kontrolu, a chybí mu tedy právě to, co Habermas (1989) pokládá za podmínku veřejného rozumu. Vyplatí se ho konfrontovat s otevřenými zdroji a s veřejnými knihovnami politických reklam, kde existují.

Digitální hygiena spočívá v omezení sdílení dat s aplikacemi třetích stran a v pravidelné revizi oprávnění (digitální hygiena). Kosinski, Stillwell a Graepel (2013) sami upozorňovali, že i zdánlivě nevinné stopy umožňují odvodit citlivé vlastnosti, takže rozumnou výchozí premisou je, že sdílená data mohou vypovídat víc, než se zdá.

Institucionálně je obranou povinná transparentnost cílení politické reklamy, audit přístupu k datům a ochrana oznamovatelů (whistleblower mechanismus); teprve výpověď vnitřního svědka v roce 2018 zpřístupnila veřejnosti rozsah, který první zpráva z roku 2015 jen naznačila (Davies, 2015; Cadwalladr a Graham-Harrison, 2018). Ve výzkumné etice platí, že data sebraná pod hlavičkou výzkumu nesmí přecházet ke komerčním či politickým účelům (IRB protokol), což je přesně hranice, kterou kauza překročila (Information Commissioner's Office, 2018).

Poslední zásadou je kalibrace strachu: nepřeceňovat účinnost mikrocílení, protože přehnaná víra v manipulovatelnost ostatních sama oslabuje důvěru v demokratický proces (Hersh, 2015).

Hranice výkladu

Empirický výzkum ukazuje, že psychologicky přizpůsobená sdělení mohou mít v některých kontextech měřitelný, ale malý účinek (Matz a kol., 2017); o tom, zda Cambridge Analytica takové cílení ve velkém skutečně prováděla a s jakým výsledkem, panují vážné pochybnosti. Starší verze této stránky uváděla Brexit jako doložený příklad – to zpráva ICO z roku 2020 nepotvrdila (Information Commissioner's Office, 2020). Případ je proto nejlépe číst jako ukázku strukturálního rizika (asymetrie dat, neviditelná komunikace), nikoli jako důkaz úspěšné masové manipulace.

Otevřenou otázkou zůstává, zda by se podobné riziko neprojevilo i bez jakéhokoli porušení pravidel – prostým využitím nástrojů, které platformy inzerentům nabízejí. Zuboff (2019) tvrdí, že problém je v obchodním modelu, nikoli v jedné firmě; jde o teoretickou interpretaci, s níž část ekonomické a politologické literatury nesouhlasí.

Literatura

• Cadwalladr, C., & Graham-Harrison, E. (2018). Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach. The Guardian, 17. 3. 2018.
• Davies, H. (2015). Ted Cruz using firm that harvested data on millions of unwitting Facebook users. The Guardian, 11. 12. 2015.
• Federal Trade Commission (2019). FTC Imposes $5 Billion Penalty and Sweeping New Privacy Restrictions on Facebook. FTC.
• Habermas, J. (1989). The Structural Transformation of the Public Sphere. MIT Press.
• Hersh, E. D. (2015). Hacking the Electorate: How Campaigns Perceive Voters. Cambridge University Press.
• Information Commissioner's Office (2018). Investigation into the use of data analytics in political campaigns: A report to Parliament. ICO.
• Information Commissioner's Office (2020). ICO investigation into use of personal information and political influence. ICO.
• Kaiser, B. (2019). Targeted. Harper.
• Kosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences, 110(15).
• Matz, S. C., a kol. (2017). Psychological targeting as an effective approach to digital mass persuasion. Proceedings of the National Academy of Sciences, 114(48).
• Wylie, C. (2019). Mindf*ck: Cambridge Analytica and the Plot to Break America. Random House.
• Youyou, W., Kosinski, M., & Stillwell, D. (2015). Computer-based personality judgments are more accurate than those made by humans. Proceedings of the National Academy of Sciences, 112(4).
• Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.

Související

Sousední případy

• Internet Research Agency – souběžná kampaň jiného typu
• Manipulace tabákovým průmyslem – starší model korporátního ovlivňování veřejnosti

Techniky a pojmy

• Engagement optimization – obchodní logika, která cílení umožňuje
• Algoritmická amplifikace – distribuce bez veřejné kontroly
• Informed consent – co souhlas v digitálním prostředí znamená
• Zuboff: dozorový kapitalismus – teoretický rámec

Klinika, právo a obrana

• EU právo – EA rámec – ochrana dat a regulace platforem
• GDPR a ochrana narativu – compliance pohled
• Regulace platforem – veřejná politika