Regulace platforem v kontextu EA

Platforma není jen místo, kde se epistemické útoky odehrávají. Její design – co zesiluje, co doporučuje, co umožňuje skrýt – určuje, jak snadno se šíří. Veřejné zdraví zná tuto situaci z regulace tabáku, potravin a dopravy: chování se mění nejúčinněji změnou prostředí.

Vymezení

Regulace platforem jsou závazná pravidla pro poskytovatele online služeb, které zprostředkovávají obsah a komunikaci: sociální sítě, videoplatformy, vyhledávače, tržiště a komunikační aplikace. Z pohledu epistemických útoků jsou podstatné tři vlastnosti těchto služeb. První je zesilování: algoritmická amplifikace a optimalizace na zapojení zvýhodňují obsah, který vyvolává silné emoce, protože obchodní model staví na maximalizaci času a predikci chování uživatele (Zuboff, 2019). Druhou je neautenticita, tedy sítě falešných účtů, koordinované kampaně botů a trollí farmy, které vytvářejí zdání spontánní shody tam, kde jde o řízenou operaci (Wardle a Derakhshan, 2017). Třetí je uzavírání: skupiny, kanály a servery, v nichž lze budovat epistemické bubliny a uzavřené komunity (platformní kult).

Problém z hlediska veřejné politiky

Uživatel nemá vliv na design systému, který formuje jeho informační prostředí, a často o něm ani neví; rozhodnutí o tom, co uvidí, padá v doporučovacím systému optimalizovaném na zapojení, nikoli na pravdivost nebo prospěch (Zuboff, 2019 – viz Zuboff). Z hlediska veřejného zdraví je proto rozumné přenést pozornost od chování jednotlivce k prostředí, protože změna prostředí mění chování celé populace spolehlivěji než apel na jednotlivce, jak ukazuje zkušenost s regulací tabáku či dopravní bezpečnosti (Rose, 1992). Zároveň platí, že platformy mají obrovskou moc nad tím, co je ve veřejném prostoru vidět – moc, kterou mohou použít i nespravedlivě –, a regulace proto musí chránit nejen před manipulací, ale i před svévolí samotného regulovaného.

Regulační modely

Model	Princip	Příklady	Slabiny
Imunita zprostředkovatele	Platforma neodpovídá za obsah uživatelů	USA: oddíl 230 zákona Communications Decency Act (1996)	Malá motivace řešit systémová rizika
Oznámení a odstranění	Odpovědnost po upozornění na protiprávní obsah	Původní evropský rámec e-commerce, německý NetzDG (2017)	Řeší jednotlivé příspěvky, ne design; riziko nadměrného mazání
Systémová rizika a povinnost péče	Platforma posuzuje a zmírňuje rizika svých služeb	EU: DSA; Spojené království: Online Safety Act (2023)	Náročné vymáhání, nejasné hranice rizik
Kodexy designu	Požadavky na výchozí nastavení a rozhraní	Britský kodex pro služby přístupné dětem; zákaz temných vzorců v DSA	Pokrývá jen část služeb
Regulátor online bezpečnosti	Nezávislý úřad se stížnostním mechanismem	Austrálie: eSafety Commissioner	Kapacita vůči globálním firmám

Podrobně k evropským nástrojům viz EU politika.

Nástroje se vztahem k EA

Nejvýznamnějšími nástroji jsou posouzení rizik a nezávislé audity zahrnující dopady na duševní zdraví a zranitelné skupiny, transparentnost doporučovacích systémů a možnost volby feedu bez profilování. Zvláštní místo má tření (friction) – omezení hromadného přeposílání, výzva k přečtení článku před sdílením nebo zpomalení virálního šíření v krizích –, protože drobné prodlevy snižují nepromyšlené sdílení, jež je motorem šíření nepravdivého obsahu (Pennycook a Rand, 2021). Patří sem také odhalování a odstraňování koordinovaného neautentického chování se zveřejněním zpráv (detekce botů), označování syntetického obsahu a původu médií a přístup výzkumníků k datům jako předpoklad jakéhokoli populačního hodnocení. Důležitá je ochrana terčů obtěžování nástroji proti hromadnému útoku, rychlou reakcí a kontaktem s člověkem, nikoli jen s automatem, a konečně prostředky nápravy – odůvodnění rozhodnutí o moderaci, odvolání a mimosoudní řešení sporů.

Mezi těmito nástroji je užitečné odlišit zásahy do obsahu od zásahů do architektury. Odstraňování jednotlivých příspěvků řeší následek, je pomalé a snadno sklouzne k nadměrnému mazání nebo k politickému tlaku, kdežto úpravy designu – omezení zesilování, transparentní doporučování, tření při sdílení – mění podmínky, za nichž manipulace vzniká, aniž by stát rozhodoval o pravdě jednotlivého výroku. Tento přesun od obsahu k architektuře odpovídá veřejnozdravotní logice, podle níž se rozšířený jev účinněji ovlivní změnou prostředí než posuzováním každého případu zvlášť (Rose, 1992).

Rizika a pojistky

Prvním rizikem je nadměrné odstraňování a mrazivý účinek na legitimní projev, včetně projevu menšin a kritiků moci. Druhým je zaujatost moderace, neboť automatizované systémy chybují nerovnoměrně (content moderation bias, automated content takedown). Třetím je zneužití nahlašovacích nástrojů: koordinované hromadné nahlašování se samo stává nástrojem útoku, takže regulace musí počítat s tím, že ochranné mechanismy lze obrátit proti terči. Čtvrtým je státní tlak na platformy – „neformální“ požadavky na odstranění obsahu bez právního základu a přezkumu. Pátým je přesun do uzavřených prostor: tvrdá moderace veřejných ploch může přesunout komunity do šifrovaných skupin, kde je izolace ještě větší, a protože korekce nepravdivého přesvědčení často nedostihne ty, kdo se už uzavřeli, může přísnější moderace paradoxně zmenšit prostor pro nápravu (Lewandowsky a kol., 2012; deplatformingová kaskáda, deplatforming).

Evaluace

Transparentní zprávy platforem samy nestačí, protože vykazují aktivity (počty odstraněných příspěvků), ne výsledky. Smysluplné hodnocení vyžaduje nezávislé audity s přístupem k systémům, data pro výzkum expozice, experimentální srovnání změn designu (například vliv omezení přeposílání na šíření) a sledování nežádoucích účinků na projev. Z hlediska veřejného zdraví je cílovým ukazatelem změna expozice populace manipulativním vzorcům, nikoli počet zásahů (Rose, 1992).

Modelová situace

Před volbami regulátor požaduje po velké platformě zprávu o rizicích pro volební proces. Platforma vykazuje statisíce odstraněných příspěvků. Nezávislý audit však zjistí, že doporučovací systém nadále výrazně zesiluje obsah s koordinovaným původem a že nástroj pro nahlašování byl použit k hromadnému útoku na novinářku. Regulátor požaduje úpravu doporučování, ochranu proti zneužití nahlašování a zpřístupnění dat výzkumníkům pro hodnocení účinku. Platformě přitom nestanovuje, které konkrétní příspěvky má odstranit, nýbrž jaké vlastnosti systému má změnit a doložit; těžiště odpovědnosti se tak přesouvá z jednotlivého výroku na architekturu, která určuje, co a komu je vidět, což je právě ta úroveň, na niž jednotlivý uživatel nedosáhne (Zuboff, 2019).

Kontrolní otázky pro praxi

• Hodnotí regulace změnu expozice uživatelů, nebo jen počet zásahů?
• Mají uživatelé zdůvodnění rozhodnutí o moderaci a možnost odvolání?
• Jak je zabráněno zneužití nahlašovacích nástrojů?
• Nevede tvrdá moderace k přesunu komunit do uzavřených prostor?
• Mají nezávislí auditoři a výzkumníci přístup k systémům a datům?

Limitace a otevřené otázky

Globální platformy a národní či regionální regulace mají nerovnou sílu a šifrované komunikační služby chrání soukromí, ale i uzavřené skupiny, takže jejich regulace naráží na základní práva. Nejistá zůstává i otázka, zda se účinek změn designu udrží, nebo zda se manipulativní praktiky pouze přizpůsobí novým pravidlům. Otevřenou otázkou tak zůstává, zda lze měnit design platforem tak, aby méně zesiloval manipulaci, aniž by stát rozhodoval o obsahu (Zuboff, 2019).

Literatura

• Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and Its Correction. Psychological Science in the Public Interest, 13(3).
• Pennycook, G., & Rand, D. G. (2021). The Psychology of Fake News. Trends in Cognitive Sciences, 25(5).
• Rose, G. (1992). The Strategy of Preventive Medicine. Oxford University Press.
• Wardle, C., & Derakhshan, H. (2017). Information Disorder. Council of Europe.
• Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.

Související

Sesterské stránky

• EU politika k epistemickým útokům – evropský právní rámec.
• Prevalence online radikalizace – co platformy ovlivňují.
• Programy digitálního občanství – strana uživatelů.

Detekce

• Asymetrie amplifikace – síťová signatura.
• EA × OSINT: sociální sítě – investigativní pohled.

Případy

• Internet Research Agency – státní kampaň na platformách.
• Cambridge Analytica – zneužití dat k cílení.

Teorie

• Boyd: sociotechnický pohled – technologie a společnost dohromady.