EA-9.2.10 AI Personhood Claim

Subkategorie 🎬 9.2 Generativní média — současná digitální epistemická agrese v éře AI, sociálních platforem a algoritmické governance.

---

1. Identifikace

Kód: EA-9.2.10 Název: AI Personhood Claim Subkategorie: 9.2 Generativní média Doména: Digitální / AI-mediated EA Risk level: Moderate-High

2. Definice

AI personhood claim je vytvoření plně syntetické osoby: generovaného portrétu, jména, životopisu, hlasu a postupně budované stopy na sociálních sítích a v profesních sítích. Persona pak vystupuje jako odborník, novinář, aktivista nebo potenciální partner a získává důvěru, kontakty a vliv, které by skutečný aktér pod vlastním jménem nezískal.

3. Mechanismus (strukturálně)

Důvěra mezi lidmi se online opírá o znaky identity: tvář, jméno, historii, společné kontakty. Syntetická persona tyto znaky vyrábí a postupně je zhodnocuje – každý přijatý kontakt zvyšuje věrohodnost u dalšího. Persona může sloužit ke sběru informací, k ovlivňování debaty, k podvodu (včetně romantických podvodů) nebo k vytváření zdání nezávislé podpory. Na rozdíl od botů jde často o jednotlivou, pečlivě budovanou identitu s dlouhodobým účelem.

4. Detekční markery

• Portrét se nedá najít jinde, má typické vady generovaných tváří (pozadí, uši, brýle, šperky) a chybí další fotografie z různých situací.
• Životopis nelze ověřit: zaměstnavatelé, školy a publikace o osobě nevědí.
• Síť kontaktů rychle roste, ale osobně osobu nikdo nezná; odmítá videohovor nebo osobní setkání.
• Profil vznikl nedávno, ale vystupuje s velkou sebejistotou a rychle žádá o přístup, informace nebo peníze.
• Stylisticky homogenní obsah bez osobních detailů a chyb.

5. Odlišení

Pseudonym: skutečný člověk pod jiným jménem; legitimní, pokud neklame o podstatných vlastnostech (kvalifikace, příslušnost). EA-9.2.1 Deepfake Personality: zneužití identity skutečné osoby; zde osoba neexistuje. EA-9.4.3 Sock Puppet Network: síť méně propracovaných účtů jednoho aktéra.

6. Dopad a rámec

Syntetické persony umožňují infiltraci profesních sítí, novinářských zdrojů a aktivistických skupin a sběr informací o lidech, kteří jim důvěřují. V osobní rovině se objevují v romantických a investičních podvodech. Pro organizace jde o bezpečnostní riziko (Prověřování externistů); právně se uplatní podvod, neoprávněné shromažďování údajů nebo pravidla platforem o falešných identitách.

7. Obrana a zotavení

Jednotlivec: ověřit identitu nového kontaktu mimo platformu (videohovor, společný známý, ověřitelná práce); nesdílet citlivé údaje s osobou, kterou nikdo nezná osobně. Organizace a redakce: prověřovat externí experty a zdroje; školit zaměstnance v rozpoznávání falešných profilů. Platformy: sledovat profily s generovanými portréty a rychle rostoucími sítěmi. Po odhalení: upozornit kontakty, zjistit, jaké informace persona získala, a nastavit nápravná opatření.

8. Příklad (anonymizovaný kompozit)

Profil „bezpečnostní analytičky“ s profesionálním portrétem a výborným životopisem během několika měsíců získá stovky kontaktů v oboru a začne oslovovat zaměstnance státních institucí s nabídkou spolupráce na „studii“. Jeden z oslovených požádá o videohovor; persona opakovaně odkládá. Zpětné ověření ukáže, že uvedený zaměstnavatel analytičku nezná a portrét nese typické znaky generované tváře. Instituce varuje zaměstnance a hlásí profil.

9. Meze a otevřené otázky

Generované portréty jsou čím dál dokonalejší a vizuální znaky přestávají stačit; spolehlivější je ověřování životopisu a kontaktu mimo platformu. Otevřené zůstává, jak chránit legitimní anonymitu (whistlebloweři, ohrožení aktivisté) a zároveň omezit syntetické persony.

Rozsah používání syntetických person ve vlivových operacích je známý hlavně ze zpráv platforem o odstraněných sítích a z novinářských odhalení; systematická data chybějí a kniha proto neuvádí odhady jejich počtu.

Znaky, které stránka uvádí, popisují nepravděpodobnost identity, nikoli její neexistenci. Skuteční lidé mívají řídký profil, generický portrét a žádné společné kontakty – noví v oboru, lidé po návratu z izolace, oběti domácího násilí, které starou stopu smazaly. Označit konkrétní profil za syntetickou personu je proto obvinění, které unese jen ověření mimo platformu, ne dojem z fotografie; Nightingale a Farid (2022) ukázali, že vizuální úsudek selhává v obou směrech. A z odhalené persony neplyne, kdo ji vedl: postava je nástroj, který může sloužit státní operaci, podvodníkovi i firmě shánějící kontakty, a připsat ji aktérovi vyžaduje jiné doklady než samu nepravost identity.

10. Pohled zevnitř a práce s postiženým

Lidé, kteří si se syntetickou personou vytvořili vztah – profesní nebo citový –, prožívají po odhalení zradu a pochybnost o vlastním úsudku, podobně jako oběti romantických podvodů. Terapeutická práce se podobá práci s traumatem zrady: uznat skutečnost prožitku, i když protějšek nebyl skutečný, a postupně obnovit důvěru v jiné vztahy.

Pro kolegy a nadřízené zasaženého člověka je důležité nereagovat výsměchem: profesní důvěra k novému kontaktu je běžnou součástí práce a selhání je především selháním ověřovacích postupů.

11. Vztah k ostatním kategoriím EA

Persona vystupující jako odborník je nosičem EA-9.1.7 Synthetic Expertise Claim; persona budující citový vztah sdílí dynamiku love bombingu a následné závislosti, kterou kniha popisuje u koercivních vztahů. Infiltrace skupin připomíná vzorce z případových studií online radikalizace.

12. Postup při podezřelém novém kontaktu

1. Ověřit identitu mimo platformu – videohovor, společný známý, ověřitelná práce.
2. Zpětně vyhledat portrét a prověřit životopis u uvedených institucí.
3. Nesdílet citlivé údaje ani nepovolovat přístup, dokud identita není ověřena.
4. Nahlásit profil platformě a upozornit kolegy, pokud se potvrdí podezření.
5. Zjistit dopad – jaké informace persona získala a koho oslovila.

13. Prevence a odolnost

Odolnost proti syntetickým personám stojí na návyku ověřovat nové kontakty mimo platformu, zvlášť když rychle žádají o přístup, informace nebo peníze, a na kultuře, v níž je takové ověření považováno za běžnou zdvořilost, nikoli za projev nedůvěry. Organizace mohou riziko snížit jasnými pravidly pro sdílení informací s externími kontakty a pravidelným školením, které ukazuje skutečné příklady falešných profilů. Pro jednotlivce, zvláště osamělé, je nejlepší ochranou síť skutečných vztahů, s nimiž mohou nový kontakt probrat; izolace je podmínkou, bez níž persona zřídka uspěje. Platformy mohou pomoci tím, že zviditelní stáří účtu a ověřené údaje a usnadní nahlašování podezřelých profilů.

Odborný kontext

Online důvěra se opírá o signály identity – tvář, jméno, historii a společné kontakty –, a syntetická persona tyto signály vyrábí. Nightingale a Farid (2022) doložili, že lidé nedokážou spolehlivě odlišit generované tváře od skutečných a hodnotí je jako důvěryhodnější, což vysvětluje, proč generovaný portrét funguje jako vstupenka do profesních sítí. Cialdini (2001) popsal princip sympatie a podobnosti: věříme lidem, kteří se nám podobají a s nimiž sdílíme kontakty; každý přijatý kontakt tak zvyšuje věrohodnost persony pro další.

Výzkum romantických podvodů ukazuje dynamiku, kterou syntetické persony přebírají: postupné budování vztahu, idealizace, izolace od skeptického okolí a teprve potom požadavek (Whitty a Buchanan 2012). Oběti nejsou typicky naivní, ale emočně investované. Turkle (2011) upozorňuje, že digitální vztahy mohou poskytovat pocit blízkosti bez nároků skutečného vztahu, což zvyšuje jejich přitažlivost pro osamělé lidi. Odhalení persony proto nepřináší jen finanční nebo bezpečnostní škodu, ale i ztrátu vztahu, který byl pro postiženého skutečný.

Souvislosti pro praxi

Pro organizace s citlivými informacemi je užitečné zahrnout do bezpečnostního školení rozpoznávání falešných profilů a pravidlo ověřovat nové kontakty mimo platformu. Pro terapeuty je důležité přistupovat k obětem syntetických person podobně jako k obětem romantických podvodů – uznat skutečnost prožitku a pracovat se studem. Pro platformy je cenné sledovat profily s generovanými portréty a rychle rostoucími sítěmi a umožnit uživatelům snadno je nahlásit.

Literatura

• Cialdini, R. B. (2001). Influence: Science and Practice (4. vyd.). Allyn & Bacon.
• Nightingale, S. J., & Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. PNAS.
• Turkle, S. (2011). Alone Together. Basic Books.
• Whitty, M. T., & Buchanan, T. (2012). The online romance scam: A serious cybercrime. Cyberpsychology, Behavior, and Social Networking.

Související

Sourozenecké techniky

• EA-9.2.1 Deepfake Personality – zneužití identity skutečné osoby.
• EA-9.4.4 AI Bot Personhood – bot vydávaný za člověka.
• EA-9.4.3 Sock Puppet Network – síť falešných účtů.
• EA-9.1.7 Synthetic Expertise Claim – předstíraná odbornost.

Organizace a bezpečnost

• Prověřování externistů – ověřování spolupracovníků.
• Sociální inženýrství – persona jako nástroj.

Obrana a pojmy

• Sebe-obrana: Kalibrace důvěry – ověřování nových kontaktů.
• Trauma zrady – dopad odhalení na postiženého.