7.49 Clark: Natural-Born Cyborgs a hluboká integrace s technologiemi🔗

Andy Clark, britský filozof kognitivní vědy působící dlouho na Edinburské univerzitě a později na University of Sussex, rozšířil tezi rozšířené mysli, kterou vykládá stránka 7.41 Clark: Rozšířená mysl a kognitivní artefakty, v antropologickou tezi o lidské přirozenosti. V knize Natural-Born Cyborgs tvrdí, že lidé jsou „rození kyborgové“: jejich mysl je od počátku uzpůsobena k tomu, aby se propojovala s nebiologickými nástroji, od jazyka a písma po digitální zařízení (Clark, 2003). Stránka vykládá jeho argument z primárního díla, uvádí hlavní kritiky a v samostatném, výslovně označeném oddílu ukazuje, proč je teze důležitá pro ochranu poznávání před zneužitím technologií.

Kyborg bez implantátů🔗

Slovo kyborg vzniklo v roce 1960, když Clynes a Kline navrhovali technické úpravy lidského organismu pro pobyt ve vesmíru, které by tělo regulovaly bez vědomého zásahu (Clynes a Kline, 1960). Clark pojem přebírá, ale odpojuje ho od představy implantátů a kovových protéz. Rozhodující podle něj není, zda technologie proniká kůží, ale jak těsně se zapojuje do našich kognitivních procesů; z tohoto hlediska jsme kyborgy už dlouho, protože naše myšlení se odehrává v souhře mozku, těla a nástrojů (Clark, 2003).

Clark tuto souhru ilustruje příkladem hodinek. Když se někoho zeptáme, zda ví, kolik je hodin, odpoví často „ano“ ještě předtím, než se na hodinky podívá; informace na zápěstí je pro něj dostupná tak spolehlivě, že ji prožívá jako něco, co ví (Clark, 2003). Podobně podle něj funguje písmo, kalkulace na papíře nebo skicování, při kterém výtvarník myslí v dialogu s náčrtem, a ne jen v hlavě.

Plasticita mozku a otevřená mysl🔗

Základním předpokladem knihy je, že lidský mozek je mimořádně plastický a že jeho vývoj probíhá v prostředí nástrojů a kulturních praktik. Mozek se podle Clarka „učí“ počítat s externími oporami tak, jako by byly jeho součástí, a vytváří s nimi těsné smyčky vnímání a jednání (Clark, 2003). Clark k tomu uvádí experimenty a umělecké projekty, v nichž lidé začlenili do svého tělesného schématu protézy nebo vzdáleně ovládané nástroje.

Empirickou oporou představy, že tělesné schéma je pružné, je například pokus s gumovou rukou, v němž účastníci při synchronním dotyku začali pociťovat umělou ruku jako vlastní (Botvinick a Cohen, 1998). Heslo tělesné schéma shrnuje, jak se mapa vlastního těla mění s užíváním nástrojů. Současný výzkum kognitivního odlehčování (cognitive offloading) zase ukazuje, že lidé si běžně ukládají paměťové a výpočetní úlohy do okolí a že o tom rozhodují podle očekávané spolehlivosti opory (Risko a Gilbert, 2016).

Průhledné a neprůhledné technologie🔗

Clark rozlišuje technologie průhledné, které při užívání „mizí“ a s nimiž myslíme, aniž bychom si jich všímali, a neprůhledné, které na sebe stále upozorňují a vyžadují vědomou pozornost (Clark, 2003). Navazuje tím na Heideggerův rozbor nástroje, který je při plynulém užívání po ruce a stává se nápadným teprve tehdy, když selže (Heidegger, 1927). Cílem dobrého návrhu je podle Clarka průhlednost, protože teprve průhledná technologie se stává skutečnou součástí kognitivního systému.

Pozdější Clarkovy knihy tento obraz doplňují o teorii prediktivního zpracování: mozek podle ní neustále předpovídá vstupy a nástroje se stávají součástí predikčních smyček, které formují i to, co vnímáme (Clark, 2016; Clark, 2023). Heslo predictive processing tento rámec vykládá podrobněji a stránka 7.40 Friston: Active Inference a free energy principle ukazuje jeho formální jádro.

Rizika podle samotného Clarka🔗

Clark není naivní optimista. V kapitole o možných „špatných kyborzích“ sám probírá obavy, které technologie hluboké integrace vyvolávají, mezi nimi narušení soukromí, nerovný přístup, informační přetížení a odcizení od vlastního těla a místa (Clark, 2003). Jeho odpověď je však převážně smířlivá: rizika nejsou podle něj vlastností kyborgské povahy, ale konkrétních návrhů a společenských uspořádání, a proto se jim má čelit lepším návrhem a veřejnou kontrolou, nikoli odmítnutím technologií.

Hlavní kritiky a meze🔗

Carr (2010) tvrdí, že internet a digitální nástroje mění způsob čtení a myšlení k horšímu: podporují roztěkanou pozornost a oslabují hluboké soustředěné čtení. Jeho argument stojí částečně na empirické literatuře, jejíž výklad je sporný, ale upozorňuje na to, co Clarkův obraz podceňuje: integrace s nástrojem není neutrální a může měnit samotné kognitivní schopnosti. Haraway (1991) použila metaforu kyborga zcela jinak, jako politický obraz překračování hranic mezi člověkem, zvířetem a strojem a kritiku přirozenosti; ve srovnání s ní je Clarkův kyborg depolitizovaný.

Zásadní je i kritika z perspektivy politické ekonomie. Zuboff (2019) ukazuje, že digitální technologie, s nimiž se dnes nejtěsněji propojujeme, jsou navrhovány jako nástroje sběru dat o chování a jeho ovlivňování; jejich průhlednost pro uživatele tak může být výhodou pro provozovatele, nikoli pro uživatele. Filozofické námitky proti samotné tezi rozšířené mysli, například že spojení s nástrojem ještě nečiní nástroj součástí kognice, shrnuje stránka 7.41 Clark: Rozšířená mysl a kognitivní artefakty (Adams a Aizawa, 2008).

Interpretace pro epistemickou anihilaci🔗

Následující oddíl je interpretací této knihy, nikoli Clarkovým tvrzením. Kniha z jeho díla přebírá především tezi o průhlednosti. Pokud se nástroj stal součástí našeho myšlení, přestáváme ho při užívání vnímat, a právě proto je zásah do něj obtížně rozpoznatelný: zkreslený výsledek vyhledávání, upravený záznam nebo manipulativně navržené upozornění vstupují do úsudku, aniž by prošly vědomou kontrolou (Clark, 2003; Zuboff, 2019).

Druhá interpretace se týká blízkých vztahů. Výzkum technologiemi zprostředkovaného násilí v partnerských vztazích ukazuje, že násilní partneři často využívají přístupu k zařízením a účtům, které sdílejí nebo které oběti sami nastavili, ke sledování, kontrole a zastrašování (Freed a kol., 2018). Kniha tento vzorec řadí k jevu, který popisuje heslo coercive control, protože kontrola nástrojů, na nichž člověk závisí v orientaci a komunikaci, je zároveň kontrolou jeho poznávání (Stark, 2007).

Třetí interpretace se týká etiky. Pokud jsou některé technologie součástí mysli, pak zásah do nich nemusí být jen poškozením majetku. Carter a Palermos (2016) argumentují, že narušení těsně integrovaného zařízení může mít morální váhu blízkou zásahu do osoby, a Ienca a Andorno (2017) navrhují nová lidská práva, například na kognitivní svobodu a duševní integritu. Kniha tyto návrhy pokládá za otevřenou, ale důležitou linii, která podporuje její pojem epistemické agentnosti.

Rozpoznání, obrana a právní rámec🔗

Rozpoznávacími znaky zneužití integrovaných technologií jsou situace, kdy druhá osoba ví o člověku věci, které mohla zjistit jen z jeho zařízení, kdy se zařízení nebo účty chovají nečekaně, kdy člověk ztrácí přístup k vlastním záznamům a kdy začíná pochybovat o své paměti, protože záznamy neodpovídají vzpomínkám. Takové znaky je třeba odlišit od technických poruch a od běžné úzkosti z technologií; podezření má posoudit odborník, například specializovaná poradna pro oběti násilí (Freed a kol., 2018).

Obrana se nemá opírat o improvizované zásahy, které by mohly situaci vyhrotit, ale o bezpečnostní plán připravený s odbornou službou a o obnovu nezávislých opor: vlastních záznamů, důvěryhodných kontaktů a zařízení, nad nimiž má člověk kontrolu. Český právní řád postihuje nejzávažnější formy takového jednání, například nebezpečné pronásledování (§ 354) nebo neoprávněný přístup k počítačovému systému a nosiči informací (§ 230) podle zákona č. 40/2009 Sb., trestního zákoníku. V terapii kniha z Clarkova rámce vyvozuje – jde o její vlastní interpretaci –, že zotavení zahrnuje i obnovu důvěryhodného prostředí nástrojů, protože zneužívání technologií v partnerských vztazích se opírá právě o zařízení a účty oběti (Freed a kol., 2018); postupy uvádí sekce 6. Klinické aplikace.

Otevřené otázky🔗

Otevřené zůstává, kde leží hranice mezi zdravou integrací s technologií a závislostí, která oslabuje vlastní schopnosti, a zda ji lze určit jinak než v konkrétním případě. Stejně otevřená je otázka, jak v prostředí jazykových modelů, které se stávají průhledným rozhraním k informacím, zachovat schopnost všimnout si, kdy nástroj přestal sloužit uživateli (Clark, 2023; Risko a Gilbert, 2016).

Literatura🔗

• Adams, F., a Aizawa, K. (2008). The Bounds of Cognition. Blackwell.
• Botvinick, M., a Cohen, J. (1998). Rubber hands „feel“ touch that eyes see. Nature, 391.
• Carr, N. (2010). The Shallows: What the Internet Is Doing to Our Brains. W. W. Norton.
• Carter, J. A., a Palermos, S. O. (2016). Is having your computer compromised a personal assault? The ethics of extended cognition. Journal of the American Philosophical Association, 2(4).
• Clark, A. (2003). Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence. Oxford University Press.
• Clark, A. (2016). Surfing Uncertainty: Prediction, Action, and the Embodied Mind. Oxford University Press.
• Clark, A. (2023). The Experience Machine: How Our Minds Predict and Shape Reality. Pantheon.
• Clynes, M. E., a Kline, N. S. (1960). Cyborgs and space. Astronautics.
• Freed, D., Palmer, J., Minchala, D., Levy, K., Ristenpart, T., a Dell, N. (2018). „A stalker's paradise“: How intimate partner abusers exploit technology. Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems.
• Haraway, D. J. (1991). Simians, Cyborgs, and Women: The Reinvention of Nature. Routledge.
• Heidegger, M. (1927). Sein und Zeit. Max Niemeyer.
• Ienca, M., a Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13.
• Risko, E. F., a Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9).
• Stark, E. (2007). Coercive Control: How Men Entrap Women in Personal Life. Oxford University Press.
• Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.

Související🔗

Teoretické reflexe

• 7.41 Clark: Rozšířená mysl a kognitivní artefakty – výchozí teze rozšířené mysli.
• 7.48 Hutchins: Distribuovaná kognice a kulturní artefakty – kognice rozložená mezi lidi a nástroje.
• 7.56 Zuboff: Surveillance Capitalism a behavioral futures – ekonomika integrovaných technologií.
• 7.14 Heidegger: Být-ve-světě a struktura starosti – nástroj po ruce.
• 7.7 EA v digitálním věku – algoritmy a generativní modely.

Glosář

• Coercive control – kontrola nástrojů jako kontrola poznávání.
• Embodied cognition – vtělená kognice.
• Predictive processing – mozek jako predikční systém.
• Tělesné schéma – plasticita mapy těla.

Praxe

• Filozofie: Intellectual Sovereignty – autonomie vlastního poznávání.