7.51 Dennett: From Bacteria to Bach a evoluční vědomí🔗

Kniha From Bacteria to Bach and Back: The Evolution of Minds je syntézou celoživotní práce amerického filozofa Daniela Dennetta, který zemřel v roce 2024, o evoluci, mysli a kultuře (Dennett, 2017). Navazuje na jeho dřívější výklad darwinismu jako „univerzální kyseliny“, která rozleptává představu, že řád vyžaduje předchozí rozumějícího tvůrce (Dennett, 1995), a na jeho teorii vědomí (Dennett, 1991). Tato kapitola vykládá hlavní pojmy knihy, shrnuje námitky proti nim a odděleně uvádí, jak je kompendium EA užívá; toto užití je interpretací knihy a Dennett je neformuloval.

Podivná inverze uvažování🔗

Dennett staví knihu kolem dvou „podivných inverzí uvažování“. První připisuje Darwinovi: dokonalý design organismů nevyžaduje, aby jej někdo chápal, protože jej může vytvořit slepý proces přirozeného výběru. Dennett cituje kritika Darwina Roberta MacKenzieho, který v roce 1868 posměšně shrnul darwinismus větou, že „absolutní nevědomost je tvůrcem“, a obrací ji v pochvalu (Dennett, 2017). Druhou inverzi připisuje Turingovi: k provádění aritmetiky stroj nepotřebuje vědět, co je aritmetika, stačí mu mechanické kroky.

Obě inverze ústí v heslo „kompetence bez porozumění“ (competence without comprehension). Bakterie, termiti i buňky lidského těla vykonávají složité úkoly, aniž by jim rozuměly, a podle Dennetta je to pravidlem, ne výjimkou (Dennett, 2017). Porozumění samo vzniká postupně a je složeno z dalších kompetencí; neexistuje bod, v němž by se do mysli „vlilo“ jako nová substance.

Volně plovoucí důvody🔗

S kompetencí bez porozumění souvisí pojem volně plovoucích důvodů (free-floating rationales), který Dennett používá od 80. let (Dennett, 1983). Jde o důvody, které v designu skutečně jsou a vysvětlují, proč se určitý rys nebo chování vyplatí, ale které nikdo nereprezentuje: ani organismus, ani přírodní výběr. Dennettovým příkladem je gazela, která před šelmou vyskakuje do výšky; chování má smysl jako signál vlastní kondice, aniž by gazela tento smysl chápala (Dennett, 2017).

Pro výklad lidského chování z toho Dennett vyvozuje opatrnost vůči racionalizaci. Ani lidé nemají vždy přístup k důvodům svého jednání; mnohé jejich dovednosti jsou zděděné nebo naučené kompetence, jejichž smysl si uvědomují až dodatečně, pokud vůbec (Dennett, 2017). Tento postřeh se potkává s psychologickým výzkumem automatického a rychlého usuzování, který Daniel Kahneman shrnul rozlišením dvou systémů myšlení (Kahneman, 2011).

Věž generování a testování🔗

Dennett třídí druhy mysli podle toho, jak testují možnosti, a mluví o „věži generování a testování“ (Dennett, 1995; Dennett, 1996). Darwinovští tvorové mají vrozené chování a testuje je jen přežití; skinnerovští se učí posilováním z vlastních pokusů; popperovští si dokážou možnosti předem vyzkoušet ve vnitřním modelu, takže „jejich hypotézy umírají místo nich“; a gregoriánští tvorové, pojmenovaní po psychologovi Richardu Gregorym, k tomu užívají myšlenkové nástroje převzaté z kultury, především slova. V From Bacteria to Bach and Back Dennett toto schéma doplňuje o výklad, jak se kulturní evoluce postupně mění z bezděčného výběru v záměrné navrhování (Dennett, 2017).

Memy, slova a kultura🔗

Kulturní stránku knihy Dennett buduje na pojmu memu, který převzal od Dawkinse (Dawkins, 1976). Nejzřetelnějšími memy jsou podle něj slova: šíří se mezi mozky, kopírují se s vysokou věrností a mění prostředí, v němž se mysl vyvíjí (Dennett, 2017). K popisu toho, jak se kulturní evoluce liší od biologické, využívá Dennett „darwinovské prostory“ Petera Godfrey-Smithe, v nichž lze populace umístit podle toho, nakolik jejich změny vznikají slepým výběrem a nakolik záměrným zásahem (Godfrey-Smith, 2009). Raná kultura je podle Dennetta převážně darwinovská, zatímco věda a technika jsou stále více výsledkem inteligentního navrhování.

Vědomí jako uživatelská iluze🔗

Nejspornější tezí knihy je pojetí vědomí jako „uživatelské iluze“ (user illusion). Dennett přirovnává vědomí k rozhraní počítače: ikony na obrazovce neukazují, co se v přístroji děje, ale umožňují s ním účelně zacházet (Dennett, 2017). Mozek si podle něj podobně vytváří zjednodušené zobrazení vlastní činnosti, které užíváme k předvídání a ovládání sebe i druhých. Teze navazuje na jeho dřívější kritiku „karteziánského divadla“, tedy představy místa v mozku, kde se vše sbíhá před vnitřním pozorovatelem (Dennett, 1991).

Závěr knihy patří umělé inteligenci. Strojové učení podle Dennetta vytváří systémy s ohromující kompetencí bez porozumění, a hlavním rizikem proto není, že by stroje převzaly vládu, ale že jim lidé začnou připisovat porozumění, které nemají, a přenechají jim úsudek (Dennett, 2017). Ve stati o „padělaných lidech“ později požadoval, aby systémy vydávající se za lidi byly zakázány podobně jako padělané peníze, protože podkopávají důvěru, na které stojí společnost (Dennett, 2023).

Hlavní kritiky🔗

Thomas Nagel v recenzi knihy namítl, že Dennett nevysvětluje vědomí, ale odmítá vzít vážně jeho subjektivní stránku: tvrdit, že prožitek je iluze, je podle Nagela popřením jevu, který je potřeba vysvětlit (Nagel, 2017). Galen Strawson zašel dál a zařadil Dennetta mezi „popírače vědomí“, kteří podle něj zaměňují vysvětlení za eliminaci (Strawson, 2018). Dennett odpovídal, že nepopírá existenci vědomí, jen jeho určitou filozofickou interpretaci; spor o to, co přesně je „iluzí“, zůstává jádrem debaty (srov. Chalmers, 1996).

Druhá skupina námitek míří na memetickou část knihy a opakuje kritiky memetiky obecně: kulturní přenos se podle Dana Sperbera neděje kopírováním, ale rekonstrukcí, takže analogie s genem je slabší, než Dennett předpokládá (Sperber, 1996). Třetí námitka je metodologická: velká část knihy pracuje s přesvědčivými příklady a analogiemi, jejichž empirickou platnost nelze ověřit tak, jak to Dennettova rétorika naznačuje (Nagel, 2017).

Interpretace pro rámec EA🔗

Následující čtení je interpretací knihy. Pojem kompetence bez porozumění kniha užívá k popisu toho, proč manipulace často funguje pod prahem reflexe: působí na naučené a automatické reakce, jejichž smysl si člověk neuvědomuje (srov. Kahneman, 2011). Neznamená to, že člověk je „stroj“; znamená to, že porozumění vlastním reakcím je dovednost, kterou lze posilovat, a že její absence není osobní selhání (Dennett, 2017).

Druhým bodem je Dennettovo varování před připisováním porozumění strojům. Kniha jej čte jako popis rizika, které rozebírá v kapitole o digitálním věku: systémy generující přesvědčivý text, hlas nebo obraz mohou vyvolat dojem rozumějícího partnera nebo svědka, kterým nejsou (Dennett, 2023). Stránky EA-9.2.10 a heslo deepfake popisují rozpoznatelné znaky takových situací, nikoli způsob jejich vytváření.

Rozpoznání a obrana🔗

Z Dennettova díla kniha přebírá i obranné nástroje. Gregoriánské tvory definuje užívání myšlenkových nástrojů, a Dennett sám sestavil soubor takových nástrojů, mezi nimi Rapoportova pravidla pro kritiku: nejprve formulovat názor protivníka tak dobře, že by s formulací souhlasil, pak uvést, v čem se shodujeme a co jsme se naučili, a teprve potom kritizovat (Dennett, 2013). Kniha je doporučuje jako protiváhu polarizované komunikace, v níž se protistrana záměrně zkresluje.

Pro práci s člověkem po zkušenosti s manipulací z toho plyne, že vysvětlení automatických reakcí, například strachu nebo studu, může snížit jejich moc, protože mění kompetenci bez porozumění v kompetenci s porozuměním (srov. Herman, 1992). U interakce s umělou inteligencí je rozpoznávacím znakem nepoměr mezi plynulostí a doložitelností: plynulý text nedokládá porozumění ani pravdivost, a ověřování zdrojů zůstává na člověku (Dennett, 2023).

Meze a otevřené otázky🔗

Dennettova teorie vědomí je filozofickou pozicí, nikoli konsenzem, a kniha z ní proto nevyvozuje nic, co by stálo jen na tezi o uživatelské iluzi (Chalmers, 1996). Otevřená zůstává otázka, kde přesně leží hranice mezi kompetencí a porozuměním u lidí i strojů, a zda ji lze měřit jinak než nepřímo, podle chování (Dennett, 2017). A otevřená je i normativní otázka, kterou Dennett nastolil na konci života: jak společnost ochrání důvěru v lidskou komunikaci, když se lidský projev dá věrohodně napodobit (Dennett, 2023).

Literatura🔗

• Chalmers, D. J. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press.
• Dawkins, R. (1976). The Selfish Gene. Oxford University Press.
• Dennett, D. C. (1983). Intentional systems in cognitive ethology: The „Panglossian paradigm“ defended. Behavioral and Brain Sciences, 6.
• Dennett, D. C. (1991). Consciousness Explained. Little, Brown.
• Dennett, D. C. (1995). Darwin's Dangerous Idea: Evolution and the Meanings of Life. Simon & Schuster.
• Dennett, D. C. (1996). Kinds of Minds: Toward an Understanding of Consciousness. Basic Books.
• Dennett, D. C. (2013). Intuition Pumps and Other Tools for Thinking. W. W. Norton.
• Dennett, D. C. (2017). From Bacteria to Bach and Back: The Evolution of Minds. W. W. Norton.
• Dennett, D. C. (2023). The problem with counterfeit people. The Atlantic.
• Godfrey-Smith, P. (2009). Darwinian Populations and Natural Selection. Oxford University Press.
• Herman, J. L. (1992). Trauma and Recovery. Basic Books.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Nagel, T. (2017). Is consciousness an illusion? The New York Review of Books.
• Sperber, D. (1996). Explaining Culture: A Naturalistic Approach. Blackwell.
• Strawson, G. (2018). The consciousness deniers. The New York Review of Books.

Související🔗

Teoretické reflexe

• 7.35 Dennett: Intentional Stance – metoda, z níž kniha vychází.
• 7.50 Dawkins: Mem – původ pojmu memu a jeho kritiky.
• 7.36 Searle: Čínský pokoj – opačná odpověď na otázku strojového porozumění.
• 7.37 Chalmers: Hard Problem – hlavní protivník teze o uživatelské iluzi.
• 7.7 EA v digitálním věku – kde se riziko „padělaných lidí“ projevuje.

Techniky

• EA-9.2.10 AI Personhood Claim – vzorec připisování osobnosti strojům.
• EA-7.3.7 Dennett: Intenční postoj – technická stránka Dennettova rámce.

Pojmy

• Deepfake – napodobení lidského projevu.
• Systém 1 a systém 2 – psychologický protějšek kompetence bez porozumění.
• Metakognice – porozumění vlastním kompetencím.