Epistemická integrita knihy

Vztah ke knize. Tato stránka je druhým ze tří závazků vlastní etiky knihy. Nepopisuje vlastnost softwaru ani ideál poznání obecně, nýbrž standard, kterým se kniha sama řídí a podle kterého ji lze kritizovat: tvrzení nese svůj zdroj, termín znamená v celé knize jednu věc a pojmy, které si kniha vymyslela, jsou označené jako její vlastní. Část stránky je věnována místům, kde kniha tento standard porušila.

Abstrakt

Kniha popisuje, jak se poškozuje schopnost poznávat (epistemická anihilace). Text o tomto předmětu je zvlášť zranitelný vůči vlastní nekázni: čtenář, který knize uvěří kvůli jejímu tónu, se naučil přesně to, co se naučit neměl. Pennycook a kolegové doložili, že plynulý a abstraktní jazyk je přijímán jako hluboký i tam, kde nenese žádný obsah, a že schopnost takový text odhalit se mezi lidmi výrazně liší (Pennycook a kol., 2015).

Epistemická integrita je proto v této knize provozní požadavek, ne hodnota k vyznávání. Má tři nároky a jednu veřejnou povinnost: nárok na provenienci tvrzení, nárok na jediný význam termínu, nárok na poctivé označení vlastních pojmů – a povinnost přiznat, kde se to nepovedlo. Frankfurt rozlišil lháře a mluvku: lhář se o pravdu stará, protože ji chce obejít, zatímco mluvka je k ní lhostejný, a právě tato lhostejnost je pro odborný text nebezpečnější (Frankfurt, 2005).

Nárok první: tvrzení nese svůj zdroj

Požadavek, aby každý věcný bod byl souvislý odstavec opřený o doložitelnou práci, není formalita. Merton popsal jako jednu z norem vědy organizovanou skepsi – závazek podrobit tvrzení přezkoumání bez ohledu na to, kdo je vyslovil (Merton, 1973). Citace je technickou podmínkou této skepse: bez ní nelze tvrzení přezkoumat, jen přijmout nebo odmítnout.

Historicky vznikl tento požadavek jako řešení problému vzdáleného svědka. Shapin a Schaffer popsali na sporu o vzduchovou pumpu, jak experimentální zpráva vytváří „virtuální svědectví“: popsána je tak, aby čtenář, který u pokusu nebyl, mohl soudit, jako by u něj byl (Shapin a Schaffer, 1985). Odstavec bez zdroje tuto možnost čtenáři odebírá a nahrazuje ji důvěrou v autora.

Současná podoba téhož nároku je institucionalizovaná. Nosek a kolegové formulovali pro odborné časopisy osm standardů průhlednosti, z nichž první je právě citační standard: tvrzení se váže na dohledatelný zdroj a zdroj je uveden tak, aby jej šlo najít (Nosek a kol., 2015). Wilkinson a kolegové týž požadavek vztáhli na data: údaj má být dohledatelný, přístupný, propojitelný a znovu použitelný, s provenienci jako povinnou součástí (Wilkinson a kol., 2016).

Nárok druhý: termín znamená jednu věc

Kuhn ukázal, že tatáž slova mohou v různých rámcích znamenat různé pojmy – „hmotnost“ u Newtona a u Einsteina není totéž, přestože výraz je stejný (Kuhn, 1962). V knize, která obsahuje stovky hesel a technik, je tento posun snadný a nenápadný: stejné slovo použité ve dvou kapitolách ve dvou významech vytvoří zdánlivou souvislost tam, kde žádná není.

Opačným selháním je přejímání odborné terminologie do metaforické role. Sokal a Bricmont rozebrali případy, kdy jsou pojmy z matematiky a fyziky použity mimo svůj obor bez toho, aby nesly svůj obsah, a výsledkem je text, který vypadá přesně a není (Sokal a Bricmont, 1998). Část dědictví této knihy pochází z takto psaných textů a dnes platí pravidlo, že pojem z jiného oboru se použije jen s uvedením, co se z jeho původního významu zachovává (viz Metodologické poznámky, výzva terminologické preciznosti).

Z toho plyne i pravidlo „pojem = stránka = odkaz“, které kniha vymáhá strojově (interpretace knihy): každý termín má jedinou stránku, na které je definován, a každé jeho tučné užití je odkaz na tuto stránku. Důvodem je tentýž Kuhnův problém: jediné místo definice je jediná obrana proti tomu, aby se význam na různých místech rozešel (Kuhn, 1962).

Nárok třetí: vlastní pojmy jsou označené jako vlastní

Řada pojmů této knihy je jejím vlastním výtvorem – hermeneutický outsourcing, epistemická disoluční komora a desítky dalších. Pro jejich zavedení existuje legitimní důvod: Frickerová popsala hermeneutickou nespravedlnost jako stav, kdy lidem chybí pojmy, jimiž by svou zkušenost pojmenovali, a tvorba nových pojmů je přímou odpovědí na tuto mezeru (Fricker, 2007).

Zavedení pojmu však není neutrální úkon. Hacking ukázal, že klasifikace lidí má zpětnou smyčku: pojmenování mění ty, kdo jsou pojmenováni, i to, jak sami sebe chápou (Hacking, 1995). Pojem vydávaný za zavedený proto působí silněji než pojem přiznaně nový, a právě proto se v knize každé vlastní heslo označuje v oddílu o původu pojmu a interpretační tvrzení nese kurzivní značku interpretace knihy.

Kde kniha tento standard porušila

Dřívější verze této knihy nesly vymyšlená čísla. Stránky populačního zdraví uváděly prevalence, velikosti vzorku, intervaly spolehlivosti, Cohenovo d a NNT, které nepocházely z žádné studie, protože vznikly jako šablonová výplň; týž vzorec se opakoval u krizových protokolů včetně dávek látek. Tato čísla byla z knihy odstraněna a nahrazena popisem toho, co je a co není doloženo. Fanelli v metaanalýze průzkumů doložil, že otevřenou fabrikaci přiznává jen malá část výzkumníků, zatímco sporné praktiky s daty přiznává podstatně větší část – samotná fabrikace tedy nebývá zdrojem většiny nespolehlivosti, ale zde šlo přesně o ni (Fanelli, 2009).

Druhým porušením byly citace, které svou větu nepodpíraly. Nezávislá recenze obsahu našla místa, kde byl pod vlastní větou knihy uveden klasik oboru jako dekorace – nejčastěji Lifton u tvrzení, která u něj nestojí, a na jiném místě Stark u tvrzení o jiném jevu, než jaký popisuje. Takové citace byly odstraněny nebo nahrazeny prací, která tvrzení skutečně nese; s nimi zmizely i osiřelé položky v seznamech literatury. Gilbert popsal referencování jako nástroj přesvědčování, nikoli jen odkazování, a dekorativní citace je právě tímto užitím (Gilbert, 1977).

Třetí porušení bylo mechanické. Velká část textu vznikala generováním a generovaný text je plynulý bez ohledu na to, zda za ním něco stojí; Bender a kolegové upozornili, že jazykové modely produkují souvislou formu bez vazby na význam a že nedostatek dokumentace zdrojů tento problém prohlubuje (Bender a kol., 2021). Z toho plyne důsledek, který kniha přijala: plynulost textu není v této knize dokladem ničeho a kontrola se dělá proti zdrojům, ne proti dojmu.

Tyto případy nejsou vyčerpávající výčet, nýbrž ty, které byly nalezeny a zaznamenány v historii repozitáře. Kniha netvrdí, že je dnes bez chyb; tvrdí, že nalezenou chybu opravuje viditelně a nepřepisuje potichu (viz Metodologické poznámky).

Jak se standard vymáhá

Standard není prohlášení, ale sada automatických kontrol, které běží nad celým obsahem před každým zápisem. Kontroly odmítnou odstavec delší než dvacet slov bez citace, citovaná příjmení, která nejsou v seznamu literatury, stránku kratší než dvě strany A4, zástupný text, dávku léku v prózovém textu a číselný blok, který stojí shodně na třech a více stránkách – tedy přesně ta selhání, která byla v knize nalezena (viz Etický kodex, bod o transparentních limitacích).

Výjimka z citačního požadavku je úmyslně úzká: odstavec, který pouze vyslovuje rámec knihy, smí místo citace odkázat na jednu ze čtyř metodických stránek, a nejvýš třikrát na stránce. Smysl tohoto omezení je zabránit tomu, aby se výjimka stala náhradou dokladu (viz Jak knihu používat).

Námitky proti tomuto standardu

Nejvážnější námitka míří na citaci na odstavec. Pravidlo, které vyžaduje referenci u každého odstavce, vytváří tlak připojit referenci i tam, kde věta patří autorovi, a výsledkem je právě dekorativní citace popsaná výše; Gilbert ukázal, že referencování slouží mimo jiné k budování autority textu, a formální kvóta tuto funkci posiluje (Gilbert, 1977). Kniha na to odpovídá jen tím, že pro vlastní rámec zavedla výslovnou výjimku a kurzivní značku; že tím problém zmizel, netvrdí.

Druhá námitka míří na samotné pojetí norem. Mitroff na materiálu z výzkumu lunárních vzorků doložil, že vedle Mertonových norem působí v reálné vědě i protinormy – oddanost vlastní hypotéze a emocionální investice do ní – a že právě ty část výzkumu pohánějí (Mitroff, 1974). Kdo tuto námitku přijme, bude standard této stránky číst jako ideál, který popisuje, jak se o textu vypráví, ne jak vzniká.

Třetí námitka je obecnější a knihu zasahuje nejtvrději. Ioannidis argumentoval, že většina publikovaných výzkumných zjištění je nepravdivá, a replikační projekt v psychologii doložil, že se původní výsledek podařilo zopakovat u menšiny studií (Ioannidis, 2005; Open Science Collaboration, 2015). Citace tedy sama neposkytuje záruku pravdivosti: zajišťuje jen dohledatelnost, a kniha z ní víc vyvozovat nesmí. Proto je u sporných tvrzení uváděn stav sporu, a ne vítěz.

Integrita a licence GHL

Obsah knihy vychází pod licencí General Honest License (GHL) v1.0, která užití neudílí předem a vyžaduje výslovné svolení autora – tedy v režimu, který Lessig popsal jako „kulturu povolení“ (Lessig, 2004); podrobnosti jsou v O projektu. Pro epistemickou integritu z toho plyne jedna výhoda: odvozené vydání, které z textu odstraní zdroje, značky vlastních pojmů nebo přiznané limitace, je porušením licence, a autor má tedy nástroj proti vydání, jež by si zachovalo tvrzení a zahodilo jejich oporu.

Námitka proti této volbě je ale přímo epistemická a tato stránka ji vyslovuje. Přezkoumání tvrzení vyžaduje možnost text přebírat, citovat v rozsahu a znovu uspořádat, a licence, která to podmiňuje svolením, tuto možnost zužuje; Merton počítá organizovanou skepsi mezi normy vědy právě proto, že musí být proveditelná kýmkoli, nejen tím, komu to autor dovolí (Merton, 1973). Kniha zde volí ochranu rámce před snadností přezkumu a tuto cenu uvádí, místo aby ji zamlčela.

Literatura

• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of FAccT '21. ACM.
• Fanelli, D. (2009). How many scientists fabricate and falsify research? A systematic review and meta-analysis of survey data. PLoS ONE, 4(5).
• Frankfurt, H. G. (2005). On Bullshit. Princeton University Press.
• Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
• Gilbert, G. N. (1977). Referencing as persuasion. Social Studies of Science, 7(1).
• Hacking, I. (1995). The looping effects of human kinds. In D. Sperber, D. Premack, & A. J. Premack (Eds.), Causal Cognition: A Multidisciplinary Debate. Oxford University Press.
• Ioannidis, J. P. A. (2005). Why most published research findings are false. PLoS Medicine, 2(8).
• Kuhn, T. S. (1962). The Structure of Scientific Revolutions. University of Chicago Press.
• Lessig, L. (2004). Free Culture. Penguin Press.
• Merton, R. K. (1973). The Sociology of Science: Theoretical and Empirical Investigations. University of Chicago Press.
• Mitroff, I. I. (1974). Norms and counter-norms in a select group of the Apollo moon scientists. American Sociological Review, 39(4).
• Nosek, B. A., Alter, G., Banks, G. C., et al. (2015). Promoting an open research culture. Science, 348(6242).
• Open Science Collaboration (2015). Estimating the reproducibility of psychological science. Science, 349(6251).
• Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. Judgment and Decision Making, 10(6).
• Shapin, S., & Schaffer, S. (1985). Leviathan and the Air-Pump: Hobbes, Boyle, and the Experimental Life. Princeton University Press.
• Sokal, A., & Bricmont, J. (1998). Fashionable Nonsense: Postmodern Intellectuals' Abuse of Science. Picador.
• Wilkinson, M. D., Dumontier, M., Aalbersberg, I. J., et al. (2016). The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 3.

Související

Eseje tohoto oddílu

• Vlastní etika knihy – tři závazky knihy a důvod jejího vydání pod GHL v1.0.
• Intelektuální suverenita čtenáře – autorita čtenáře nad výkladem vlastní zkušenosti.
• Etika hranic – komu je text určen a co odmítá vyslovit.

Pojmy

• Epistemická anihilace – předmět knihy, kvůli němuž je tento standard nutný.
• Epistemická pokora – přiznaná nejistota jako epistemická ctnost.
• Konfirmační zkreslení – mechanismus, kvůli němuž selektivní citace vzniká i bez zlého úmyslu.

Metoda a etika knihy

• Metodologické poznámky – taxonomické principy, terminologická preciznost a přiznané limitace.
• Jak knihu používat – čtení po vzorcích a hranice výjimky pro vlastní rámec.
• Etický kodex – transparentní limitace a odpovědnost za zveřejnění.
• O projektu – původ edice, způsob sestavení a licence.