Bridge: Agent

Most vede od hesla glosáře k místům knihy, kde se pojem používá, a od nich k praxi: rozpoznání, obraně a zotavení. Přehled všech mostů je v rejstříku Glossary Bridges.

Pojem

Agent je autonomní softwarová entita s formálně popsanými vstupy, výstupy, oprávněními a doménou. Heslo glosáře zdůrazňuje rozdíl oproti běžnému významu slova v umělé inteligenci: agentem tu není jazykový model s přístupem k nástrojům, ale proces s pevně vymezenými hranicemi, jehož výstupy se ověřují.

Glosář popisuje práci agenta jako smyčku vnímání – rozhodnutí – akce – zpětná vazba. Kniha z ní přebírá analogii: stejnou smyčku lze rozpoznat v lidském jednání a manipulace ji může narušit v kterémkoli článku – zúžením toho, co člověk vnímá, zkreslením kritérií, podle nichž rozhoduje, nebo zpochybněním toho, co se z výsledků svého jednání dozvídá.

Pojem v jeho vlastním oboru

V informatice se agentem rozumí systém, který vnímá své prostředí prostřednictvím senzorů a působí na ně prostřednictvím akčních členů (Russell a Norvig 1995). Wooldridge a Jennings (1995) doplnili, že o inteligentním agentovi má smysl mluvit tehdy, je-li autonomní, reaguje na změny prostředí, sleduje vlastní cíle a komunikuje s jinými agenty.

Důležité je, že autonomie takového agenta je ohraničená: rozhoduje sám, ale jen v rozsahu svého oprávnění, a jeho výstupy procházejí kontrolou. Tato dvojice – vlastní rozhodování a vnější ověřování – je i jádrem lidské analogie.

Analogie, kterou kniha činí

Psychologie popisuje lidskou agentnost jako schopnost záměrně jednat, předvídat důsledky, regulovat se a reflektovat vlastní jednání (Bandura 2001). S ní souvisí pocit agentnosti – zkušenost, že jsem to já, kdo jedná a kdo svým jednáním něco mění (Haggard 2017). Obě složky jsou pro poznání zásadní: kdo nevěří, že jeho úsudek má váhu, přestane ho používat.

Kniha ukazuje, jak manipulace zasahuje jednotlivé články smyčky. Vnímání zužuje EA-1.1.1 Selektivní expozice, která řídí, k jakým informacím se člověk vůbec dostane. Rozhodování zkresluje EA-4.3.5 Modifikace evidenčních kritérií, která mění pravidla, podle nichž se hodnotí důkazy. Zpětnou vazbu rozvrací EA-2.5.8 Spirála rekurzivní pochybnosti: člověk se přestane učit z výsledků, protože každý výsledek je předem zpochybněn. Konečným stavem bývá to, co Seligman (1975) popsal jako naučenou bezmocnost – přesvědčení, že na vlastním jednání nezáleží. Kniha mu odpovídá technikou EA-2.5.10 Implantace existenciální bezmocnosti.

Kde se pojem v knize vyskytuje

Úvahy o umělých agentech jako aktérech, kteří mohou poznávání lidí podporovat i ohrožovat, rozvádí kapitola 7.7 EA v digitálním věku.

Lidskou agentnost kniha rozebírá v kapitolách o metakognitivní rehabilitaci a o obnově kompetencí, kde je obnova zkušenosti „moje rozhodnutí něco mění“ samostatným terapeutickým cílem.

Od pojmu k praxi

Rozpoznání

Oslabená agentnost se projevuje tím, že člověk přestává rozhodovat i v drobnostech, odkládá volby na druhého a o vlastních úsudcích mluví jako o „pravděpodobně špatných“. Typický je náhlý nárůst sebepochybnosti po rozhovorech s určitou osobou, který kniha popisuje v detekční signatuře Skok sebepochybnosti. Pozorovatel si může položit otázku, který článek smyčky je narušen: dostává člověk informace, smí podle nich rozhodovat a vidí, co jeho rozhodnutí způsobilo?

Odlišení

Pokles agentnosti není totéž co deprese, i když se s ní často pojí; deprese zasahuje motivaci a náladu napříč oblastmi života, kdežto manipulací navozená bezmocnost bývá vázaná na konkrétní vztah nebo prostředí a mimo ně může slábnout. Stejně tak dobrovolné svěření rozhodnutí odborníkovi není ztrátou agentnosti, pokud člověk ví, proč to dělá, a může volbu kdykoli vzít zpět. Diferenciální rozvahu nabízí kapitola 6.2 Diferenciální diagnostika.

Obrana

Obrana obnovuje jednotlivé články smyčky. Vnímání chrání rozmanitost zdrojů (Triangulace zdrojů), rozhodování výslovná vlastní kritéria (Vyjasnění hodnot) a zpětnou vazbu záznam rozhodnutí a jejich výsledků, který se dá číst s odstupem (Metakognitivní monitoring). Podstatné je malé měřítko: agentnost se obnovuje opakovanou zkušeností, že drobné rozhodnutí mělo předvídatelný důsledek.

Zotavení a rámec pro profesionály

Terapeut, který chce agentnost obnovit, by ji neměl nahrazovat vlastním rozhodováním. Kniha upozorňuje, že i dobře míněné direktivní vedení může u člověka po manipulaci zopakovat původní vzorec. Proto doporučuje nabízet volby, výslovně vracet rozhodnutí klientovi a pracovat s postupným rozšiřováním okruhu, v němž klient rozhoduje sám – viz Subakutní rekonstrukce důvěry.

Časté omyly

Prvním omylem je ztotožnit softwarového agenta s lidskou osobou. Analogie popisuje strukturu smyčky, nikoli vědomí, odpovědnost či morální status. Druhým omylem je přenést na člověka představu, že dobrý agent je ten, kdo poslušně plní příkazy nadřízené úrovně; u lidí je naopak schopnost odmítnout příkaz, který odporuje vlastnímu úsudku, znakem zdravé agentnosti. Třetím omylem je číst ztrátu agentnosti jako slabost charakteru: kniha ji popisuje jako předvídatelný výsledek prostředí, které soustavně trestá samostatné rozhodování.

Co analogie nedokazuje

Přisoudit procesu vnímání, rozhodování a cíle je podle Dennetta (1987) zaujetí intencionálního postoje: strategie, která se vyplácí, protože dovoluje chování předpovídat, nikoli nález o tom, že popisovaná entita něco chce nebo ví. Pro tento most z toho plynou dvě omezení. Za prvé: rozpoznat v lidském jednání smyčku vnímání – rozhodnutí – akce – zpětná vazba neznamená prokázat, že se tak jednání skutečně uskutečňuje; smyčka je popisný rastr, který ukazuje, kde se dá hledat, a jeho hodnota je diagnostická, ne kauzální. Za druhé: zjištění, že je některý článek smyčky narušen, nedokazuje, že jej někdo narušil záměrně. Tytéž projevy — zúžené vstupy, zkreslená kritéria, nedostupná zpětná vazba — mohou vzniknout nemocí, chudobou, prostředím s malou nabídkou voleb nebo i dobře míněnou nadměrnou péčí. Třetí omezení je terapeutické: z toho, že se smyčka dá na papíře rozložit na čtyři články, nevyplývá, že se dá u člověka po článcích opravovat. U softwarového agenta jsou vstupy, kritéria a zpětná vazba oddělené součásti; u člověka se proměňují společně — zkušenost, že rozhodnutí má následek, mění i to, čeho si člověk příště všimne. Interpretace knihy: tvrzení o záměru je samostatné tvrzení a potřebuje samostatné důkazy; most je pomůckou pro čtení struktury a tím jeho pravomoc končí.

Příklad (anonymizovaný kompozit)

Muž ve středních letech po letech v kontrolujícím vztahu nedokáže v obchodě vybrat ani druh pečiva bez telefonátu partnerce. Po odchodu ze vztahu s ním terapeutka nepracuje nejprve s velkými rozhodnutími, ale s denním záznamem drobných voleb a jejich výsledků. Po několika týdnech muž sám formuluje, že „to, co si vyberu, většinou dopadne normálně“. Teprve na tomto základě se lze vracet k větším rozhodnutím o bydlení a práci. Případ ilustruje, že obnova smyčky začíná u zpětné vazby, ne u vůle.

Meze a otevřené otázky

Analogie mezi softwarovým agentem a člověkem je užitečná jako nástroj výkladu, ale má meze: lidské jednání je vtělené, emočně zabarvené a vztahové, jak připomíná Bridge: Embodied cognition. Otevřenou otázkou zůstává, jak měřit pocit agentnosti u lidí po manipulaci spolehlivěji než sebeposuzovacími dotazníky, a jak se do lidské agentnosti promítne každodenní spolupráce s umělými agenty, kteří za člověka stále častěji vybírají a doporučují.

Literatura

• Bandura, A. (2001). Social cognitive theory: An agentic perspective. Annual Review of Psychology, 52, 1–26.
• Dennett, D. C. (1987). The Intentional Stance. MIT Press.
• Haggard, P. (2017). Sense of agency in the human brain. Nature Reviews Neuroscience, 18(4), 196–207.
• Russell, S., & Norvig, P. (1995). Artificial Intelligence: A Modern Approach. Prentice Hall.
• Seligman, M. E. P. (1975). Helplessness: On Depression, Development, and Death. W. H. Freeman.
• Wooldridge, M., & Jennings, N. R. (1995). Intelligent agents: Theory and practice. The Knowledge Engineering Review, 10(2), 115–152.

Související

Glosář

• Agent – heslo, které tento most propojuje s knihou.

Kniha

• EA-2.5.10 Implantace existenciální bezmocnosti – konečný stav rozvrácené agentnosti.
• EA-2.5.8 Spirála rekurzivní pochybnosti – útok na zpětnou vazbu.
• Metakognitivní monitoring – sledování vlastního rozhodování.
• Středně-dobá metakognitivní rehabilitace – obnova schopnosti úsudku.

Sesterské mosty

Strukturní vazby

• Agent – heslo glosáře, které tento most propojuje s knihou