#ea-9-1
10 stránek se štítkem #ea-9-1.
Všechny stránky 10
- EA-9.1.1 LLM Hallucination LaunderingVzorec, v němž se smyšlené tvrzení jazykového modelu („halucinace“) šíří přes snímky obrazovky a citace, až působí jako doložený fakt. Znaky, odlišení, obrana.
- EA-9.1.10 LLM Recursion LoopVzorec, v němž se generovaný obsah vrací do dat, z nichž se učí další modely, a chyby se tak fixují jako fakta („model collapse“). Znaky, odlišení, obrana.
- EA-9.1.2 Prompt Injection EAVzorec, v němž skrytý pokyn v dokumentu, e-mailu nebo webu přepíše chování AI asistenta, takže uživatel dostane výstup řízený třetí stranou. Znaky a obrana.
- EA-9.1.3 Jailbreak CascadeVzorec, v němž se obcházení bezpečnostních pravidel jazykových modelů šíří řetězem a „souhlas jiného modelu“ slouží jako argument pro další. Znaky, odlišení, obrana.
- EA-9.1.4 RAG Context PoisoningVzorec, v němž zavádějící dokumenty vložené do znalostní báze AI systému (RAG) model cituje jako autoritativní zdroj. Znaky, odlišení, obrana organizace.
- EA-9.1.5 LLM Narrative InjectionVzorec, v němž se do kontextu AI konverzace vloží narativní premisy a model je pak reprodukuje jako „objektivní analýzu“. Znaky, odlišení od chyby a obrana.
- EA-9.1.6 LLM Source Attribution BypassVzorec, v němž jazykový model k tvrzení „doplní“ věrohodně vypadající, ale smyšlené nebo zkreslené zdroje, které pak slouží jako krytí. Znaky, odlišení, obrana.
- EA-9.1.7 Synthetic Expertise ClaimVzorec předstírané odbornosti, v němž generovaný text – analýzy, posudky, „whitepapery“ – slouží jako důkaz expertízy, kterou autor nemá. Znaky, odlišení, obrana.
- EA-9.1.8 LLM Confabulation AmplificationVzorec, v němž se podobné konfabulace více jazykových modelů sdílejí jako „AI konsenzus“, ačkoli jde o tutéž chybu opakovanou bez nezávislého zdroje. Znaky a obrana.
- EA-9.1.9 Multi-Turn Narrative ShiftVzorec postupného přerámování v dlouhé konverzaci s AI, kde drobné posuny vedou model i uživatele k tezi, kterou by na začátku odmítli. Znaky, odlišení, obrana.