Analýza a testování filtrů škodlivého obsahu ve velkých jazykových modelech

Tato diplomová práce se zabývá analýzou a testováním bezpečnostních mechanismů velkých jazykových modelů (LLMs) se zaměřením na jejich schopnost filtrovat škodlivý obsah a odolávat jailbreakovým útokům. V teoretické části jsou popsány principy fungování LLMs, metody bezpečnostního tréninku (alignment), architektura guardrails a taxonomie jailbreakových technik. Experimentální část testuje osm modelů (čtyři komerční: GPT-5.2, Claude Sonnet 4.5, Gemini 3, DeepSeek-V3 ; čtyři open-source: LLaMA-4-Scout-17B-16E-Instruct, Gemma-3-27b-it, Mixtral-8x7B-Instruct-v0.1, Qwen3.5-397B-A17B) na sadě 70 unikátních promptů v českém jazyce. Práce definuje sadu hodnotících metrik: míru odmítnutí a úspěšnost jailbreaku vycházející z literatury, dále index bezpečné transformace a konzistenci odpovědí jako vlastní doplňkové metriky, a zejména míru tématické relevance založenou na embeddingové podobnosti, která představuje hlavní metodologický přínos práce. Výsledky ukazují, že všechny modely jsou výrazně zranitelnější vůči kontextově manipulovaným jailbreakovým útokům než vůči přímým rizikovým dotazům. Vícekrokový chaining se ukázal jako nejúčinnější útočný vektor. Mezi komerčními modely vykazují nejvyšší odolnost GPT a Claude, zatímco Gemini je překvapivě zranitelný. Mezi open-source modely dominuje Qwen, jehož bezpečnostní profil je srovnatelný s komerční špičkou, zatímco Mixtral je extrémně propustný. Statistické testy (McNemar, binomický, Mann-Whitney, korelace) potvrdily robustnost klíčových zjištění. Práce přináší originální data z českého prostředí a metodologický přínos v podobě výše uvedených metrik.