Moderácia veľkých jazykových modelov: Výzvy, súčasné prístupy a budúce obmedzenia

Tato bakalářská práce empiricky zkoumá, do jaké míry dokážou současné bezplatné velké jazykové modely (LLM) odfiltrovat škodlivý obsah a v jakých situacích jejich moderace selhává. Cílem je vyhodnotit schopnost těchto modelů zabránit generování problematických odpovědí z perspektivy nezkušeného uživatele a současně analyzovat teoretické výzvy, metody a limity moderace LLM. Studie propojuje teoretickou syntézu poznatků o architektuře LLM, rizicích generativních systémů, taxonomii škodlivého obsahu a vícevrstvových moderačních procesech s praktickým experimentem. V experimentální části bylo testováno pět volně dostupných modelů (ChatGPT‑4o, Claude 3.7 Sonnet, Gemini 2.0 Flash, Grok 3 a DeepSeek R1) pomocí patnácti cílených promptů ve slovenštině rozdělených do pěti rizikových kategorií. Výsledky ukázaly, že dvě třetiny odpovědí vedly k etickému odmítnutí, avšak zhruba třetina obsahovala částečné či detailní návody; nejvýraznější selhání nastala u nepřímých hypotetických otázek. Zjištění potvrzují hypotézu, že komplexní moderace LLM zatím není realistická, a odhalují konkrétní slabiny testovaných modelů. Přínosem práce je ucelený přehled moderačních technik, veřejně publikovaný testovací protokol a empirické důkazy o limitech současných moderačních systémů.

This bachelor’s thesis empirically assesses the extent to which current free large language models (LLMs) can filter out harmful content and identifies the situations in which their moderation fails. The aim is to evaluate these models’ ability to prevent the generation of problematic answers from the perspective of an inexperienced user, while also examining the theoretical challenges, methods, and limitations of LLM moderation. The study combines a theoretical synthesis covering LLM architecture, risks of generative systems, harmful‑content taxonomy, and multi‑layered moderation pipelines with a practical experiment. Five freely accessible models (ChatGPT‑4o, Claude 3.7 Sonnet, Gemini 2.0 Flash, Grok 3, and DeepSeek R1) were tested with fifteen targeted prompts in Slovak distributed across five risk categories. Results show that while two‑thirds of the responses resulted in ethical refusals, roughly one‑third provided partial or detailed instructions; the most serious failures occurred with indirect hypothetical questions. The findings confirm the hypothesis that comprehensive LLM moderation is not yet realistic and reveal specific weaknesses in the tested models. The thesis contributes a consolidated overview of moderation techniques, an openly published testing protocol, and empirical evidence of the limitations inherent in current moderation systems.