ML patterns with easy visualization

Daná diplomová práce hodnotí vizualizace používané v oblasti Explainable Artificial Intelligence pro tree-based modely strojového učení. Cílem práce je vybrat post hoc techniky XAI a navrhnout strukturovaný způsob porovnání jejich vizualizací u white-box a black-box modelů. Práce se také zabývá kompromisem mezi prediktivní výkonností a snadnou interpretovatelností a poskytuje doporučení pro analytiky, kteří potřebují srozumitelná vysvětlení při zachování výkonnosti blízké black-box modelům. Empirická analýza je založena na dvou klasifikačních datasetech: Titanic a Heart Failure Readmission. Hodnoceno je pět tree-based modelů: Decision Tree, Random Forest, XGBoost, LightGBM a Histogram-based Gradient Boosting. Použité techniky XAI zahrnují SHAP, LIME, Permutation Feature Importance, PDP, ICE a ALE. Navržený rámec hodnocení seskupuje vizualizace podle jejich analytické úlohy a pro každou skupinu používá vhodné metriky. Mezi ně patří Just Noticeable Difference, Visual Channel Score, Mapping Complexity Score, data density (hustota dat), visual occupancy, pixel entropy, line crossings, overplotting, parallelism, konvergence a divergence. Výsledky ukazují, že žádná vizualizace není univerzálně nejlepší. Sloupcové grafy, zejména SHAP summary bar a PFI, jsou nejpřehlednější pro přímé porovnání důležitosti atributů. SHAP waterfall je kompaktnější než SHAP force plot, zatímco ICE a SHAP decision plots jsou užitečné, ale vizuálně složitější. Výsledky také ukazují, že jednodušší modely nemusí vždy vést k přehlednějším vizualizacím. V této práci kombinace modelu Random Forest a jednoduchých vizualizací založených na SHAP poskytla nejlepší rovnováhu mezi výkonností a interpretovatelností.