Explainable image classification based on word embeddings

S rostoucím začleněním systémů umělé inteligence do reálných aplikací je potřeba transparentnosti a důvěry uživatelů důležitější než kdy dříve. V oblasti počítačového vidění představuje jeden z hlavních problémů vysvětlování rozhodnutí modelu způsobem, který je přesný a zároveň srozumitelný i pro neodbornou veřejnost. Tato diplomová práce představuje novou metodu, která vytváří vizuální vysvětlení pomocí jednoduchého matematického uvažování, a to formou ohraničujících boxů (bounding boxes), které zvýrazňují relevantní oblasti na obrázku. Cílem bylo navrhnout techniku, která je interpretovatelná již ze své podstaty a zároveň snadno vyhodnotitelná. Za tímto účelem rozšiřujeme přístup SMER (Self Model Entities Related) a přizpůsobujeme jej obrazovým datům tím, že propojujeme důležitost jednotlivých slov s odpovídajícími prostorovými oblastmi v obraze. Výsledné ohraničující boxy jsou hodnoceny pomocí komplexního souboru metod. Pro toto hodnocení jsme použili dataset obsahující celkem 13 355 obrázků. Pro kvantitativní hodnocení byla použita metrika AOPC (Area Over the Perturbation Curve), která měří efektivitu vysvětlení z hlediska zachování výkonnosti modelu. Kvalitativně porovnáváme vysvětlení založená na SMER s metodou LIME (Local Interpretable Model-Agnostic Explanations) pomocí logistické regrese a s heatmapami založenými na metodě MoRF (Most Relevant First) pomocí klasifikátoru ResNet, abychom posoudili míru interpretovatelnosti. Kromě toho jsme provedli rozsáhlé uživatelské hodnocení napříč jazyky. V tomto dotazníku 270 účastníků hodnotilo vizuální vysvětlení—včetně ohraničujících boxů a heatmap—v rámci deseti kategorií objektů a poskytlo otevřenou zpětnou vazbu k jejich srozumitelnosti a přehlednosti. Výsledky ukazují, že ohraničující boxy vytvořené naší metodou jsou obecně vnímány jako srozumitelnější než heatmapy. Přestože přístup vykazuje výrazný potenciál, naráží na určitá omezení při aplikaci na obrázky s více objekty nebo abstraktními pojmy. Přesnost ohraničujících boxů je navíc do určité míry omezena schopnostmi současných jazykových modelů, což by se však s jejich dalším vývojem mělo zlepšovat. Celkově výsledky naznačují, že jednoduché a vysvětlitelné modely mohou být silnými nástroji pro zlepšení interpretovatelnosti systémů umělé inteligence.