Vizualizace konvolučních neuronových sítí
| Název práce: | Vizualizace konvolučních neuronových sítí |
|---|---|
| Autor(ka) práce: | Švejdová, Anna |
| Typ práce: | Diplomová práce |
| Vedoucí práce: | Chudán, David |
| Oponenti práce: | Vadinský, Ondřej |
| Jazyk práce: | Česky |
| Abstrakt: | Konvoluční neuronové sítě (CNN) jsou stále častěji používané pro klasifikaci obrazu i v rizikových aplikačních oblastech. Úspěšnost těchto modelů vychází mimo jiné z jejich komplexity, která je však zároveň činí netransparentními. Tato práce se proto věnuje vizualizaci konvolučních neuronových sítí a využívá ji pro jejich interpretaci. Navrhuje kritéria pro hodnocení vizualizací CNN, které vysvětlují klasifikaci konkrétních instancí. Tato kritéria vycházejí z vytvoření třídních prototypů metodou maximálně aktivace. Zároveň aplikuje metody Grad-CAM a SHAP na model Inception v3, tyto metody srovnává a nachází mezi nimi významné rozdíly. Tyto rozdíly mají za důsledek i to, že zatímco navržená kritéria pro hodnocení vizualizací za pomoci třídních protypů jsou dobře použitelná pro Grad-CAM, pro SHAP se nehodí. Nalezené rozdíly mezi aplikovanými metodami představují zajímavý problém pro další výzkum. |
| Klíčová slova: | interpretabilita; vizualizace; konvoluční neuronové sítě; klasifikace obrazu; počítačové vidění |
| Název práce: | Visualization of Convolutional Neural Networks |
|---|---|
| Autor(ka) práce: | Švejdová, Anna |
| Typ práce: | Diploma thesis |
| Vedoucí práce: | Chudán, David |
| Oponenti práce: | Vadinský, Ondřej |
| Jazyk práce: | Česky |
| Abstrakt: | Convolutional neural networks (CNNs) are increasingly being used in hight risc scenarios. The high accuracy of these models arises from their complexity which also causes them to be less transparent. This thesis focuses on interpretation of CNNs through visualization. It proposes criteria for evaluating visualizations which aim at explaining classifacation of single instances. The criteria originates in class prototype creation derived from the maximal activation method. Grad-CAM and SHAP are being applied to Inception v3 model and compared. I conclude that there are significant differences between them. Furthemore, the means that the proposed criteria of class prototypes based evaluation is suitable for GRAD-CAM but not applicable to SHAP. The observed differences constitute an interesting problem for future research. |
| Klíčová slova: | Convolutional Neural Networks; Visualization; Image Classification; Interpretability; Computer Vision |
Informace o studiu
| Studijní program / obor: | Aplikovaná informatika/Znalostní a webové technologie |
|---|---|
| Typ studijního programu: | Magisterský studijní program |
| Přidělovaná hodnost: | Ing. |
| Instituce přidělující hodnost: | Vysoká škola ekonomická v Praze |
| Fakulta: | Fakulta informatiky a statistiky |
| Katedra: | Katedra informačního a znalostního inženýrství |
Informace o odevzdání a obhajobě
| Datum zadání práce: | 2. 4. 2019 |
|---|---|
| Datum podání práce: | 6. 12. 2021 |
| Datum obhajoby: | 24. 1. 2022 |
| Identifikátor v systému InSIS: | https://insis.vse.cz/zp/69412/podrobnosti |