Visualization of Convolutional Neural Networks
| Thesis title: | Vizualizace konvolučních neuronových sítí |
|---|---|
| Author: | Švejdová, Anna |
| Thesis type: | Diplomová práce |
| Supervisor: | Chudán, David |
| Opponents: | Vadinský, Ondřej |
| Thesis language: | Česky |
| Abstract: | Konvoluční neuronové sítě (CNN) jsou stále častěji používané pro klasifikaci obrazu i v rizikových aplikačních oblastech. Úspěšnost těchto modelů vychází mimo jiné z jejich komplexity, která je však zároveň činí netransparentními. Tato práce se proto věnuje vizualizaci konvolučních neuronových sítí a využívá ji pro jejich interpretaci. Navrhuje kritéria pro hodnocení vizualizací CNN, které vysvětlují klasifikaci konkrétních instancí. Tato kritéria vycházejí z vytvoření třídních prototypů metodou maximálně aktivace. Zároveň aplikuje metody Grad-CAM a SHAP na model Inception v3, tyto metody srovnává a nachází mezi nimi významné rozdíly. Tyto rozdíly mají za důsledek i to, že zatímco navržená kritéria pro hodnocení vizualizací za pomoci třídních protypů jsou dobře použitelná pro Grad-CAM, pro SHAP se nehodí. Nalezené rozdíly mezi aplikovanými metodami představují zajímavý problém pro další výzkum. |
| Keywords: | interpretabilita; vizualizace; konvoluční neuronové sítě; klasifikace obrazu; počítačové vidění |
| Thesis title: | Visualization of Convolutional Neural Networks |
|---|---|
| Author: | Švejdová, Anna |
| Thesis type: | Diploma thesis |
| Supervisor: | Chudán, David |
| Opponents: | Vadinský, Ondřej |
| Thesis language: | Česky |
| Abstract: | Convolutional neural networks (CNNs) are increasingly being used in hight risc scenarios. The high accuracy of these models arises from their complexity which also causes them to be less transparent. This thesis focuses on interpretation of CNNs through visualization. It proposes criteria for evaluating visualizations which aim at explaining classifacation of single instances. The criteria originates in class prototype creation derived from the maximal activation method. Grad-CAM and SHAP are being applied to Inception v3 model and compared. I conclude that there are significant differences between them. Furthemore, the means that the proposed criteria of class prototypes based evaluation is suitable for GRAD-CAM but not applicable to SHAP. The observed differences constitute an interesting problem for future research. |
| Keywords: | Convolutional Neural Networks; Visualization; Image Classification; Interpretability; Computer Vision |
Information about study
| Study programme: | Aplikovaná informatika/Znalostní a webové technologie |
|---|---|
| Type of study programme: | Magisterský studijní program |
| Assigned degree: | Ing. |
| Institutions assigning academic degree: | Vysoká škola ekonomická v Praze |
| Faculty: | Faculty of Informatics and Statistics |
| Department: | Department of Information and Knowledge Engineering |
Information on submission and defense
| Date of assignment: | 2. 4. 2019 |
|---|---|
| Date of submission: | 6. 12. 2021 |
| Date of defense: | 24. 1. 2022 |
| Identifier in the InSIS system: | https://insis.vse.cz/zp/69412/podrobnosti |