The Significance of Transfer Learning for Computer Vision Technology

Tématem této diplomové práce je přenosové učení – technika umožňující přenos znalostí mezi neuronovými sítěmi, a to především v kontextu počítačového vidění. Práce nejdříve prochází současnou literaturu a vysvětluje teorii této oblasti. Následuje přehled modelů počítačového vidění posledních let a praktická část, v které se pokusíme zjistit, jestli je možné pomocí přenosového učení lze kompenzovat nedostatek dat a zkrátit dobu učení sítě. Dále se pokusíme zjistit, jestli dosahuje síť získaná pomocí přenosu znalostí i po dostatečné době a s dostatečným množstvím dat lepších výsledků. Nakonec ještě posoudíme vliv velikosti a architektury zdrojového modelu na výsledky přenosového učení. V rámci šesti datových souborů používaných pro hodnocení klasifikace obrázků je provedeno porovnání výsledků modelu VGG16 vždy v jednom případě využívající pouze jeho architekturu a v druhém i jeho znalosti získané na datovém souboru ImageNet. Rovněž prověřujeme vlivy náhodného zvolení vah, prodloužení času učení modelu, navýšení a snížení velikosti datového souboru a porovnání přenosu znalostí z několika různých modelů počítačového vidění. Celkově prezentujeme velké množství závěrů podporujících užitečnost přenosového učení. U jednoho datového souboru model bez přenosu znalostí dosahuje lepších výsledků, ale u všech ostatních vede přenos znalostí ke snížení entropie a navýšení přesnosti klasifikace a ve dvou případech je dokonce přenos znalostí jedinou možností, která vede k použitelnému modelu. Navíc v rámci žádného z datových souborů jsme nenalezli žádné podstatné omezení použitelnosti přenosového učení.