HLADIŠ, M. Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2024.

Posudky

Posudek vedoucího

Sekanina, Lukáš

Student splnil zadání – navrhl a statisticky vyhodnotil evoluční návrhovou metodu pro aktivační funkce v CNN. Práce byla zaměřena na spíše menší CNN a jednodušší až středně obtížné klasifikační úlohy, které jsou dobře zvládnuté v literatuře. K vylepšení výsledků by bylo patrně potřeba začlenit další techniky a přidělit více výpočetních zdrojů. Vzhledem k obtížnějšímu zadání, dosažení mírně lepších výsledků než referenční aktivační funkce a pěkně zpracované technické zprávě navrhuji hodnocení stupněm velmi dobře. 

Dílčí hodnocení
Kritérium Známka Body Slovní hodnocení
Informace k zadání Jedná se o obtížnější zadání, protože vyžaduje znalosti v různých oblastech (evoluční návrh, konvoluční neuronové sítě - CNN) a jejich kombinaci (automatizovaný návrh). Práce částečně navazuje na metody automatizovaného návrhu CNN s využitím evolučních algoritmů rozvíjené na UPSY. V tomto případě je záměrem objevit zajímavé aktivační funkce. Zadání bylo splněno.
Práce s literaturou Student samostatně vyhledával odbornou literaturu a využíval ji.
Aktivita během řešení, konzultace, komunikace Student konzultoval dle potřeby, pracoval samostatně, na konzultace byl výborně připraven a samostatně navrhoval vhodná pokračování řešení projektu.
Aktivita při dokončování Implementace byla dokončena v předstihu. Obsah předfinální verze technické zprávy byl konzultován, mé připomínky byly zapracovány.
Publikační činnost, ocenění Není mi známo.
Navrhovaná známka
B
Body
85

Posudek oponenta

Mrázek, Vojtěch

Text práce kvalitně popisuje problematiku zkoumaného návrhu, navržená metoda je dobře zpracována a vyhodnocena. Navržená metoda se chová lépe než náhodné prohledávání a v některých případech jsou automaticky navržená řešení porovnatelná s řešeními navrženými člověkem. Proto navrhuji celkové hodnocení B - velmi dobře .

Dílčí hodnocení
Kritérium Známka Body Slovní hodnocení
Náročnost zadání Zadání hodnotím jako obtížnější, jelikož se jedná o výpočetně náročný návrh komponent pro neuronové sítě a o experimentální téma.
Rozsah splnění požadavků zadání
Rozsah technické zprávy Text je stručnější, ale obsahuje všechny informace požadované k pochopení podstaty a výsledků práce.
Prezentační úroveň technické zprávy 90 Text je psaný srozumitelně a všechny kapitoly na sebe navazují. 
Formální úprava technické zprávy 90 Práce je psána spisovnou češtinou a obsahuje minimum chyb. Po typografické stránce je také na vysoké úrovni. Pouze v textu došlo na více místech k překlepu v názvu použitého datasetu FashionMNIST a nejsou psána správně procentuální vyjádření.
Práce s literaturou 90 Autor ve své práci využívá 32 zdrojů převážně z vědecké literatury. Zdroje jsou řádně citovány a jsou relevantní k práci.
Realizační výstup 80 Autor ve své práci vytvořil nástroj pro evoluční návrh aktivačních funkcí. Pro vybrané problémy a architektury sítí se mu podařilo navrhnout nové aktivační funkce dosahující poměrně dobré kvality na datasetech MNIST a FashionMNIST. Nástroj byl implementován v jazyce Python, což vzhledem k propojení s PyTorch byla vhodná volba. Tento jazyk však může být neefektivní a není zřejmé, zda byly provedeny nějaké optimalizace evaluace přesunem na GPU a jaká byla režie evaluace kandidátní funkce v neuronové síti. Návrh aktivačních funkcí je prováděn hrubou silou – nejsou vyhodnocené další požadavky na chování aktivační funkce za účelem zrychlení návrhu. Autor však v závěru se tomuto tématu věnuje a ukazuje (v obrázku 7.3), že více jak 50 % kandidátních řešení je nevhodných a že je to možné určit již po prvních epochách. Mohlo by být lepší statistické vyhodnocení experimentů, zejména v sekci 7.4, kde jsou znázorněny průběhy evoluce.
Využitelnost výsledků Práce přináší nové poznatky v oblasti návrhu aktivačních funkcí neuronových sítí s využitím evolučních algoritmů.
Navrhovaná známka
B
Body
85

Otázky

eVSKP id 154436