HLADIŠ, M. Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2024.
Student splnil zadání – navrhl a statisticky vyhodnotil evoluční návrhovou metodu pro aktivační funkce v CNN. Práce byla zaměřena na spíše menší CNN a jednodušší až středně obtížné klasifikační úlohy, které jsou dobře zvládnuté v literatuře. K vylepšení výsledků by bylo patrně potřeba začlenit další techniky a přidělit více výpočetních zdrojů. Vzhledem k obtížnějšímu zadání, dosažení mírně lepších výsledků než referenční aktivační funkce a pěkně zpracované technické zprávě navrhuji hodnocení stupněm velmi dobře.
Kritérium | Známka | Body | Slovní hodnocení |
---|---|---|---|
Informace k zadání | Jedná se o obtížnější zadání, protože vyžaduje znalosti v různých oblastech (evoluční návrh, konvoluční neuronové sítě - CNN) a jejich kombinaci (automatizovaný návrh). Práce částečně navazuje na metody automatizovaného návrhu CNN s využitím evolučních algoritmů rozvíjené na UPSY. V tomto případě je záměrem objevit zajímavé aktivační funkce. Zadání bylo splněno. | ||
Práce s literaturou | Student samostatně vyhledával odbornou literaturu a využíval ji. | ||
Aktivita během řešení, konzultace, komunikace | Student konzultoval dle potřeby, pracoval samostatně, na konzultace byl výborně připraven a samostatně navrhoval vhodná pokračování řešení projektu. | ||
Aktivita při dokončování | Implementace byla dokončena v předstihu. Obsah předfinální verze technické zprávy byl konzultován, mé připomínky byly zapracovány. | ||
Publikační činnost, ocenění | Není mi známo. |
Text práce kvalitně popisuje problematiku zkoumaného návrhu, navržená metoda je dobře zpracována a vyhodnocena. Navržená metoda se chová lépe než náhodné prohledávání a v některých případech jsou automaticky navržená řešení porovnatelná s řešeními navrženými člověkem. Proto navrhuji celkové hodnocení B - velmi dobře .
Kritérium | Známka | Body | Slovní hodnocení |
---|---|---|---|
Náročnost zadání | Zadání hodnotím jako obtížnější, jelikož se jedná o výpočetně náročný návrh komponent pro neuronové sítě a o experimentální téma. | ||
Rozsah splnění požadavků zadání | |||
Rozsah technické zprávy | Text je stručnější, ale obsahuje všechny informace požadované k pochopení podstaty a výsledků práce. | ||
Prezentační úroveň technické zprávy | 90 | Text je psaný srozumitelně a všechny kapitoly na sebe navazují. | |
Formální úprava technické zprávy | 90 | Práce je psána spisovnou češtinou a obsahuje minimum chyb. Po typografické stránce je také na vysoké úrovni. Pouze v textu došlo na více místech k překlepu v názvu použitého datasetu FashionMNIST a nejsou psána správně procentuální vyjádření. | |
Práce s literaturou | 90 | Autor ve své práci využívá 32 zdrojů převážně z vědecké literatury. Zdroje jsou řádně citovány a jsou relevantní k práci. | |
Realizační výstup | 80 | Autor ve své práci vytvořil nástroj pro evoluční návrh aktivačních funkcí. Pro vybrané problémy a architektury sítí se mu podařilo navrhnout nové aktivační funkce dosahující poměrně dobré kvality na datasetech MNIST a FashionMNIST. Nástroj byl implementován v jazyce Python, což vzhledem k propojení s PyTorch byla vhodná volba. Tento jazyk však může být neefektivní a není zřejmé, zda byly provedeny nějaké optimalizace evaluace přesunem na GPU a jaká byla režie evaluace kandidátní funkce v neuronové síti. Návrh aktivačních funkcí je prováděn hrubou silou – nejsou vyhodnocené další požadavky na chování aktivační funkce za účelem zrychlení návrhu. Autor však v závěru se tomuto tématu věnuje a ukazuje (v obrázku 7.3), že více jak 50 % kandidátních řešení je nevhodných a že je to možné určit již po prvních epochách. Mohlo by být lepší statistické vyhodnocení experimentů, zejména v sekci 7.4, kde jsou znázorněny průběhy evoluce. | |
Využitelnost výsledků | Práce přináší nové poznatky v oblasti návrhu aktivačních funkcí neuronových sítí s využitím evolučních algoritmů. |
eVSKP id 154436