ČOUPEK, V. Evoluční optimalizace konvolučních neuronových sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2023.
Vzhledem k dosaženým výsledkům, které budou využity v rámci dalších prací výzkumné skupiny Evolvable hardware@FIT, a kvalitě zpracování technické zprávy hodnotím diplomový projekt stupněm výborně.
| Kritérium | Známka | Body | Slovní hodnocení |
|---|---|---|---|
| Informace k zadání | Jednalo se o obtížnější zadání vyžadující zkombinovat metody strojového učení a optimalizačních algoritmů s cílem vylepšit implementaci zvolené CNN, konkrétně její paměťovou náročnost. Navržené řešení vychází z literatury (metoda Weight Sharing), ale přináší nové prvky (např. zavádí kvantizaci vah). Práce svým záběrem, zpracováním i kvalitou experimentálního vyhodnocení překračuje obvyklé diplomové práce. Dosažené výsledky naplňují požadavky zadání. | ||
| Práce s literaturou | Diplomant samostatně vyhledával literaturu a využíval ji. | ||
| Aktivita během řešení, konzultace, komunikace | Diplomant byl během řešení aktivní, byl na konzultace výborně připraven a samostatně navrhoval vlastní způsoby řešení zadání. | ||
| Aktivita při dokončování | Technická zpráva byla dokončena s dostatečným předstihem, finální text práce byl konzultován, mé připomínky byly zapracovány. | ||
| Publikační činnost, ocenění | Dílčí výsledky práce byly publikovány na fakultní konferenci Excel 2023, kde autor získal cenu Odborného panelu. |
V této práci byl vytvořen soubor algoritmů pro optimalizaci paměťová náročnosti vah v neuronové síti. Autor provedl kvalitní rešerši a vhodná řešení implementoval. Přinesl také různé myšlenky z pohledu implementace, takže po doplnění dalších experimentů, což by bylo nad očekávaný rozsah diplomové práce, jsou výsledky publikovatelné. Vzhledem ke kvalitě implementace a způsobu evaluace navrhuji souhrnné hodnocení A - výborně a doporučuji zvážit tuto práci pro další ocenění.
| Kritérium | Známka | Body | Slovní hodnocení |
|---|---|---|---|
| Náročnost zadání | Cílem této práce bylo komprimovat váhy neuronových sítí. Zadání hodnotím jako značně obtížné, protože se jedná o výzkumné téma s nejistým výsledkem. Další komplikaci přináší i výpočetní náročnost modelů neuronových sítí. | ||
| Rozsah splnění požadavků zadání | Student ve své práci prezentuje komplexní řešení problematiky komprese neuronových sítí. Nezaměřuje se pouze na jeden konkrétní typ reprezentace či optimalizačního algoritmu, ale vyhodnocuje několik variant. Další rozšíření vidím v tom, že vyhodnocení nevychází pouze ze základních sítí jako LeNet, ale autor dokázal svůj algoritmus použít i pro složitější MobileNet. | ||
| Rozsah technické zprávy | Diplomová práce je v obvyklém rozsahu a obsahuje všechny potřebné informace. | ||
| Prezentační úroveň technické zprávy | 95 | Práce je logicky strukturována a jednotlivé kapitoly na sebe navazují. Zejména prezentace výsledků má dobrou strukturu a autor adekvátně komentuje výsledky. | |
| Formální úprava technické zprávy | 90 | Práce je psána spisovnou češtinou a obsahuje pouze malé množství chyb a překlepů. Jediným menším problémem je nekonzistentnost vizuálních stylů jednotlivých grafů (některé mají šedé pozadí a některé ne). | |
| Práce s literaturou | 95 | Autor vychází z 39 zdrojů, které jsou aktuální a vhodné pro tuto práci. Zdroje jsou řádně ocitovány a vlastní a přejaté výsledky jsou odlišeny. | |
| Realizační výstup | 100 | Student v této práci implementoval 4 různé optimalizační algoritmy pro techniku komprese dat založenou na shlukovacích algoritmech. Uvažoval různé reprezentace a navíc také implementoval tzv. fine-tuning. Vzhledem ke spouštění aplikace na GPU uzlu Centra IT4I v Ostravě je kód s využitím vhodných knihoven a nástrojů optimalizován tak, aby byl efektivní. Pozitivně hodnotním strukturu kódu a jeho přehlednost. Program je čitelný a dobře pochopitelný i díky vhodným komentářům a automaticky generované dokumentaci. Autorův významný přínos je i ohodnocení navržených algoritmů. Optimalizační algoritmy byly řádně vyhodnoceny. | |
| Využitelnost výsledků | Autorem prezentované výsledky představují originální práci, která by mohla být po mírném doplnění publikovaná ve vědecké komunitě. Svědčí o tom i ocenění na přehlídce studentských prací EXCEL@FIT. |
eVSKP id 148487