MOVSESIAN, L. Neuronové sítě: Experimentace s Aktivačními funkcemi [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2025.

Posudky

Posudek vedoucího

Fritz, Karel

Výborná práce, která přesahuje běžný rámec bakalářské úrovně. Studentka prokázala hluboké porozumění problematice a schopnost tvořivého výzkumu. Přes rozsáhlé experimenty a technickou náročnost dokázala zachovat strukturovanost, přehlednost a jasné závěry. Oceňuji její samostatnost, pečlivost i schopnost syntetizovat informace z různých oblastí do jednotného konceptu.

Dílčí hodnocení
Kritérium Známka Body Slovní hodnocení
Informace k zadání Téma práce vyžadovalo hlubší pochopení neuronových sítí a schopnost navrhovat experimenty tak, aby měly výpovědní hodnotu i při testování dílčích vlastností. Práce navazuje volně na existující projekty v oblasti hlubokého učení, ale její těžiště spočívalo ve vlastní iniciativě studentky. Náročnost spočívala zejména v důsledném testování aktivačních funkcí za různých podmínek včetně odolnosti vůči adversariálním útokům. S dosaženými výsledky jsem velmi spokojen – studentka nejen splnila zadání, ale navrhla i vlastní metodiky a postupy, čímž práci výrazně obohatila.
Práce s literaturou Studentka pracovala s odbornou literaturou na velmi dobré úrovni. Vyhledala a využila jak klasické zdroje (např. Ioffe & Szegedy, Goodfellow apod.), tak i méně tradiční studie z oblasti sinusoidních a kombinovaných aktivačních funkcí. Propojení teoretických poznatků s návrhem experimentů bylo přirozené a správně citované.
Aktivita během řešení, konzultace, komunikace Během celého roku probíhaly pravidelné konzultace, na kterých studentka prezentovala pokroky, experimentální výsledky i případné problémy. Komunikace byla velmi aktivní, domluvené termíny byly dodržovány, návrhy byly předkládány včas a studentka byla na každé setkání velmi dobře připravená.
Aktivita při dokončování Práce byla dokončena s dostatečným předstihem, což umožnilo několikanásobné přečtení, kontrolu i konzultace před odevzdáním. Studentka v závěrečné fázi zvládla práci velmi profesionálně a dotáhla ji do vysoce kvalitní podoby.
Publikační činnost, ocenění Práce dosud nebyla publikována ani odeslána k recenznímu posouzení. Vzhledem ke kvalitě by však vybrané části – především experimenty s náhodnými aktivačními funkcemi nebo obrana proti FGSM útokům – byly vhodné pro rozpracování do formy článku či blogpostu.
Navrhovaná známka
A
Body
97

Posudek oponenta

Sedlák, David

Práce se věnovala složité problematice, byla provedena a vyhodnocena řada experimentů které vedly k zajímavým výsledkům a do jisté míry i k novým poznatkům. Technická zpráva má však několik nedostatků z pohledu struktury textu, formální úpravy a práce s literaturou, které mají vliv na čitelnost a pochopitelnost textu. Na základě kvalitních výsledků, propracované experimentální části a obtížnějšího zadání i přes zmíněné nedostatky navrhuji práci hodnotit stupněm B.

Dílčí hodnocení
Kritérium Známka Body Slovní hodnocení
Náročnost zadání Zadání v kontextu bakalářské práce považuji spíše za obtížnější hlavně z toho důvodu že vyžaduje znalosti, které běžně nejsou obsahem povinných kurzů v rámci bakalářského studia. Studentka si tedy musela ve vlastní režii osvojit fundamentální znalosti o neuronových sítích a práci s nástroji pro jejich implementaci.
Rozsah splnění požadavků zadání Zadání považuji za splněné bez výhrad. Všechny body zadání jsou v práci dostatečně adresovány.
Rozsah technické zprávy Technická zpráva má přibližně 60 normostran s větším množstvím grafů, což je ale očekávané vzhledem k experimentálnímu charakteru práce. Rozsah technické zprávy považuji pro bakalářskou práci za obvyklý.
Prezentační úroveň technické zprávy 60 Technická zpráva je rozdělena do 5 kapitol, ohledně členění mám výhrady zejména ke kapitolám 2 a 3. Kapitola "2 Methodology" ve skutečnosti nepopisuje metodologii jak by se dle názvu dalo očekávat, ale spíše shrnuje potřebnou teorii a současný stav poznání, kapitola je následně zakončena velmi stručným popisem využitých nástrojů a knihoven. Vyhrazená kapitola pro teorii a stav poznání která bývá v technických zprávách tohoto charakteru obvyklá dle mého názoru v obsahu naopak chybí. Kapitola "3 Proposed Solution" už skutečně z části popisuje metodologii práce, její obsah je však až příliš stručný (2 vysázené strany a tabulka) a bylo by pro čtenáře prospěšnější kdyby obsahovala více detailů o přístupu k řešení. V této kapitole se navíc kromě návrhu řešení objevuje i teorie k FGSM útoku, která by se více hodila do dedikované kapitoly shrnující teorii a současný stav poznání. Dalším drobným nedostatkem k prezentační úrovni práce je seznam tabulek, který však obsahuje pouze jednu tabulku, v tomto případě ho tedy pokládám za zbytečný. Jednotlivé kapitoly na sebe rozumně navazují, neobvyklá struktura však snižuje celkovou čitelnost a pochopitelnost technické zprávy.
Formální úprava technické zprávy 70 Obecně je jazyková stránka práce na dobré úrovni, pouze ojediněle se vyskytuje špatně pochopitelná stavba vět a drobné překlepy, většina práce je však psána kvalitní a pochopitelnou angličtinou. Textová zpráva obsahuje několik typografických nedostatků. Použití a definice zkratek je napříč textem nekonzistentní, ve většině případů je v prvním výskytu použit celý název následovaný zkratkou v závorce. Někdy je zase prvně použita pouze zkratka doplněna o plný název v rámci běžného textu (např. "ELU or an Exponential Linear Unit" v kapitole 2). Jindy je zase jedna zkratka definována opakovaně jako součást jiného názvu (např. "parametric ReLU (parametric Rectified Linear Unit)" v kapitole 2). Část nadpisů pod sebou přímo nemá žádný text a pod názvem sekce/kapitoly hned následuje název podsekce/podkapitoly (např sekce 4.3.2). V částech práce psaných česky (abstrakt a rozšířený abstrakt) je několik drobných chyb, které ale nebrání v pochopení textu.
Práce s literaturou 70 V technické zprávě je citováno větší množství relevantních, kvalitních a aktuálních zdrojů. V textu práce se však vyskytují pasáže, u kterých není zcela jasné z kterého z citovaných zdrojů byly čerpány. A v případě že nebyly čerpány z žádného z citovaných zdrojů, poté není jasné na základě čeho jsou tato tvrzení založena (např. první odstavec v sekci 4.3.2).
Realizační výstup 80 Každý experiment má v odevzdaném archivu modul s implementací, funkčnost vytvořeného řešení byla studentkou demonstrována. Implementace je pochopitelná a dobře čitelná, obsahem odevzdaného archivu jsou i soubory README popisující obsah jednotlivých adresářů/souborů. Implementace modelů se kterými byly prováděny jednotlivé experimenty jsou duplikovány mezi více souborů. Z pohledu softwarového inženýrství by bylo lepší tyto opakující se části oddělit do samostatného modulu a ten následně použít v jednotlivých experimentech a neduplikovat implementaci modelů. Vzhledem k experimentálnímu charakteru práce tento nedostatek však považuji za minoritní.
Využitelnost výsledků Jedná se skutečně o práci výzkumného a experimentálního charakteru, práce přináší zcela nové poznatky které věřím že jsou publikovatelné. Přímá využitelnost výsledku v praxi je však dle mého názoru limitovaná což ale odpovídá charakteru práce.
Navrhovaná známka
B
Body
80

Otázky

eVSKP id 164938