KOCIÁN, R. Neuronové sítě, předtrénování komplexity [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2025.
Student odvedl výbornou práci, která svědčí o jeho hlubokém zájmu o problematiku i schopnosti samostatného výzkumu. Téma bylo výzkumného charakteru a vyžadovalo dobrou orientaci v oblasti neuronových sítí a experimentální práce. Student přinesl originální přístup k experimentům a důkladně analyzoval jejich výsledky. Konzistentně komunikoval, byl spolehlivý a proaktivní. Práci lze hodnotit jako nadstandardní bakalářskou práci s výzkumným přesahem.
| Kritérium | Známka | Body | Slovní hodnocení |
|---|---|---|---|
| Informace k zadání | Zadání bakalářské práce se zaměřilo na pokročilé techniky v oblasti hlubokého učení, konkrétně na tzv. reversed model distillation jako metodu inicializace vah neuronových sítí. Téma je nadprůměrně obtížné a zasahuje do oblasti výzkumu, přičemž nebylo přímo navázáno na žádný předchozí projekt. Student se s náročností úspěšně vyrovnal, prokázal schopnost samostatné analýzy i hlubokého porozumění dané problematice. Výsledky práce jsou hodnotné a v některých ohledech přesahují očekávání – student nejen ověřil zadané hypotézy, ale navrhl i smysluplná vylepšení a směry budoucího výzkumu. Práce plně splnila zadání. | ||
| Práce s literaturou | Student pracoval s literaturou velmi samostatně a aktivně. Při řešení úkolu se neomezoval pouze na doporučené zdroje, ale aktivně vyhledával další relevantní články a výzkumné práce, zejména v oblasti distilace modelů, inicializačních technik a odolnosti vůči adversariálním útokům. Schopnost interpretace odborných textů a jejich aplikace na vlastní výzkum byla na velmi dobré úrovni. | ||
| Aktivita během řešení, konzultace, komunikace | Student byl po celou dobu řešení práce velmi aktivní. Pravidelně konzultoval průběh, přicházel připraven s výsledky i konkrétními otázkami. Dodržoval dohodnuté termíny a ochotně reagoval na zpětnou vazbu. Konzultace byly efektivní a podnětné, přičemž student prokázal samostatnost, zvídavost a ochotu zkoumat různé alternativy. | ||
| Aktivita při dokončování | Práce byla dokončena s předstihem, což umožnilo důkladné dokončení textové části i doladění experimentů. Finální verze byla včas odevzdána a předem diskutována, student reflektoval připomínky a zapracoval úpravy. Závěr práce byl důkladně připraven a diskutován. | ||
| Publikační činnost, ocenění | V době odevzdání práce zatím nevznikla publikační aktivita, nicméně téma má výzkumný potenciál a část výsledků by mohla být rozšířena do odborného článku či open-source repozitáře. Kódové implementace byly systematicky vedeny a dobře dokumentovány, což poskytuje kvalitní základ pro další práci. |
Přesto, že zadání považuji za obtížnější , technická zpráva je velmi dobře čitelná a je psaná v angličtině , realizační výstup hodnotím jako nadprůměrně kvalitní a, až na výtky k práci s literaturou v technické zprávě a k pojetí různých strategií inicializace vah, také jako nadprůměrně kvalitně zdokumentovaný , tak při neznalosti odpovědí na otázky z části Otázky k obhajobě považuji výsledek práce studenta (tj., realizační výstup a technickou zprávu) za průměrně kvalitní a navrhuji jej ohodnotit stupněm C . V případě, že student během své obhajoby zodpoví otázky z části Otázky k obhajobě smysluplně, navrhuji ohodnotit výsledek jeho práce až stupněm A.
| Kritérium | Známka | Body | Slovní hodnocení |
|---|---|---|---|
| Náročnost zadání | Zadání je výzkumného charakteru ; jeho těžiště spočívá zejména v práci s daty ve zkoumaných podmínkách. Zadání považuji za obtížnější již díky jeho základu v oblasti neuronových sítí, se kterou nejsou studenti v rámci běžného bakalářského studia na FIT VUT prakticky vůbec obeznámeni. Kromě nutnosti zorientovat se v této oblasti (body 1 a 2 zadání) považuji, pro kvalitní vyřešení zadání, za stěžejní zejména požadavek návrhu různých strategií inicializace vah (bod 3 zadání) a požadavek provedení experimentů (bod 5 zadání). | ||
| Rozsah splnění požadavků zadání | Až na výhradu k, v technické zprávě (TZ) ne zcela objasněnému, vypořádání se s požadavkem návrhu různých strategií inicializace vah (bod 3 zadání) považuji zadání za splněné . Jelikož klíčové spojení " různých strategií " není v TZ dostatečně objasněno a je tak nejasné , jak bylo chápáno autorem či vedoucím této práce (zejména bylo-li myšleno jinak, než se uvádí např. v podkap. 2.8 TZ), považuji za důležité, aby svůj pohled na toto spojení student objasnil v rámci otázek k obhajobě . | ||
| Rozsah technické zprávy | Rozsah technické zprávy (TZ) považuji za obvyklý - až na nedostatek informací týkajících se přístupu k návrhu různých strategií inicializace vah a informací zmíněných v části Práce s literaturou TZ obsahuje veškeré podstatné informace k řešené problematice i realizačnímu výstupu (RV). | ||
| Prezentační úroveň technické zprávy | 90 | Technická zpráva (TZ) je vhodně strukturovaná , její části na sebe vhodně navazují a přispívají k její velmi dobré čitelnosti i k velmi dobré představě o prostředcích, způsobu a výsledku řešení. Až na výše uvedenou výhradu týkající se objasnění přístupu k návrhu různých strategií inicializace vah nemám k prezentační úrovni TZ vážnější výhrady a hodnotím ji jako nadprůměrně kvalitní . | |
| Formální úprava technické zprávy | 95 | Úroveň typografické a jazykové stránky technické zprávy považuji za velmi dobrou - z nedostatků stojí za zmínku snad jen poměrně rozsáhlý obsah s nadpisy 3. úrovně, občasná "bílá místa" v textu či ojediněle nadměrná velikost či špatná čitelnost některých obrázků. | |
| Práce s literaturou | 60 | Až na , níže uvedenou, výtku jsou informační zdroje použité v technické zprávě (TZ), vzhledem k tématu a zadání práce, vhodně zvoleny , pokrývají problematiku řešenou v rámci práce a v TZ je na ně vhodně odkazováno způsobem umožňujícím řádné odlišení prvků vlastních od převzatých . Vzhledem k zaměření řešení na využití obrácené destilace, angl. reverse(d) distillation, (RD) postrádám v TZ alespoň stručný přehled souvisejících prací, přístupů atp. a odkazů na ně - koncepce RD sice momentálně není dobře/obecně zavedená jelikož je stále poměrně nová , ale různá řešení na jí podobné bázi, pod obdobnými či jinými jmény, přesto existují. Výroky typu "This thesis proposes a reversed variant of model distillation" (podkap. 2.9, str. 19) pak přinejmenším vzbuzují dojem, že autorem v TZ prezentovaného přístupu RD je student, což nezpochybňuji, nicméně je škoda, že vůči existujícím RD přístupům se TZ prakticky nevymezuje ani neuvádí , zda se RD přístup z TZ inspiroval některým z existujících přístupů, např. zda některé ideje, principy apod. byly odněkud převzaty, využity jinak či k jinému účelu apod. Vzhledem k tomu, že tento nedostatek se týká realizačního jádra, tak považuji za nezbytné , aby tento nedostatek student napravil v rámci otázek k obhajobě . | |
| Realizační výstup | 75 | Zadáním požadovaný realizační výstup (RV) má dvě části - softwarovou (viz bod 4 zadání) a experimentální (viz bod 5 zadání). Realizaci obou částí, založenou na sadě skriptů v jazyce Python , považuji za poměrně zdařilou a kvalitně zdokumentovanou - viz externí příloha na nextcloud a kapitola 3 technické zprávy (TZ). V TZ nezodpovězenou otázkou však zůstává , v jaké míře RV splňuje požadavek zadání týkající se různých strategií inicializace vah - nechť student tuto otázku zodpoví , a související pochybnosti rozptýlí, v rámci své obhajoby (viz také výtka výše a otázka k obhajobě níže). | |
| Využitelnost výsledků | Výsledek této výzkumné, experimentálně založené práce považuji za přínosný a, po doplnění přehledu současného stavu v oblasti RD a jasnému vymezení se vůči existujícím RD přístupům, také za publikovatelný . |
eVSKP id 162825