ŠMÍDA, Š. Metody podporující interpretovatelné a vysvětlitelné strojové učení [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2025.
Diplomant nastudoval složitou problematiku vysvětlitelné a interpretovatelné AI, řadu metod experimentálně demonstroval a navrhl rozšíření jednoho ze stávajících přístupů. Výsledky prezentoval na studentské konferenci Excel@FIT 2025. Vzhledem k dosaženým výsledkům a výborně zpracované technické zprávě navrhuji hodnocení stupněm A - výborně. Současně práci navrhuji na vhodné ocenění.
| Kritérium | Známka | Body | Slovní hodnocení |
|---|---|---|---|
| Informace k zadání | Zadání bylo náročné, protože se týkalo intenzivně se rozvíjející problematiky vysvětlitelné a interpretovatelné AI, která nabývá v kontextu masivního nasazení hlubokých neuronových sítí v praxi stále více na významu. Diplomant problematiku nastudoval, experimentálně ověřil řadu metod z této oblasti a vyhodnotil je, zejména v úlohách klasifikace obrazu. Na základě získaných poznatků navrhl metodu umožňující kombinovat několik metod s cílem zlepšit spolehlivost vysvětlení. Zadání bylo splněno v celém rozsahu, hloubkou i šířkou záběru jej významně překračuje. | ||
| Práce s literaturou | Diplomant samostatně získával a využíval studijní materiály k řešení diplomové práce. | ||
| Aktivita během řešení, konzultace, komunikace | Diplomant byl velmi aktivní během celého roku, samostatně vyhledával relevantní metody a experimentálně je ověřoval. Konzultace probíhaly dle potřeby diplomanta, který byl na ně vždy výborně připraven. | ||
| Aktivita při dokončování | Diplomová práce byla dokončena v dostatečném předstihu a její definitivní obsah byl dostatečně konzultován. | ||
| Publikační činnost, ocenění | Po dopracování doporučuji navrženou metodu a dosažené výsledky publikovat. |
Tato práce představuje kvalitní přehledovou studiu na téma vysvětlitelnosti. Autor dokázal toto aktuální téma dobře vysvětlit, zaměřil se na existující algoritmy a jejich vlastnosti vyhodnotil. Navržené rozšíření je dobré, zlepšuje parametry vysvětlitelnosti. Vzhledem k velmi vysoké prezentační úrovni práce, kvalitě evaluace a popisu výsledků navrhuji celkové hodnocení stupněm A - výborně a doporučuji tuto práci k ocenění.
| Kritérium | Známka | Body | Slovní hodnocení |
|---|---|---|---|
| Náročnost zadání | Zadání hodnotím jako značně obtížné, jelikož se jedná o téma, které je velmi aktuální, zaměřuje se na ně řada výzkumných týmů a autor musí vytvořit svou vlastní přehledovou studii. | ||
| Rozsah splnění požadavků zadání | |||
| Rozsah technické zprávy | |||
| Prezentační úroveň technické zprávy | 100 | Prezentační úroveň práce je na výborné úrovni. Autor ve své práci zpracoval celou řadu aktuálních metod, tyto metody správně kategorizoval a velmi dobře je vysvětlil. Celá teoretická část práce tvoří kvalitní přehledovou studii na téma interpretovatelnosti. Při analýze výsledků autor postupuje systematicky, všechny grafy a tabulky jsou náležitě komentované a i v takto komplexní práci se čtenář neztrácí. | |
| Formální úprava technické zprávy | 95 | Formální úprava technické zprávy je dobrá. Práce neobsahuje závažnější jazykové a typografické chyby, je psána srozumitelnou angličtinou, věty na sebe dobře navazují a jak jazykově, tak i graficky je práce dobře čitelná. | |
| Práce s literaturou | 100 | Autor ve své práci použil 74 zdrojů, z nich všechny jsou pro práci relevantní a zpravidla se jedná o vědecké články, monografie a podobně. Literatura použitá v práci je aktuální, autor často odkazuje literaturu z roku 2024. V některých případech by bylo vhodnější citovat výsledný článek (např. z recenzovaného časopisu), než jen pre-print z databáze arxiv. | |
| Realizační výstup | 90 | Jádro práce z mého pohledu neleží v implementaci, ale ve zpracování studie o existujících metodách používaných v úloze vysvětlitelnosti. Autor celou řadu z nich správně vyhodnotil na stejných úlohách a přináší tak kompletní a férové zhodnocení jednotlivých přístupů. Samotná reimplementace je náročná, i když se jedná o kratší kódy. Ve výsledku se nejedná o komplikované implementace. Cílem práce však bylo kvalitně vyhodnotit aktuální metody a navrhnout nějaké jejich rozšíření. To autor úspěšně dokončil. Ocenil bych, když by produktem nebyly pouze Jupyter notebooky vyhodnocující jednotlivé vlastnosti, ale automatizovaný nástroj (knihovna) pro hodnocení případných dalších metod. Autor dále tuto metodu rozšířil o svůj přístup AMS Ensemble , který přiřazuje váhy jednotlivým metodám. Tímto způsobem se mu podařilo zlepšit výkonnost v jednotlivých sledovaných parametrech. | |
| Využitelnost výsledků | Autor ve své práci vyhodnotil existující řešení a přinesl tak validní srovnání jednotlivých metod. Tento výsledek by mohl být základem případné přehledové studie. Navíc autor přinesl i další rozšíření, které zlepšuje různé vlastnosti. Potenciálně je možné na práci dále navázat a výzkumně rozvíjet téma vysvětlitelnosti. |
eVSKP id 165030