Zobrazení a analýza aktivit neuronové sítě ve skrytých vrstvách

but.committeeprof. Dr. Ing. Jan Černocký (předseda) prof. Ing. Adam Herout, Ph.D. (místopředseda) doc. Ing. Vítězslav Beran, Ph.D. (člen) doc. Dr. Ing. Dušan Kolář (člen) Doc. RNDr. Pavel Matula, Ph.D. (člen) prof. RNDr. Alexandr Meduna, CSc. (člen)cs
but.defenceStudent nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm velmi dobře (B). Otázky u obhajoby: Je možné zobrazit originální a normované zobrazení do stejného prostoru, aby bylo možné porovnat velikost aktivačních regionů které budou na stejných místech (obrázky 6.1 a 6.2)? Prostor pro LSTM NN  je značně zkreslen. Zkoušel jste zobrazit aktivační mapy samostatně pro LSTM a případně je porovnat s mapami pro ostatní NN? V práci poukazujete na podobnost aktivací posledních vrstev normální NN s prvními vrstvami RELU NN. Dá se z tohoto pozorování vyvodit, že by RELU NN fungovala s méně vrstvami podobně jako normální NN s více vrstvami? Tabulka 6.3 porovnává chybovost dosaženou z použitím neuronové sítě trénované na čistých a zašuměných datech. Měnil jste "word insertion penalty" sytému, aby jste dosáhl optimálních výsledků?cs
but.jazykčeština (Czech)
but.programInformační technologiecs
but.resultpráce byla úspěšně obhájenacs
dc.contributor.advisorKarafiát, Martincs
dc.contributor.authorFábry, Markocs
dc.contributor.refereeGrézl, Františekcs
dc.date.created2016cs
dc.description.abstractCílem této práce je vytvořit systém schopný zobrazení hodnot aktivačních funkcí neuronů nacházejících se v skrytých vrstvách neuronových sítí použitých na rozpoznávání řeči. Dále byly na tomto systému provedeny experimenty porovnávající vizualizační metody, vizualizace neuronových sítí s různými architekturami a s různými druhy vstupních dat. Vizualizační systém implementovaný v rámci této práce je založen na předchozí práci pana Khe Chai Sim a rozšířen o nové způsoby normalizace vstupních dat. Pro přípravu trénovacích dat neuronových sítí byl použit framework Kaldi. Pro samotné trénování neuronových sítí byl použit nový framework CNTK. Jádro práce - samotný vizualizační systém byl implementován v skriptovacím jazyce Python.cs
dc.description.abstractGoal of this work was to create system capable of visualisation of activation function values, which were produced by neurons placed in hidden layers of neural networks used for speech recognition. In this work are also described experiments comparing methods for visualisation, visualisations of neural networks with different architectures and neural networks trained with different types of input data. Visualisation system implemented in this work is based on previous work of Mr. Khe Chai Sim and extended with new methods of data normalization. Kaldi toolkit was used for neural network training data preparation. CNTK framework was used for neural network training. Core of this work - the visualisation system was implemented in scripting language Python.en
dc.description.markBcs
dc.identifier.citationFÁBRY, M. Zobrazení a analýza aktivit neuronové sítě ve skrytých vrstvách [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2016.cs
dc.identifier.other96418cs
dc.identifier.urihttp://hdl.handle.net/11012/61891
dc.language.isocscs
dc.publisherVysoké učení technické v Brně. Fakulta informačních technologiícs
dc.rightsStandardní licenční smlouva - přístup k plnému textu bez omezenícs
dc.subjecthluboká neuronová síťcs
dc.subjectskrytá vrstvacs
dc.subjectrozpoznávání řečics
dc.subjectvizualizacecs
dc.subjectanalýzacs
dc.subjectaktivacecs
dc.subjectt-SNEcs
dc.subjectKaldics
dc.subjectCNTKcs
dc.subjectdeep neural networken
dc.subjecthidden layeren
dc.subjectspeech recognitionen
dc.subjectvisualisationen
dc.subjectanalysisen
dc.subjectactivationsen
dc.subjectt-SNEen
dc.subjectKaldien
dc.subjectCNTKen
dc.titleZobrazení a analýza aktivit neuronové sítě ve skrytých vrstváchcs
dc.title.alternativeActivity of Neural Network in Hidden Layers - Visualisation and Analysisen
dc.typeTextcs
dc.type.drivermasterThesisen
dc.type.evskpdiplomová prácecs
dcterms.dateAccepted2016-06-17cs
dcterms.modified2020-05-10-16:12:32cs
eprints.affiliatedInstitution.facultyFakulta informačních technologiícs
sync.item.dbid96418en
sync.item.dbtypeZPen
sync.item.insts2025.03.26 15:22:36en
sync.item.modts2025.01.15 20:42:23en
thesis.disciplinePočítačová grafika a multimédiacs
thesis.grantorVysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédiícs
thesis.levelInženýrskýcs
thesis.nameIng.cs
Files
Original bundle
Now showing 1 - 4 of 4
Loading...
Thumbnail Image
Name:
final-thesis.pdf
Size:
7.57 MB
Format:
Adobe Portable Document Format
Description:
final-thesis.pdf
Loading...
Thumbnail Image
Name:
Posudek-Vedouci prace-18497_v.pdf
Size:
85.66 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Vedouci prace-18497_v.pdf
Loading...
Thumbnail Image
Name:
Posudek-Oponent prace-18497_o.pdf
Size:
88.46 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Oponent prace-18497_o.pdf
Loading...
Thumbnail Image
Name:
review_96418.html
Size:
1.47 KB
Format:
Hypertext Markup Language
Description:
file review_96418.html
Collections