Akcelerace neuronové sítě pro jazykové modelování

but.committeeprof. Dr. Ing. Jan Černocký (předseda) doc. Ing. Jiří Jaroš, Ph.D. (místopředseda) doc. RNDr. Michal Novák, Ph.D. (člen) Ing. Filip Orság, Ph.D. (člen) RNDr. Marek Rychlý, Ph.D. (člen)cs
but.defenceStudent nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm "C". Otázky u obhajoby: V komentáři k rovnici 2.13 uvádíte, že perplexitu je možné vyhodnotit jako geometrický průměr převrácených hodnot podmíněných pravděpodobností. Upřesněte, jak budete tento průměr počítat. Uveďte, jak funguje technika trénování NN-LM bez normalizace softmax na výstupu a jaké dává výsledky PPL oproti baseline a modelu normalizovanému pomocí omezené množiny slov.cs
but.jazykčeština (Czech)
but.programInformační technologiecs
but.resultpráce byla úspěšně obhájenacs
dc.contributor.advisorBeneš, Karelcs
dc.contributor.authorLabaš, Dominikcs
dc.contributor.refereeČernocký, Jancs
dc.date.created2018cs
dc.description.abstractTáto práca sa zaoberá akceleráciou neurónovej siete pre jazykové modelovanie. Cieľom práce je optimalizovať model doprednej neurónovej siete. Pri urýchľovaní neurónovej siete sme využili zmenu aktivačnej funkcie, predpočítanie matíc pre výpočet skrytej vrstvy, implementáciu cache histórie modelu a odstránenie normalizácie. Model s najlepšími výsledkami bol zrýchlený o 75.3\%.cs
dc.description.abstractThis work adresses the topic of neural language model acceleration. The aim of this work is to optimize model of a feed-forward neural network. In accelerating of the neural network we used a change of activation function, pre-calculation of matrices for calculationg the hidden layer, implementation of the model's history cache and unnormalized model. The best-performing model was accelerated by 75.3\%.en
dc.description.markCcs
dc.identifier.citationLABAŠ, D. Akcelerace neuronové sítě pro jazykové modelování [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2018.cs
dc.identifier.other114690cs
dc.identifier.urihttp://hdl.handle.net/11012/85264
dc.language.isocscs
dc.publisherVysoké učení technické v Brně. Fakulta informačních technologiícs
dc.rightsStandardní licenční smlouva - přístup k plnému textu bez omezenícs
dc.subjectJazykové modelovaniecs
dc.subjectJazykový modelcs
dc.subjectDopredná neurónová sieťcs
dc.subjectAkcelerácia neurónovej sietecs
dc.subjectLanguage modelingen
dc.subjectLanguage modelen
dc.subjectNeural Networken
dc.subjectNeural network accelerationen
dc.titleAkcelerace neuronové sítě pro jazykové modelovánícs
dc.title.alternativeNeural Language Model Accelerationen
dc.typeTextcs
dc.type.driverbachelorThesisen
dc.type.evskpbakalářská prácecs
dcterms.dateAccepted2018-06-12cs
dcterms.modified2020-05-10-16:13:17cs
eprints.affiliatedInstitution.facultyFakulta informačních technologiícs
sync.item.dbid114690en
sync.item.dbtypeZPen
sync.item.insts2025.03.18 19:09:03en
sync.item.modts2025.01.15 18:46:15en
thesis.disciplineInformační technologiecs
thesis.grantorVysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédiícs
thesis.levelBakalářskýcs
thesis.nameBc.cs
Files
Original bundle
Now showing 1 - 4 of 4
Loading...
Thumbnail Image
Name:
final-thesis.pdf
Size:
1.85 MB
Format:
Adobe Portable Document Format
Description:
final-thesis.pdf
Loading...
Thumbnail Image
Name:
Posudek-Vedouci prace-20644_v.pdf
Size:
85.73 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Vedouci prace-20644_v.pdf
Loading...
Thumbnail Image
Name:
Posudek-Oponent prace-20644_o.pdf
Size:
87.39 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Oponent prace-20644_o.pdf
Loading...
Thumbnail Image
Name:
review_114690.html
Size:
1.45 KB
Format:
Hypertext Markup Language
Description:
file review_114690.html
Collections