but.committee	prof. Ing. Lukáš Sekanina, Ph.D. (předseda) Mirko Hannemann, Ph.D. (člen) doc. RNDr. Aleš Horák, Ph.D. (člen) doc. RNDr. Pavel Pecina, Ph.D. (člen) Dr. Thomas Schaaf (člen)	cs
but.defence	The student presented the goals and results, which she achieved within the solution of the dissertation. The student has competently answered the questions of the committee members. The discussion is recorded on the discussion sheets, which are attached to the protocol. Number of discussion sheets: 2. The committee has agreed unanimously that the student has fulfilled requirements for being awarded the academic title Ph.D.	cs
but.jazyk	angličtina (English)
but.program	Výpočetní technika a informatika	cs
but.result	práce byla úspěšně obhájena	cs
dc.contributor.advisor	Černocký, Jan	en
dc.contributor.author	Egorova, Ekaterina	en
dc.contributor.referee	Hannemann, Mirko	en
dc.contributor.referee	Schaaf, Thomas	en
dc.date.accessioned	2023-08-30T06:54:50Z
dc.date.available	2023-08-30T06:54:50Z
dc.date.created		cs
dc.description.abstract	Tato disertační práce zkoumá oblast zpracování slov mimo slovník (out-of-vocabulary word, OOV) v rámci úlohy automatického rozpoznávání řeči (automatic speech recognition, ASR). Definuje dvě samostatné úlohy zpracování OOV - detekci a obnovu - a pro obě úlohy navrhuje metriky úspěšnosti. Prezentuje několik přístupů k detekci a obnově OOV v rámci hybridních a end-to-end (E2E) ASR systémů. Experimentální práce a srovnání přístupů bylo provedeno na otevřené databázi LibriSpeech, aby byla zajištěna reprodukovatelnost experimentů. Hybridní přístup využívá upravený dekódovací graf s fonémovými podřetězci a pro detekci a obnovu opakujících se OOV využívá reprezentaci založenou na plných rozpoznávacích grafech (lattices). Obnovená OOV jsou přidána do slovníku a jazykového modelu (LM), což vede ke zlepšení úspěšnosti ASR systému. Druhý přístup využívá k řešení úlohy detekce OOV vnitřní reprezentace systému E2E architektury "Listen Attend and Spell" (LAS) s predikcí slov. Tato metoda oproti hybridnímu přístupu výrazně zlepšuje míru úplnosti a přesnosti (recall a precision). Obnova opakujících se OOV se provádí pomocí samostatného systému predikce znaků s využitím detekovaných časových rámců a pravděpodobnostního shlukování.Nakonec navrhujeme novou "speller" architekturu se schopností učit se reprezentace OOV společně s trénováním sítě pro predikci slov (word predicting network, WPN). Komponent "speller" ovlivňuje během trénování slovní embeddingy tak, aby dobře reprezentovaly i fonetickou podobu slov, a tím zajišťuje nejen možnost kvalitní obnovy OOV, ale i zlepšení výkonu sítě pro predikci slov.	en
dc.description.abstract	The thesis explores the field of out-of-vocabulary word (OOV) processing within the task of automatic speech recognition (ASR). It defines the two separate OOV processing tasks - that of detection and recovery - and proposes success metrics for both the tasks. Different approaches to OOV detection and recovery are presented within the frameworks of hybrid and end-to-end (E2E) ASR. These approaches and compared on an open access LibriSpeech database to facilitate replicability. Hybrid approach uses modified decoding graph with phoneme substrings and utilizes full lattice representations for detection and recovery of recurrent OOVs. Recovered OOVs are added to the dictionary and the language model (LM) to improve ASR system performance. The second approach employs inner representations of a word-predicting Listen Attend and Spell architecture (LAS) E2E system to perform OOV detection task. Detection recall and precision rates improved drastically in comparison with the hybrid approach. Recur-rent OOV recovery is performed on a separate character-predicting system with the use of detected time frames and probabilistic clustering.Finally, we propose a new speller architecture with a capability of learning OOV representations together with the word predicting network (WPN) training. The speller forces word embeddings to be spelling-aware during the training and thus not only provides OOV recovery, but also improves the WPN performance.	cs
dc.description.mark	P	cs
dc.identifier.citation	EGOROVA, E. Detekce a obnova slov mimo slovník [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. .	cs
dc.identifier.other	150754	cs
dc.identifier.uri	http://hdl.handle.net/11012/213823
dc.language.iso	en	cs
dc.publisher	Vysoké učení technické v Brně. Fakulta informačních technologií	cs
dc.rights	Standardní licenční smlouva - přístup k plnému textu bez omezení	cs
dc.subject	Slova mimo slovník	en
dc.subject	automatické rozpoznávání řeči	en
dc.subject	hybridní ASR	en
dc.subject	E2E ASR	en
dc.subject	neurální architektury	en
dc.subject	Listen Attend and Spell.	en
dc.subject	out-of-vocabulary words	cs
dc.subject	automatic speech recognition	cs
dc.subject	hybrid ASR	cs
dc.subject	end-to-end ASR	cs
dc.subject	neural architectures	cs
dc.subject	Listen Attend and Spell.	cs
dc.title	Detekce a obnova slov mimo slovník	en
dc.title.alternative	Out-of-Vocabulary Words Detection and Recovery	cs
dc.type	Text	cs
dc.type.driver	doctoralThesis	en
dc.type.evskp	dizertační práce	cs
dcterms.modified	2022-12-16-17:19:21	cs
eprints.affiliatedInstitution.faculty	Fakulta informačních technologií	cs
sync.item.dbid	150754	en
sync.item.dbtype	ZP	en
sync.item.insts	2023.08.30 08:54:50	en
sync.item.modts	2023.08.30 08:13:41	en
thesis.discipline	Výpočetní technika a informatika	cs
thesis.grantor	Vysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédií	cs
thesis.level	Doktorský	cs
thesis.name	Ph.D.	cs

Detekce a obnova slov mimo slovník

Files

Original bundle

Collections