Využití autoenkodérů pro tvorbu hlubokých sítí

Loading...
Thumbnail Image

Date

Authors

Lohniský, Michal

Mark

A

Journal Title

Journal ISSN

Volume Title

Publisher

Vysoké učení technické v Brně. Fakulta informačních technologií

ORCID

Abstract

Tato práce se zabývá předtrénováním hlubokých sítí autoenkodéry. V prvních kapitolách jsou popsány prvky neuronové sítě. Další kapitoly jsou věnovány trénování hlubokých sítí a výsledkům, ve kterých je porovnáváno předtrénování autoenkodéry a algoritmus Backpropagation. Z výsledků experimentů na dvou datasetech vyplývá, že předtrénování autoenkodéry má kladný přínos, zvláště v kombinaci s Finetuningem.
This thesis deals with pretraining deep networks by autoencoders. Components of neural networks are described in first chapters. Rest of chapters aims to deep network trainings and to results of experiments where autoencoder pretraining and Backpropagation algorithm are compared. Results showed positive contribution of autoencoder pretraining, mainly in combination with Finetuning.

Description

Citation

LOHNISKÝ, M. Využití autoenkodérů pro tvorbu hlubokých sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2012.

Document type

Document version

Date of access to the full text

Language of document

cs

Study field

Informační technologie

Comittee

prof. Ing. Martin Drahanský, Ph.D. (předseda) doc. RNDr. Pavel Smrž, Ph.D. (místopředseda) doc. Ing. Jan Kořenek, Ph.D. (člen) doc. Ing. Petr Matoušek, Ph.D., M.A. (člen) doc. Mgr. Adam Rogalewicz, Ph.D. (člen)

Date of acceptance

2012-06-13

Defence

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se pak seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm " A ". Otázky u obhajoby: Q1: Bylo by rozumné použít více než 2 skryté vrstvy? Q2: Proč backpropagation algoritmus selže při přímé aplikaci na sítě s velkým počtem skrytých vrstev? Q3: Považujete trénovací množinu Caltech101 s 1515 vzorky za dostatečně velkou pro trénování neuronové sítě?

Result of defence

práce byla úspěšně obhájena

DOI

Collections

Endorsement

Review

Supplemented By

Referenced By

Citace PRO