Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě

but.committeeprof. Dr. Ing. Jan Černocký (předseda) doc. Ing. Lukáš Burget, Ph.D. (člen) doc. Mgr. Lukáš Holík, Ph.D. (člen) Ing. Michal Hradiš, Ph.D. (člen) Ing. František Grézl, Ph.D. (člen) prof. Ing. Lukáš Sekanina, Ph.D. (člen)cs
but.defenceStudent nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B.cs
but.jazykčeština (Czech)
but.programInformační technologie a umělá inteligencecs
but.resultpráce byla úspěšně obhájenacs
dc.contributor.advisorSekanina, Lukášcs
dc.contributor.authorHladiš, Martincs
dc.contributor.refereeMrázek, Vojtěchcs
dc.date.created2024cs
dc.description.abstractCílem této diplomové práce je návrh a implementace programu pro automatizovaný návrh nelineárních aktivačních funkcí pro konvoluční neuronové sítě (CNN) s využitím evolučních algoritmů. Využití automatického návrhu poskytuje nezávislý pohled na systematické prozkoumání širokého spektra aktivačních funkcí a identifikaci těch nejlepších. Metoda zvolená v práci pro automatický návrh je formou evolučních algoritmů nazývanou jako kartézské genetické programování, které pro zakódování řešení využívá grafovou reprezentaci. Tato technika umožňuje definici sady matematických primitiv, která definuje prohledávací prostor, a tak jednoduše parametrizuje návrh. Implementovaný přístup byl otestován na několika různých architekturách a datasetech (LeNet-5 \& MNIST, ResNet-10 \& FashionMNIST, WRN-40-4 \& CIFAR-10). Experimenty dokázaly, že přístup dokáže nalézt aktivační funkce, které statisticky zlepšují přesnost CNN oproti běžně využívané funkci ReLU.cs
dc.description.abstractThe aim of this thesis is to design and implement a program for automated design of nonlinear activation functions for convolutional neural networks (CNN) using evolutionary algorithms. The use of automated design provides an independent view to systematically explore a wide range of activation functions and identify the best ones. The method for automatic design chosen in this thesis is a form of evolutionary algorithms referred to as Cartesian genetic programming, which uses a graph representation to encode the solution. This technique allows for the definition of a set of mathematical primitives that define the search space, and thus simply parameterize the design. The implemented approach has been tested on several different architectures and datasets (LeNet-5 \& MNIST, ResNet-10 \& FashionMNIST, WRN-40-4 \& CIFAR-10). Experiments have shown that the approach can find activation functions that statistically improve the accuracy of the architecture over the commonly used ReLU function.en
dc.description.markBcs
dc.identifier.citationHLADIŠ, M. Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2024.cs
dc.identifier.other154436cs
dc.identifier.urihttp://hdl.handle.net/11012/248896
dc.language.isocscs
dc.publisherVysoké učení technické v Brně. Fakulta informačních technologiícs
dc.rightsStandardní licenční smlouva - přístup k plnému textu bez omezenícs
dc.subjectAktivační funkcecs
dc.subjectEvoluční algoritmycs
dc.subjectKartézské genetické programovánícs
dc.subjectAutoMLcs
dc.subjectHluboké učenícs
dc.subjectKonvoluční neuronové sítěcs
dc.subjectActivation Functionsen
dc.subjectEvolutionary algorithmsen
dc.subjectCartesian Genetic Programmingen
dc.subjectAutoMLen
dc.subjectDeep Learningen
dc.subjectConvolutional neural netsen
dc.titleEvoluční návrh nelineárních funkcí pro konvoluční neuronové sítěcs
dc.title.alternativeEvolutionary Design of Non-Linear Functions for Convolutional Neural Networksen
dc.typeTextcs
dc.type.drivermasterThesisen
dc.type.evskpdiplomová prácecs
dcterms.dateAccepted2024-06-18cs
dcterms.modified2024-06-18-10:20:53cs
eprints.affiliatedInstitution.facultyFakulta informačních technologiícs
sync.item.dbid154436en
sync.item.dbtypeZPen
sync.item.insts2025.03.26 15:38:14en
sync.item.modts2025.01.17 10:11:56en
thesis.disciplineStrojové učenícs
thesis.grantorVysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačových systémůcs
thesis.levelInženýrskýcs
thesis.nameIng.cs
Files
Original bundle
Now showing 1 - 2 of 2
Loading...
Thumbnail Image
Name:
final-thesis.pdf
Size:
2.24 MB
Format:
Adobe Portable Document Format
Description:
file final-thesis.pdf
Loading...
Thumbnail Image
Name:
review_154436.html
Size:
9.26 KB
Format:
Hypertext Markup Language
Description:
file review_154436.html
Collections