Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě
but.committee | prof. Dr. Ing. Jan Černocký (předseda) doc. Ing. Lukáš Burget, Ph.D. (člen) doc. Mgr. Lukáš Holík, Ph.D. (člen) Ing. Michal Hradiš, Ph.D. (člen) Ing. František Grézl, Ph.D. (člen) prof. Ing. Lukáš Sekanina, Ph.D. (člen) | cs |
but.defence | Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B. | cs |
but.jazyk | čeština (Czech) | |
but.program | Informační technologie a umělá inteligence | cs |
but.result | práce byla úspěšně obhájena | cs |
dc.contributor.advisor | Sekanina, Lukáš | cs |
dc.contributor.author | Hladiš, Martin | cs |
dc.contributor.referee | Mrázek, Vojtěch | cs |
dc.date.created | 2024 | cs |
dc.description.abstract | Cílem této diplomové práce je návrh a implementace programu pro automatizovaný návrh nelineárních aktivačních funkcí pro konvoluční neuronové sítě (CNN) s využitím evolučních algoritmů. Využití automatického návrhu poskytuje nezávislý pohled na systematické prozkoumání širokého spektra aktivačních funkcí a identifikaci těch nejlepších. Metoda zvolená v práci pro automatický návrh je formou evolučních algoritmů nazývanou jako kartézské genetické programování, které pro zakódování řešení využívá grafovou reprezentaci. Tato technika umožňuje definici sady matematických primitiv, která definuje prohledávací prostor, a tak jednoduše parametrizuje návrh. Implementovaný přístup byl otestován na několika různých architekturách a datasetech (LeNet-5 \& MNIST, ResNet-10 \& FashionMNIST, WRN-40-4 \& CIFAR-10). Experimenty dokázaly, že přístup dokáže nalézt aktivační funkce, které statisticky zlepšují přesnost CNN oproti běžně využívané funkci ReLU. | cs |
dc.description.abstract | The aim of this thesis is to design and implement a program for automated design of nonlinear activation functions for convolutional neural networks (CNN) using evolutionary algorithms. The use of automated design provides an independent view to systematically explore a wide range of activation functions and identify the best ones. The method for automatic design chosen in this thesis is a form of evolutionary algorithms referred to as Cartesian genetic programming, which uses a graph representation to encode the solution. This technique allows for the definition of a set of mathematical primitives that define the search space, and thus simply parameterize the design. The implemented approach has been tested on several different architectures and datasets (LeNet-5 \& MNIST, ResNet-10 \& FashionMNIST, WRN-40-4 \& CIFAR-10). Experiments have shown that the approach can find activation functions that statistically improve the accuracy of the architecture over the commonly used ReLU function. | en |
dc.description.mark | B | cs |
dc.identifier.citation | HLADIŠ, M. Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2024. | cs |
dc.identifier.other | 154436 | cs |
dc.identifier.uri | http://hdl.handle.net/11012/248896 | |
dc.language.iso | cs | cs |
dc.publisher | Vysoké učení technické v Brně. Fakulta informačních technologií | cs |
dc.rights | Standardní licenční smlouva - přístup k plnému textu bez omezení | cs |
dc.subject | Aktivační funkce | cs |
dc.subject | Evoluční algoritmy | cs |
dc.subject | Kartézské genetické programování | cs |
dc.subject | AutoML | cs |
dc.subject | Hluboké učení | cs |
dc.subject | Konvoluční neuronové sítě | cs |
dc.subject | Activation Functions | en |
dc.subject | Evolutionary algorithms | en |
dc.subject | Cartesian Genetic Programming | en |
dc.subject | AutoML | en |
dc.subject | Deep Learning | en |
dc.subject | Convolutional neural nets | en |
dc.title | Evoluční návrh nelineárních funkcí pro konvoluční neuronové sítě | cs |
dc.title.alternative | Evolutionary Design of Non-Linear Functions for Convolutional Neural Networks | en |
dc.type | Text | cs |
dc.type.driver | masterThesis | en |
dc.type.evskp | diplomová práce | cs |
dcterms.dateAccepted | 2024-06-18 | cs |
dcterms.modified | 2024-06-18-10:20:53 | cs |
eprints.affiliatedInstitution.faculty | Fakulta informačních technologií | cs |
sync.item.dbid | 154436 | en |
sync.item.dbtype | ZP | en |
sync.item.insts | 2025.03.26 15:38:14 | en |
sync.item.modts | 2025.01.17 10:11:56 | en |
thesis.discipline | Strojové učení | cs |
thesis.grantor | Vysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačových systémů | cs |
thesis.level | Inženýrský | cs |
thesis.name | Ing. | cs |