Optimalizace architektury neuronových sítí pro zpracování EEG pomocí evolučních algoritmů
Loading...
Date
Authors
Pijáčková, Kristýna
ORCID
Advisor
Referee
Mark
A
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta elektrotechniky a komunikačních technologií
Abstract
Tato práce se zabývá optimalizací hyperparametrů neuronových sítí pro zpracování EEG signálu pomocí evolučních algoritmů. Využití evolučních optimalizace může snížit závislost na lidské intuici a empirických znalostech při návrhu neuronové sítě a může tak zefektivnit návrh neuronové sítě. V této práci byl navržen genetický algoritmus, který je vhodný pro optimalizaci hyperparametrů i pro hledání neuronové architektury. Tyto metody byly porovnány s referenčním modelem navrženým inženýrem s expertýzou v této oblasti. Data použitá v této práci jsou rozdělena do čtyř kategorií a pocházejí z Fakultní nemocnice svaté Anny v Brně (SAUH) a Mayo kliniky (MAYO) a obsahují iEEG záznamy u pacienta s epilepsií rezistentní na léky, který podstupuje předoperační vyšetření. Metoda hledání neuronové architektury dosáhla výsledků srovnatelných s referenčním modelem. Optimalizovaný model zlepšil F1 skóre oproti originálnímu, empiricky navrženému modelu z 0.9076 na 0.9673 pro data z SAUH a 0.9222 na 0.9400 pro data z Mayo kliniky. Ke zvýšenému skóre přispěla hlavně zvýšená přesnost klasifikace patologických událostí a šumu, která může mít dále pozitivní vliv v aplikacích tohoto modelu v detektoru záchvatů a šumu.
This thesis deals with an optimization of neural network hyperparameters for EEG signal processing using evolutionary algorithms. The incorporation of evolutionary optimization can reduce reliance on human intuition and empirical knowledge when designing neural network and can thus make the process design more effective. In this work, a genetic algorithm was proposed that is suitable for hyperparameters optimization as well as neural architecture search. These methods were compared to a benchmark model designed by an engineer with expertise in iEEG processing. Data used in this work are classified into four categories and come from St. Anne's University Hospital (SAUH) and Mayo Clinic (MAYO) and were recorded on drug-resistant epileptic patients undergoing pre-surgical examination. The results of the neural architecture search method were comparable with the benchmark model. The hyperparameter optimization improved the F1 score over the original, empirically designed, model from 0.9076 to 0.9673 for the SAUH data and 0.9222 to 0.9400 for the Mayo Clinic data. The increased scores were mainly due to the increased accuracy of the classification of pathological events and noise, which may have further positive implications in applications of this model in seizure and noise detectors.
This thesis deals with an optimization of neural network hyperparameters for EEG signal processing using evolutionary algorithms. The incorporation of evolutionary optimization can reduce reliance on human intuition and empirical knowledge when designing neural network and can thus make the process design more effective. In this work, a genetic algorithm was proposed that is suitable for hyperparameters optimization as well as neural architecture search. These methods were compared to a benchmark model designed by an engineer with expertise in iEEG processing. Data used in this work are classified into four categories and come from St. Anne's University Hospital (SAUH) and Mayo Clinic (MAYO) and were recorded on drug-resistant epileptic patients undergoing pre-surgical examination. The results of the neural architecture search method were comparable with the benchmark model. The hyperparameter optimization improved the F1 score over the original, empirically designed, model from 0.9076 to 0.9673 for the SAUH data and 0.9222 to 0.9400 for the Mayo Clinic data. The increased scores were mainly due to the increased accuracy of the classification of pathological events and noise, which may have further positive implications in applications of this model in seizure and noise detectors.
Description
Keywords
Neuronová síť, deep learning, optimizace, evoluční algoritmy, genetický algoritmus, hledání neuronové architektury, optimalizace hyperparametrů, iEEG, epilepsie, Neural network, deep learning, optimization, evolutionary algorithms, genetic algorithm, neural architecture search, hyperparameter optimization, iEEG, epilepsy
Citation
PIJÁČKOVÁ, K. Optimalizace architektury neuronových sítí pro zpracování EEG pomocí evolučních algoritmů [online]. Brno: Vysoké učení technické v Brně. Fakulta elektrotechniky a komunikačních technologií. 2023.
Document type
Document version
Date of access to the full text
Language of document
en
Study field
bez specializace
Comittee
doc. Ing. Jaroslav Láčík, Ph.D. (předseda)
doc. Ing. Tomáš Götthans, Ph.D. (místopředseda)
Ing. Peter Barcík, Ph.D. (člen)
doc. Ing. Martin Slanina, Ph.D. (člen)
Ing. Rudolf Procházka (člen)
Date of acceptance
2023-06-06
Defence
Student prezentuje výsledky a postupy řešení své diplomové práce. Následně odpovídá na dotazy vedoucího a oponenta práce a na dotazy členů zkušební komise:
Otázky oponenta:
Jakým způsobem byly jednotlivé hyperparametry z tab. 5.1 kódovány na odpovídající geny?
Studentka odpovídá a vysvětluje.
Jaký kernel byl použit v CNN ?
Studentka odpovídá, že využila 2 CNN a typy kernelu ukazuje v tabulce z prezentace.
Vysvětlete princip McNemar testu.
Studentka odpovídá, že dle něj porovnávala vylepšení své sítě.
Dále probíhá diskuze s členy komise.
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení