Evoluční optimalizace neuronové sítě s využitím supersítě

Abstract

Tato bakalářská práce představuje metodu pro evoluční optimalizaci konvolučních neuronových sítí (CNN) využívající vícekriteriální genetický algoritmus NSGA-II. Cílem je nalézt kompromis mezi klasifikační přesností a výpočetní efektivitou, zejména s ohledem na latenci na cílové platformě Hailo-8L. Navržená metoda vychází z předtrénované supersítě, která umožňuje efektivní prohledávání prostoru architektur bez nutnosti úplného trénování každého kandidáta. Pro urychlení hodnocení byl navržen prediktor latence, který dokáže odhadnout dobu inference sítě bez nutnosti jejího nasazení. Výsledky experimentů na datasetech CIFAR-10 a CIFAR-100 ukazují, že navržený přístup je schopný generovat architektury s příznivým kompromisem mezi přesností a latencí. Metoda tak nabízí efektivní cestu k automatizovanému návrhu CNN optimalizovaných pro konkrétní hardwarová omezení a poskytuje základ pro další výzkum v oblasti hardware-aware NAS.

This bachelor's thesis presents a methodology for the evolutionary optimization of convolutional neural networks (CNNs) using the multi-objective genetic algorithm NSGA-II. The goal is to balance classification accuracy and computational efficiency, particularly in terms of inference latency on the target platform, the Hailo-8L accelerator. The proposed approach builds upon a pre-trained supernet, enabling efficient exploration of the architecture space without fully retraining each candidate. To accelerate evaluation, a latency predictor is introduced, which estimates inference time without requiring hardware deployment. Experimental results on the CIFAR-10 and CIFAR-100 datasets demonstrate that the method can produce architectures with favorable accuracy-latency trade-offs. This approach offers an effective path to automated CNN design tailored to specific hardware constraints and lays the groundwork for further research in hardware-aware neural architecture search.