Benchmark pro Edge AI aplikace v UWB IIoT

Abstract

Tato diplomová práce se zabývá srovnávací analýzou mikrokontrolerů (MCU) z hlediska jejich vhodnosti pro Edge AI aplikace v IIoT prostředí. Práce definuje soubor evaluačních metrik a vytváří komplexní benchmark pro testování výkonnosti a efektivity mikrokontrolerů při zpracování úloh umělé inteligence. V rámci výzkumu bylo otestováno deset různých mikrokontrolerů na celkem 26 různých AI modelech. Testovány byly především modely pro detekci osob, rozpoznávání klíčových slov a redukci šumu. Výkonnost MCU byla hodnocena z hlediska rychlosti inference, spotřeby energie a paměťové náročnosti. Výsledky ukazují značné rozdíly mezi jednotlivými platformami – zatímco Teensy 4.0 vyniká v rychlosti inference, STM32 L552ZE-Q nabízí nejlepší energetickou účinnost. Práce identifikuje také kompromisy mezi výkonem a spotřebou energie a poskytuje doporučení pro výběr vhodného mikrokontroleru podle specifických požadavků konkrétních Edge AI aplikací.

This master's thesis presents a comparative analysis of microcontrollers (MCUs) regarding their suitability for Edge AI applications in IIoT environments. The thesis defines a set of evaluation metrics and develops a comprehensive benchmark for testing the performance and efficiency of microcontrollers in processing artificial intelligence tasks. The research tested ten different microcontrollers on a total of 26 AI models. The testing primarily focused on models for person detection, keyword recognition, and noise reduction. MCU performance was evaluated in terms of inference speed, energy consumption, and memory requirements. The results show significant differences between platforms – while Teensy 4.0 excels in inference speed, STM32 L552ZE-Q offers the best energy efficiency. The thesis also identifies trade-offs between performance and energy consumption and provides recommendations for selecting suitable microcontrollers based on the specific requirements of particular Edge AI applications.