Vizualizace průběhu trénování neuronové sítě

Abstract

Tato práce se zabývá studiem průběhu trénování modelu neuronové sítě. Cílem je zobrazit a zkoumat trénovací proces modelu neuronové sítě. Pro tyto účely jsem zvolila implementaci v jazyce Python. Implementace úspěšně replikuje vizualizaci průběhu trénování pommocí lineární interpolace, identifikaci robustních a ambient vrstev a zobrazení plochy, vytvořené účelovou funkcí okolo natrénovaného modelu. V této práci je navržena a představena metoda zobrazovaní průběhu trénování pomocí kvadratické interpolace parametrů. Výsledek práce je znázorněn grafy a diskuzí nad dopady změn parametrů modelu na jeho trénování.This work studies a neural network model during its training. The aim of this thesis is to visualize the training of the model and to examine the training. To achieve this goal I choose to implement a set of tools in Python language. The implementation successfully reproduces the linear path experiment, the identification of robust and ambient layers and the visualization of the loss surface. In addition the quadratic path experiment is presented in this thesis as novel method for analyzing the neural network training progress visualization.