Matení algoritmů počítačového vidění

Abstract

Cílem této práce bylo zkoumání existujících metod matení počítačového vidění a rozpoznávání. Zaměřil jsem se zejména na metody typu pixel attack.Dále jsem porovnal jednotlivé metody obrany proti těmto útokům. Jednotlivé metody typu pixel attack a možnosti obrany proti těmto útokům jsem implementoval v jazyce python s využitím knihovny Keras. V rámci práce jsem vytvořil nástroj, který umožňuje provést útok metodou pixel attack na uživateli zvoleném obrázku, a z informací získaných při útocích dokáže generovat statistiky. Nástroj také umožňuje detekovat možné útoky v obrázcích.The goal of this work was to research existing methods of computer vision and computer recognition fooling. My focus was on group of methods called pixel attacks. Another part of my thesis talks about methods of detecting and fighting against computer vision fooling. Implementation of various pixel attack methods and methods of defending against these kinds of attacks was done using the python programming language and python library Keras. Solution that I have created works as standalone application allowing user to perform various pixel attack methods on chosen image. This tool also allows collection of statistics from performed pixel attacks and is able to detect possible attacks in these images.