Útoky na algoritmy AI a obrany proti nim

Simple item page
but.committeedoc. Dr. Ing. Petr Hanáček (předseda) doc. Ing. Michal Bidlo, Ph.D. (člen) doc. Mgr. Adam Rogalewicz, Ph.D. (člen) doc. Ing. Petr Matoušek, Ph.D., M.A. (člen) Mgr. Kamil Malinka, Ph.D. (člen) Ing. Vladimír Veselý, Ph.D. (člen)cs
but.defenceStudentka nejprve prezentovala výsledky, kterých dosáhla v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Studentka následně odpověděla na otázky oponenta a na další otázky přítomných, např. ohledně možností přístupu k návrhu ochranných metod, využití dodatečné informace pro klasifikátor či typu použité databanky a případného dodání šumu. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studentky na položené otázky rozhodla práci hodnotit stupněm C - dobře.cs
but.jazykangličtina (English)
but.programInformační technologie a umělá inteligencecs
but.resultpráce byla úspěšně obhájenacs
dc.contributor.advisorHerout, Adamen
dc.contributor.authorGregorová, Janaen
dc.contributor.refereeVaško, Mareken
dc.date.created2024cs
dc.description.abstractBezpečnost AI a útoky na umělou inteligenci představují komplexní a dosud nedostatečně prozkoumanou problematiku. Cílem této práce je nabídnout ucelený přehled klíčových metod a možných vysvětlení útoků na AI a obran proti nim, aby se toto téma stalo přístupnějším a srozumitelnějším pro širší publikum, a tím usnadnit hlubší zkoumání a porozumění těmto útokům. Tato práce zahrnuje výběr metod pro vysvětlení jednotlivých klasifikačních rozhodnutí klasifikátorů hlubokého učení (Explainable AI: XAI) a jejich aplikaci při analýze rozhodovacího procesu klasifikátorů během útoků. K usnadnění vytváření dalších experimentů, monitorování útoků na AI a hledání možných vysvětlení byl navíc vyvinut skript, který tento proces zjednodušuje. Tento skript je součástí této práce a je poskytnut na přiloženém médiu.en
dc.description.abstractThe trustworthiness of AI, adversarial attacks on AI, and explainability of deep machine learning models represent complex and insufficiently explored topics. This thesis provides a comprehensive overview of state-of-the-art key methods for adversarial attacks on AI in computer vision, their explanation and prevention. By making this topic more accessible and understandable, the work aims to engage a broader audience in research of the security of AI and explainability of AI. Furthermore, this thesis delves into methods for explaining individual classification decisions of deep learning classifiers through Explainable AI (XAI) techniques. It also introduces a tool that integrates different methods for conducting adversarial examples with the application of XAI methods, allowing for monitoring AI attacks and analyzing the decision-making process of deep classifiers during such attacks.cs
dc.description.markCcs
dc.identifier.citationGREGOROVÁ, J. Útoky na algoritmy AI a obrany proti nim [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2024.cs
dc.identifier.other156862cs
dc.identifier.urihttp://hdl.handle.net/11012/248573
dc.language.isoencs
dc.publisherVysoké učení technické v Brně. Fakulta informačních technologiícs
dc.rightsStandardní licenční smlouva - přístup k plnému textu bez omezenícs
dc.subjectútoky na algoritmy AIen
dc.subjectpočítačové viděníen
dc.subjectinterpretovatelnost umělé inteligenceen
dc.subjectbezpečnost umělé inteligenceen
dc.subjectAdversarial Attacks on AIcs
dc.subjectComputer Visioncs
dc.subjectNeural Network Interpretabilitycs
dc.subjectExplainable AIcs
dc.subjectExplainable Adversarial Attackscs
dc.titleÚtoky na algoritmy AI a obrany proti nimen
dc.title.alternativeAdversarial Attacks on AI Algorithms and Their Preventioncs
dc.typeTextcs
dc.type.drivermasterThesisen
dc.type.evskpdiplomová prácecs
dcterms.dateAccepted2024-06-17cs
dcterms.modified2024-06-17-12:16:19cs
eprints.affiliatedInstitution.facultyFakulta informačních technologiícs
sync.item.dbid156862en
sync.item.dbtypeZPen
sync.item.insts2025.03.26 15:38:05en
sync.item.modts2025.01.15 15:14:35en
thesis.disciplineKybernetická bezpečnostcs
thesis.grantorVysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédiícs
thesis.levelInženýrskýcs
thesis.nameIng.cs
Files
Original bundle
Now showing 1 - 3 of 3
Thumbnail Image
Name:
final-thesis.pdf
Size:
10.26 MB
Format:
Adobe Portable Document Format
Description:
file final-thesis.pdf
Download
Thumbnail Image
Name:
appendix-1.zip
Size:
7.57 MB
Format:
Unknown data format
Description:
file appendix-1.zip
Download
Thumbnail Image
Name:
review_156862.html
Size:
10.99 KB
Format:
Hypertext Markup Language
Description:
file review_156862.html
Download
Collections
2024