Umělá inteligence v počítačové bezpečnosti
Loading...
Date
Authors
Firc, Anton
ORCID
Advisor
Referee
Mark
P
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Od svého vzniku ohrožují falešné zvuky počítačovou bezpečnost, protože zvyšují účinnost útoků sociálního inženýrství a umožňují podvrhnout systémy rozpoznávání řečníků. Zatímco výzkum se zaměřoval především na metody detekce, chyběla strukturovaná perspektiva kybernetické bezpečnosti, čímž vznikla mezera ve výzkumu. Tato práce představuje strukturované hodnocení kybernetické bezpečnosti rizik, která deepfakes představují. Klí\-čo\-vým výsledkem je pochopení modelu útočníka, který dále slouží jako vodítko pro vývoj a hodnocení metod ochrany. Navrhujeme rámec hodnocení detekčních metod, který řeší známé problémy detekce deepfake, jako je špatná generalizace a omezená srovnatelnost. Naše analýza lidského vnímání zvukových deepfakes inspirovaná reálnými útoky odhalila, že lidé nedokážou deepfakes při skutečných útocích spolehlivě rozpoznat. Na základě našich zjištění navrhujeme rozšířený model ochrany proti deepfake hrozbám. Tento model zahrnuje více opatření aktivních v různých fázích životního cyklu deepfake a nabízí strukturovanou ochranu. V neposlední řadě zkoumáme informovanost veřejnosti jako proaktivní obrannou strategii, která přináší osvětu s cílem zmírnit rizika útoků sociálního inženýrství založených na deepfake.
Since their origin, deepfake audio threatens computer security, increasing the effectiveness of social engineering attacks and enabling spoofing of speaker recognition systems. While the research focused primarily on detection methods, a structured cybersecurity perspective was missing, creating a research gap. This thesis introduces a structured cybersecurity assessment of risks posed by deepfakes. A key outcome is understanding an attacker model that further guides the development and evaluation of protection methods. We propose an evaluation framework for detection methods to address known challenges of deepfake detection, such as poor generalisation and limited comparability. Our analysis of the human perception of audio deepfakes inspired by real-world attacks revealed that humans fail to recognise deepfakes reliably in actual attacks. Based on our findings, we propose an extended protection model for deepfake threats. This model includes multiple measures active in different stages of the deepfake lifecycle, offering structured protection. Finally, we explore public awareness as a proactive defence strategy, delivering outreach and educational efforts to mitigate the risks of deepfake-driven social engineering attacks.
Since their origin, deepfake audio threatens computer security, increasing the effectiveness of social engineering attacks and enabling spoofing of speaker recognition systems. While the research focused primarily on detection methods, a structured cybersecurity perspective was missing, creating a research gap. This thesis introduces a structured cybersecurity assessment of risks posed by deepfakes. A key outcome is understanding an attacker model that further guides the development and evaluation of protection methods. We propose an evaluation framework for detection methods to address known challenges of deepfake detection, such as poor generalisation and limited comparability. Our analysis of the human perception of audio deepfakes inspired by real-world attacks revealed that humans fail to recognise deepfakes reliably in actual attacks. Based on our findings, we propose an extended protection model for deepfake threats. This model includes multiple measures active in different stages of the deepfake lifecycle, offering structured protection. Finally, we explore public awareness as a proactive defence strategy, delivering outreach and educational efforts to mitigate the risks of deepfake-driven social engineering attacks.
Description
Citation
FIRC, A. Umělá inteligence v počítačové bezpečnosti [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2025.
Document type
Document version
Date of access to the full text
Language of document
en
Study field
Informační technologie
Comittee
prof. Ing. Lukáš Sekanina, Ph.D. (předseda)
doc. Ing. Pavel Ircing, CSc. (člen)
prof. Dr. Ing. Jan Kybic (člen)
doc. Ing. Jiří Mekyska, Ph.D. (člen)
doc. RNDr. Petr Švenda, Ph.D. (člen)
Date of acceptance
2025-10-21
Defence
Student přednesl cíle a výsledky, kterých v rámci řešení disertační práce dosáhl. V rozpravě student odpověděl na otázky komise a oponentů a hostů. Diskuze je zaznamenána na diskuzních lístcích, které jsou přílohou protokolu. Počet diskuzních lístků: 5. Komise se v závěru jednomyslně usnesla, že student splnil podmínky pro udělení akademického titulu doktor.
Komise jednomyslně doporučuje a oponenti podpořili, aby studentovi byla udělena cena za výjimečně kvalitní disertační práci, a to z důvodu, že jeho vědecké výsledky jsou ve vysokém počtu a jsou nadprůměrně citovány.
The student presented the goals and results that he achieved within the solution of the dissertation. The student has competently answered the questions of the committee members and reviewers and guests. The discussion is recorded on the discussion sheets, which are attached to the protocol. Number of discussion sheets: 5. The committee has agreed unanimously that the student has fulfilled the requirements for being awarded the academic title Ph.D.
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení