Security Implications of Deepfakes in Face Authentication
Loading...
Date
2024-04-08
Authors
Šalko, Milan
Firc, Anton
Malinka, Kamil
0009-0004-9604-168XAdvisor
Referee
Mark
Journal Title
Journal ISSN
Volume Title
Publisher
Association for Computing Machinery
Altmetrics
Abstract
Deepfakes are media generated by deep learning and are nearly indistinguishable from real content to humans. Deepfakes have seen a significant surge in popularity in recent years. There have been numerous papers discussing their effectiveness in deceiving people. What's equally, if not more concerning, is the potential vulnerability of facial and voice recognition systems to deepfakes. The misuse of deepfakes to spoof automated facial recognition systems can threaten various aspects of our lives, including financial security and access to secure locations. This issue remains largely unexplored. Thus, this paper investigates the technical feasibility of a spoofing attack on facial recognition. Firstly, we perform a threat analysis to understand what facial recognition use cases allow the execution of deepfake spoofing attacks. Based on this analysis, we define the attacker model for these attacks on facial recognition systems. Then, we demonstrate the ability of deepfakes to spoof two commercial facial recognition systems. Finally, we discuss possible means to prevent such spoofing attacks.
Deepfakes jsou média generovaná pomocí hlubokého učení a pro člověka jsou téměř nerozeznatelná od skutečného obsahu. Deepfakes zaznamenaly v posledních letech výrazný nárůst popularity. O jejich účinnosti při klamání lidí bylo napsáno mnoho článků. Stejně, ne-li více, znepokojuje potenciální zranitelnost systémů rozpoznávání obličeje a hlasu vůči deepfakes. Zneužití deepfakes k podvržení automatických systémů rozpoznávání obličeje může ohrozit různé aspekty našeho života, včetně finanční bezpečnosti a přístupu na zabezpečená místa. Tato problematika zůstává z velké části neprozkoumaná. Tento článek proto zkoumá technickou proveditelnost útoku na podvržené rozpoznávání obličeje. Nejprve provedeme analýzu hrozeb, abychom pochopili, jaké případy použití rozpoznávání obličeje umožňují provedení útoků deepfake spoofing. Na základě této analýzy definujeme model útočníka pro tyto útoky na systémy rozpoznávání obličeje. Poté demonstrujeme schopnost deepfakes podvrhnout dva komerční systémy rozpoznávání obličeje. Nakonec diskutujeme o možných prostředcích, jak těmto spoofingovým útokům zabránit.
Deepfakes jsou média generovaná pomocí hlubokého učení a pro člověka jsou téměř nerozeznatelná od skutečného obsahu. Deepfakes zaznamenaly v posledních letech výrazný nárůst popularity. O jejich účinnosti při klamání lidí bylo napsáno mnoho článků. Stejně, ne-li více, znepokojuje potenciální zranitelnost systémů rozpoznávání obličeje a hlasu vůči deepfakes. Zneužití deepfakes k podvržení automatických systémů rozpoznávání obličeje může ohrozit různé aspekty našeho života, včetně finanční bezpečnosti a přístupu na zabezpečená místa. Tato problematika zůstává z velké části neprozkoumaná. Tento článek proto zkoumá technickou proveditelnost útoku na podvržené rozpoznávání obličeje. Nejprve provedeme analýzu hrozeb, abychom pochopili, jaké případy použití rozpoznávání obličeje umožňují provedení útoků deepfake spoofing. Na základě této analýzy definujeme model útočníka pro tyto útoky na systémy rozpoznávání obličeje. Poté demonstrujeme schopnost deepfakes podvrhnout dva komerční systémy rozpoznávání obličeje. Nakonec diskutujeme o možných prostředcích, jak těmto spoofingovým útokům zabránit.
Description
Citation
Proceedings of the ACM Symposium on Applied Computing. 2024, p. 1376-1384.
https://dl.acm.org/doi/10.1145/3605098.3635953
https://dl.acm.org/doi/10.1145/3605098.3635953
Document type
Peer-reviewed
Document version
Published version
Date of access to the full text
Language of document
en