Bezpečnostní dopady deepfakes v oblasti rozpoznávání obličejů
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
B
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Deepfakes, médiá generované hlbokým strojovým učením, ktoré sú pre človeka nerozoznateľné od skutočných, zažívajú v posledných rokoch obrovský rozmach. O ich schopnosti oklamať ľudí už bolo napísaných niekoľko desiatok článkov. Rovnako závažný, ak nie závažnejší, môže byť problém, do akej miery sú voči nim zraniteľné systémy rozpoznávania tváre a hlasu. Zneužitie deepfakes proti automatizovaným systémom rozpoznávania tváre môže ohroziť mnohé oblasti nášho života, napríklad financie a prístup do budov. Táto téma je v podstate nepreskúmaným problémom. Cieľom tejto práce je preskúmať technickú realizovateľnosť útoku na rozpoznávanie tváre. Experimenty opísané v práci ukazujú, že tento útok je nielen uskutočniteľný, ale navyše útočník naň nepotrebuje veľa prostriedkov. V práci je opísaný aj rozsah tohto problému. V závere je opísaných aj niekoľko navrhovaných riešení tohto problému, ktoré vôbec nemusia byť náročné na implementáciu.
Deepfakes, media generated by deep learning that are indistinguishable to humans from real ones, have experienced a huge boom in recent years. Several dozen papers have already been written about their ability to fool people. Equally, if not more, serious, may be the problem of the extent to which facial and voice recognition systems are vulnerable to them. The misuse of deepfakes against automated facial recognition systems can threaten many areas of our lives, such as finances and access to buildings. This topic is essentially an unexplored problem. This thesis aims to investigate the technical feasibility of an attack on facial recognition. The experiments described in the thesis show that this attack is not only feasible but moreover, the attacker does not need many resources for the attack. The scope of this problem is also described in the work. The conclusion also describes some proposed solutions to this problem, which may not be difficult to implement at all.
Deepfakes, media generated by deep learning that are indistinguishable to humans from real ones, have experienced a huge boom in recent years. Several dozen papers have already been written about their ability to fool people. Equally, if not more, serious, may be the problem of the extent to which facial and voice recognition systems are vulnerable to them. The misuse of deepfakes against automated facial recognition systems can threaten many areas of our lives, such as finances and access to buildings. This topic is essentially an unexplored problem. This thesis aims to investigate the technical feasibility of an attack on facial recognition. The experiments described in the thesis show that this attack is not only feasible but moreover, the attacker does not need many resources for the attack. The scope of this problem is also described in the work. The conclusion also describes some proposed solutions to this problem, which may not be difficult to implement at all.
Description
Citation
ŠALKO, M. Bezpečnostní dopady deepfakes v oblasti rozpoznávání obličejů [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2023.
Document type
Document version
Date of access to the full text
Language of document
en
Study field
Počítačové vidění
Comittee
prof. Dr. Ing. Pavel Zemčík, dr. h. c. (předseda)
doc. Ing. Martin Čadík, Ph.D. (člen)
Ing. Zbyněk Křivka, Ph.D. (člen)
Ing. Vítězslav Beran, Ph.D. (člen)
doc. Ing. Peter Chudý, Ph.D., MBA (člen)
Ing. David Bařina, Ph.D. (člen)
Date of acceptance
2023-06-20
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B.
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení