Deepfake datová sady pro testovaní lidské schopnosti rozpoznávat deepfakes

Abstract

Umelá inteligencia je na ceste stať sa jednou z najpoužívanejších technológií vo svete. Mnohí z nás ju bez zaváhania využívajú každý deň. Zvykli sme si na ňu a začali sme jej dôverovať. Avšak, tiež je veľmi jednoduché jej padnúť za obeť. Táto práca reaguje na hrozby a riziká súvisiace s hlasovými deepfake technológiami, oblasťou umelej inteligencie. Primárnym cieľom tohto projektu je vykonať experiment s deepfake nahrávkami ohodnotenými navrhnutým systémom kvality. Našou motiváciou je neustále rastúci počet obetí podvodov hlasových deepfakes, nezodpovedané otázky v oblasti synteticým médií, a vykonané experimenty, ktoré dosiahli zaujímavé závery. Naše výsledky priniesli cenné informácie v oblasti ľudskej schopnosti rozpoznávať hlasové deepfakes na rôznych úrovniach kvality. Tiež sme zodpovedali otázky týkajúce sa ľudskej schopnosti rozpoznávať hlasové deepfakes v ich rodnom jazyku, alebo či dokážu častejšie rozpoznať hlasové deepfakes, keď použijú pre ich počúvanie slúchadlá miesto reproduktorov.Artificial intelligence is on its way to become one of the most used technologies in the world. Many of us use artificial intelligence every day without hesitation. We got used to it and put our trust in these technologies. However, it is easy to become a victim of this technology too. This thesis reacts to the threats and risks of audio deepfake technologies, a subfield of artificial intelligence. The project primarily aims to conduct an experiment using a proposed quality system rating of audio deepfake evaluation. We found motivation in the increasing number of victims of audio deepfake frauds, unanswered questions concerning the synthetic media, and already conducted experiments with interesting conclusions. Our results brought valuable knowledge about human’s ability to recognize audio deep-fakes of different quality scores. We also found answers to questions about people’s ability to detect deepfakes in their native languages or whether they are more likely to recognize deepfakes using headphones instead of speakers.