Detail publikace

Security Implications of Deepfakes in Face Authentication

ŠALKO Milan, FIRC Anton a MALINKA Kamil. Security Implications of Deepfakes in Face Authentication. In: Proceedings of the ACM Symposium on Applied Computing. Avila: Association for Computing Machinery, 2024, s. 1376-1384. ISBN 979-8-4007-0243-3. Dostupné z: https://dl.acm.org/doi/10.1145/3605098.3635953
Název česky
Bezpečnostní dopady deepfakes v oblasti rozpoznávání obličejů
Typ
článek ve sborníku konference
Jazyk
angličtina
Autoři
Šalko Milan, Ing. (UITS FIT VUT)
Firc Anton, Ing. (UITS FIT VUT)
Malinka Kamil, Mgr., Ph.D. (UITS FIT VUT)
URL
Klíčová slova

deepfake, rozpoznávání obličeje, biometrické systémy, strojové učení, počítačová bezpečnost

Abstrakt

Deepfakes jsou média generovaná pomocí hlubokého učení a pro člověka jsou téměř nerozeznatelná od skutečného obsahu. Deepfakes zaznamenaly v posledních letech výrazný nárůst popularity. O jejich účinnosti při klamání lidí bylo napsáno mnoho článků. Stejně, ne-li více, znepokojuje potenciální zranitelnost systémů rozpoznávání obličeje a hlasu vůči deepfakes. Zneužití deepfakes k podvržení automatických systémů rozpoznávání obličeje může ohrozit různé aspekty našeho života, včetně finanční bezpečnosti a přístupu na zabezpečená místa. Tato problematika zůstává z velké části neprozkoumaná. Tento článek proto zkoumá technickou proveditelnost útoku na podvržené rozpoznávání obličeje. Nejprve provedeme analýzu hrozeb, abychom pochopili, jaké případy použití rozpoznávání obličeje umožňují provedení útoků deepfake spoofing. Na základě této analýzy definujeme model útočníka pro tyto útoky na systémy rozpoznávání obličeje. Poté demonstrujeme schopnost deepfakes podvrhnout dva komerční systémy rozpoznávání obličeje. Nakonec diskutujeme o možných prostředcích, jak těmto spoofingovým útokům zabránit.

Rok
2024
Strany
1376-1384
Sborník
Proceedings of the ACM Symposium on Applied Computing
Konference
ACM Symposium On Applied Computing, Avila, ES
ISBN
979-8-4007-0243-3
Vydavatel
Association for Computing Machinery
Místo
Avila, ES
DOI
10.1145/3605098.3635953
UT WoS
001236958200199
EID Scopus
2-s2.0-85197667490
BibTeX 
@INPROCEEDINGS{FITPUB13076,
   author = "Milan \v{S}alko and Anton Firc and Kamil Malinka",
   title = "Security Implications of Deepfakes in Face Authentication",
   pages = "1376--1384",
   booktitle = "Proceedings of the ACM Symposium on Applied Computing",
   year = 2024,
   location = "Avila, ES",
   publisher = "Association for Computing Machinery",
   ISBN = "979-8-4007-0243-3",
   doi = "10.1145/3605098.3635953",
   language = "english",
   url = "https://www.fit.vut.cz/research/publication/13076"
}
Nahoru