Detail publikace
Security Implications of Deepfakes in Face Authentication
deepfake, rozpoznávání obličeje, biometrické systémy, strojové učení, počítačová bezpečnost
Deepfakes jsou média generovaná pomocí hlubokého učení a pro člověka jsou téměř nerozeznatelná od skutečného obsahu. Deepfakes zaznamenaly v posledních letech výrazný nárůst popularity. O jejich účinnosti při klamání lidí bylo napsáno mnoho článků. Stejně, ne-li více, znepokojuje potenciální zranitelnost systémů rozpoznávání obličeje a hlasu vůči deepfakes. Zneužití deepfakes k podvržení automatických systémů rozpoznávání obličeje může ohrozit různé aspekty našeho života, včetně finanční bezpečnosti a přístupu na zabezpečená místa. Tato problematika zůstává z velké části neprozkoumaná. Tento článek proto zkoumá technickou proveditelnost útoku na podvržené rozpoznávání obličeje. Nejprve provedeme analýzu hrozeb, abychom pochopili, jaké případy použití rozpoznávání obličeje umožňují provedení útoků deepfake spoofing. Na základě této analýzy definujeme model útočníka pro tyto útoky na systémy rozpoznávání obličeje. Poté demonstrujeme schopnost deepfakes podvrhnout dva komerční systémy rozpoznávání obličeje. Nakonec diskutujeme o možných prostředcích, jak těmto spoofingovým útokům zabránit.
@inproceedings{BUT188029,
author="Milan {Šalko} and Anton {Firc} and Kamil {Malinka}",
title="Security Implications of Deepfakes in Face Authentication",
booktitle="Proceedings of the ACM Symposium on Applied Computing",
year="2024",
pages="1376--1384",
publisher="Association for Computing Machinery",
address="Avila",
doi="10.1145/3605098.3635953",
isbn="979-8-4007-0243-3",
url="https://dl.acm.org/doi/10.1145/3605098.3635953"
}