Detail publikace

Deepfakes a lidé: dokážeme ještě rozlišit pravou řeč od umělé?

MALINKA Kamil, FIRC Anton a HANÁČEK Petr. Deepfakes a lidé: dokážeme ještě rozlišit pravou řeč od umělé?. DSM Data Security Management, roč. 2023, č. 04, s. 22-26. ISSN 1211-8737. Dostupné z: https://dsm.tate.cz/cs/2023/dsm-4-2023/deepfakes-a-lide-dokazeme-jeste-rozlisit-pravou-rec-od-umele
Název anglicky
Deepfakes and humans: can we still distinguish real speech from deepfake speech?
Typ
článek v časopise
Jazyk
čeština
Autoři
Malinka Kamil, Mgr., Ph.D. (UITS FIT VUT)
Firc Anton, Ing. (UITS FIT VUT)
Hanáček Petr, doc. Dr. Ing. (UITS FIT VUT)
URL
Klíčová slova

deepfake, syntetický hlas, deepfake útoky, lidský faktor

Abstrakt

Deepfakes se bohužel pomalu, ale jistě dostávají do titulků zpráv. Tuto pozici získávají převážně kvůli svému negativnímu použití při úspěšných útocích. Tyto útoky (např. finanční podvody, kdy se útočník vydává za někoho jiného) cílí primárně na nás lidi, a tudíž naši schopnost rozpoznat (či spíše nerozeznat) deepfake hlas od toho pravého. Pro zlepšení možností ochrany proti těmto útokům je nejdříve důležité porozumět lidské schopnosti rozlišit deepfake nahrávku od té pravé a zjistit jaké faktory ji ovlivňují. Ačkoliv se některé zahraniční výzkumy již tomuto tématu věnují, zapomínají brát v potaz způsob, jakým reálný útok probíhá. V našem výzkumu tuto nepřesnost reflektujeme a realisticky simulujeme situaci, při které by útok mohl probíhat. Výrazně se tak odlišujeme od existujících studií a bohužel i získané poznatky nejsou z pohledu dopadu na lidi zrovna příznivé. 

V tomto článku prezentuje aktuální zveřejněné útoky využívající deepfakes a také závěry našeho výzkumu, který se věnuje lidské schopnosti rozpoznat deepfake nahrávky a možnostem, jak tuto schopnost do budoucna zlepšovat a předejít tak útokům za použití hlasových deepfakes.

Rok
2023
Strany
22-26
Časopis
DSM Data Security Management, roč. 2023, č. 4, ISSN 1211-8737
BibTeX 
@ARTICLE{FITPUB13101,
   author = "Kamil Malinka and Anton Firc and Petr Han\'{a}\v{c}ek",
   title = "Deepfakes a lid\'{e}: dok\'{a}\v{z}eme je\v{s}t\v{e} rozli\v{s}it pravou \v{r}e\v{c} od um\v{e}l\'{e}?",
   pages = "22--26",
   journal = "DSM Data Security Management",
   volume = 2023,
   number = 04,
   year = 2023,
   ISSN = "1211-8737",
   language = "czech",
   url = "https://www.fit.vut.cz/research/publication/13101"
}
Nahoru