Detail projektu

Nástroje boje proti hlasovým DeepFakes

Období řešení: 1. 1. 2024 – 31. 12. 2026

Typ projektu: grant

Kód: VB02000060

Agentura: Ministerstvo vnitra ČR

Program: Programu bezpečnostního výzkumu ČR 2021-2026: vývoj, testování a evaluace nových bezpečnostních technologií (SECTECH) - II. veřejná soutěž

Název anglicky
Tools To Combat Voice DeepFakes
Typ
grant
Klíčová slova

Deepfakes; umělá inteligence; počítačová bezpečnost

Abstrakt

Deepfakes jsou novou aplikací umělé inteligence s významným dopadem na
počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím a tyto
nástroje lze využít k oklamání jednotlivců i organizací, zejména v kombinaci
s taktikami sociálního inženýrství, jako je phishing.

Tento projekt se proto zaměřuje na pochopení možných způsobů použití
a souvisejících hrozeb při zákeřném používání hlasových deepfakes se záměrem
najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby
tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější
a spravedlivější budoucnost pro všechny.

Aktivity projektu jsou zaměřeny na 3 oblasti: zvýšení odolnosti hlasových
biometrických systémů vůči útokům typu deepfakes spoofing, vytvoření nástrojů
umožňující boj proti škodlivému použití hlasových deepfakes a vyhodnocení
schopnosti lidí rozpoznat hlasové deepfakes a nalezení způsobů, jak zvýšit
bezpečnostní povědomí uživatelů.

Řešitelé
Kudla Radim, Ing. (UPGM) – hlavní řešitel
Brukner Jan, Ing. (UPGM)
Burget Lukáš, doc. Ing., Ph.D. (UPGM)
Černocký Jan, prof. Dr. Ing. (UPGM)
Firc Anton, Ing. (UITS)
Foltyn Lukáš, Bc. (UPGM)
Halas Jaromír (CVT)
Hanáček Petr, doc. Dr. Ing. (UITS)
Knapovský Jan, Bc. (DFIT-OIP)
Kotolan Martin (DFIT-OIP)
Malinka Kamil, Mgr., Ph.D. (UITS)
Matějka Pavel, Ing., Ph.D.
Mihola David, Bc. (UPGM)
Plchot Oldřich, Ing., Ph.D. (UPGM)
Polok Alexander, Ing. (UPGM)
Reš Jakub, Ing. (UITS)
Rohdin Johan Andréas, M.Sc., Ph.D. (UPGM)
Schwarz Petr, Ing., Ph.D. (UPGM)
Silnova Anna, M.Sc., Ph.D. (UPGM)
Staněk Vojtěch, Ing. (UPGM)
Šalko Milan, Ing. (UITS)
Yusuf Bolaji (UPGM)
Publikace

2024

  • ALAM, J.; BARAHONA QUIRÓS, S.; BOBOŠ, D.; BURGET, L.; CUMANI, S.; DAHMANE, M.; HAN, J.; HLAVÁČEK, M.; KODOVSKÝ, M.; LANDINI, F.; MOŠNER, L.; PÁLKA, P.; PAVLÍČEK, T.; PENG, J.; PLCHOT, O.; RAJASEKHAR, P.; ROHDIN, J.; SILNOVA, A.; STAFYLAKIS, T.; ZHANG, L. ABC SYSTEM DESCRIPTION FOR NIST SRE 2024. Proceedings of NIST SRE 2024. San Juan: National Institute of Standards and Technology, 2024. p. 1-9. Detail
  • POLOK, A.; KLEMENT, D.; HAN, J.; SEDLÁČEK, Š.; YUSUF, B.; MACIEJEWSKI, M.; WIESNER, M.; BURGET, L. BUT/JHU System Description for CHiME-8 NOTSOFAR-1 Challenge. Proceedings of CHiME 2024 Workshop. Kos Island: International Speech Communication Association, 2024. p. 18-22. Detail
  • ROHDIN, J.; ZHANG, L.; PLCHOT, O.; STANĚK, V.; MIHOLA, D.; PENG, J.; STAFYLAKIS, T.; BEVERAKI, D.; SILNOVA, A.; BRUKNER, J.; BURGET, L. BUT systems and analyses for the ASVspoof 5 Challenge. Proceedings of ASV spoof 2024 Workshop. Kos Island: International Speech Communication Association, 2024. p. 24-31. Detail
  • STAFYLAKIS, T.; SILNOVA, A.; ROHDIN, J.; PLCHOT, O.; BURGET, L. Challenging margin-based speaker embedding extractors by using the variational information bottleneck. In Proceedings of Interspeech 2024. Proceedings of Interspeech. Kos: International Speech Communication Association, 2024. p. 3220-3224. ISSN: 1990-9772. Detail
  • WANG, S.; CHEN, Z.; HAN, B.; WANG, H.; XIANG, X.; ROHDIN, J.; SILNOVA, A.; QIAN, Y.; LI, H. Advancing speaker embedding learning: Wespeaker toolkit for research and production. Speech Communication, 2024, vol. 162, no. 103104, p. 1-12. ISSN: 0167-6393. Detail
Nahoru