Dopady životního cyklu velkých jazykových modelů na kybernetickou bezpečnost

V posledních letech došlo ke zvýšení využití neuronových sítí pro generování syntetického obsahu, které jde ruku v ruce s nárůstem nových výzev v oblasti kybernetické bezpečnosti. Generativní modely mohou mít různé vlivy na kybernetickou bezpečnost, od pozitivních až po negativní.
Významnou oblastí je bezpečnost nasazení a provozu generativních modelů, primárně pak velkých jazykových modelů.
Cílem této práce je ve vybrané doméně nasazení a provozu LLM identifikovat problémové oblasti (např. útoky na inferenci modelů, krádeže modelů, či krádeže informací) a analyzovat nové trendy, přístupy, obrany a jejich vlastnosti, dopady a potenciální aplikace. Práce by poté měla na základě analýzy a výzkumu stavu bezpečnosti pro vybrané oblasti navrhnout nové metody ochrany.

Doporučené oblasti zaměření práce:
Útoky a obrany v oblasti postranních kanálů velkých jazykových modelů
Útoky a obrany v oblasti inference velkých jazykových modelů
Obrany v oblasti adverzních (z angl. "adversarial") útoků na velké jazykové modely

Očekává se účast na relevantních mezinárodních konferencích a publikování v odborných či vědeckých časopisech.