Detail publikace
Implementing contextual biasing in GPU decoder for online ASR
Madikeri Srikanth
VILLATORO-TELLO, E.
Motlíček Petr, doc. Ing., Ph.D. (UPGM)
ZULUAGA-GOMEZ, J.
PANDIA, K.
GANAPATHIRAJU, A.
real-time speech recognition, contextual adaptation, GPU decoding, finite-state transducers
Dekódování GPU výrazně zrychluje výstup předpovědí ASR.
Zatímco GPU se již používají pro online ASR
dekódování, následné zpracování a rescoring na GPU ne
zatím řádně prošetřena. Vyhodnocování s dostupným kontextem
informace mohou výrazně zlepšit předpovědi ASR.
Předchozí studie prokázaly životaschopnost mřížového vyhodnocování
v dekódování a vážení jazykového modelu (LM) v režimu offline
a online scénáře CPU. Při dekódování GPU v reálném čase,
hypotézy částečného rozpoznávání jsou vytvářeny bez generování mřížky,
což dělá implementaci ovlivnění složitější.
Článek navrhuje a popisuje přístup k integraci
kontextové ovlivnění při dekódování GPU v reálném čase při využívání
standardní Kaldi GPU dekodér. Kromě zkreslení částečného
Předpovědi ASR, náš přístup také umožňuje dynamický kontext
přepínání umožňující flexibilní vyhodnocování každého segmentu řeči
přímo na GPU. Kód je veřejně uvolněn1 a testován pomocí
open-source testovací sady.
@inproceedings{BUT187754,
author="NIGMATULINA, I. and MADIKERI, S. and VILLATORO-TELLO, E. and MOTLÍČEK, P. and ZULUAGA-GOMEZ, J. and PANDIA, K. and GANAPATHIRAJU, A.",
title="Implementing contextual biasing in GPU decoder for online ASR",
booktitle="Proceedings of the Annual Conference of International Speech Communication Association, INTERSPEECH",
year="2023",
journal="Proceedings of Interspeech",
volume="2023",
number="8",
pages="4494--4498",
publisher="International Speech Communication Association",
address="Dublin",
doi="10.21437/Interspeech.2023-2449",
issn="1990-9772",
url="https://www.isca-archive.org/interspeech_2023/nigmatulina23_interspeech.html"
}