Detail publikace
Multi-Channel Speech Separation with Cross-Attention and Beamforming
Plchot Oldřich, Ing., Ph.D. (UPGM)
Peng Junyi (UPGM)
Burget Lukáš, doc. Ing., Ph.D. (UPGM)
Černocký Jan, prof. Dr. Ing. (UPGM)
multi-channel source separation, cross-channel attention, beamforming
O původně jednokanálovou separaci zdroje začal být větší výzkumný zájem. Výsledkem byl obrovský pokrok. Vícekanálová
(MC) separace přichází s novými výzvami
neboť nepříznivé vnitřní podmínky, z ní činí důležitý obor zájmu.
Snažíme se spojit slibné myšlenky z těchto dvou světů.
Za prvé, stavíme MC modely rozšířením současné jednokanálové separace časových domén, které spoléhají na svou sílu. Náš přístup
umožňuje opětovné použití předem trénovaných modelů do nichž vložíme navržené
lehké referenční kanály s RCA pozorným slučovačem,
jediný vyškolený modul. Skládá se ze dvou bloků: první umožňuje
obsluhující různé části jiných kanálů w.r.t. odkaz
jeden a druhý poskytuje kombinaci založenou na pozornosti
kanály. Za druhé, stejně jako mnoho úspěšných modelů MC, náš systém
obsahuje beamforming a umožňuje fúzi sítě
a výstupy beamformeru. Srovnáváme náš přístup s
SOTA modely na datové sadě SMS-WSJ a ukazují lépe popř
podobný výkon.
@inproceedings{BUT185571,
author="Ladislav {Mošner} and Oldřich {Plchot} and Junyi {Peng} and Lukáš {Burget} and Jan {Černocký}",
title="Multi-Channel Speech Separation with Cross-Attention and Beamforming",
booktitle="Proceedings of the Annual Conference of the International Speech Communication Association, INTERSPEECH",
year="2023",
journal="Proceedings of Interspeech",
volume="2023",
number="08",
pages="1693--1697",
publisher="International Speech Communication Association",
address="Dublin",
doi="10.21437/Interspeech.2023-2537",
issn="1990-9772",
url="https://www.isca-speech.org/archive/interspeech_2023/mosner23_interspeech.html"
}