Detail práce
Prořezávání hlubokých neuronových sítí pro rozpoznávání textu
Dokument predstavuje prácu na prerezávanie neurónovej siete slúžiacej na rozpoznávanie ručne písaného textu. Cieľom práce je vytvoriť program na prerezávanie danej siete. Prerezávali sme dva typy neurónových sieti a to konvolučné a rekurentné neurónové siete. Pri prerezávaní konvolučnej časti bolo experimentované s rôznymi kritériami výberu parametrov. Výsledkom práce je model, ktorý dosahuje 20% zrýchlenie pri znížení presnosti siete iba o 0.4%, ale aj množstvo iných modelov, ktoré sú rýchlejšie ale nadobúdajú aj vyššej nepresnosti.
Neurónové siete, CNN, RNN, Pytorch, OCR, prerezávanie
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm C.
-
Při prořezávání se jde od začátku sítě? Statistiky pro prořezání filtrů (L1, L2, std) se počítají i z kanálů filtru, které již byly prořezané v předchozí vrstvě?
-
Jak je důležité L1, L2, std, když na výstupy konvolučních vrstev jsou aplikovány normalizační vrstvy, které můžou každý kanál libovolně škálovat?
-
Jaké je vaše vysvětlení nízké úspěšnosti sítí s prořezanými rekurentními vrstvami? Jak jsou v modelu tyto čtyři vrstvy propojené? Respektujete toto propojení při prořezávání?
Burget Lukáš, doc. Ing., Ph.D. (UPGM FIT VUT), člen
Holík Lukáš, doc. Mgr., Ph.D. (UITS FIT VUT), člen
Martínek Tomáš, doc. Ing., Ph.D. (UPSY FIT VUT), člen
Matoušek Petr, doc. Ing., Ph.D., M.A. (UIFS FIT VUT), člen
@bachelorsthesis{FITBT24873, author = "Simon Petr\'{a}\v{s}", type = "Bakal\'{a}\v{r}sk\'{a} pr\'{a}ce", title = "Pro\v{r}ez\'{a}v\'{a}n\'{i} hlubok\'{y}ch neuronov\'{y}ch s\'{i}t\'{i} pro rozpozn\'{a}v\'{a}n\'{i} textu", school = "Vysok\'{e} u\v{c}en\'{i} technick\'{e} v Brn\v{e}, Fakulta informa\v{c}n\'{i}ch technologi\'{i}", year = 2022, location = "Brno, CZ", language = "czech", url = "https://www.fit.vut.cz/study/thesis/24873/" }