Detail publikace
DESCNet: Developing Efficient Scratchpad Memories for Capsule Network Hardware
Mrázek Vojtěch, Ing., Ph.D. (UPSY FIT VUT)
Hanif Muhammad A. (TU-Wien)
Shafique Muhammad (TU-Wien)
Hluboké neuronové sítě (DNN) patří mezi nejmodernější metody pro pokročilé aplikace strojového učení. Kapsulové sítě (CapsNets), které nedávno navrhl tým Google Brain, zlepšily schopnost zobecnění ve srovnání s DNN díky jejich vícerozměrným kapsulím a zachování prostorového vztahu mezi různými objekty. Mají však výrazně vyšší výpočetní a paměťové požadavky, což činí z jejich energeticky účinné inference náročný úkol. Tento článek poprvé poskytuje detailní analýzu, která se zaměřuje na problematiku v oblasti designu a aplikace pamětí nasazených v hardwarových akcelerátorech provádějících rychlou inferenci CapsNets. Abychom umožnili efektivní návrh, navrhujeme architekturu paměti specifickou pro aplikaci, nazývanou DESCNet, která minimalizuje přístupy do paměti mimo čip a zároveň efektivně přivádí data do akcelerátoru. Analyzujeme odpovídající požadavky na paměť na čipu a navrhujeme metodiku pro prozkoumání různých konfigurací paměti a požadované plochy na čipu a energie. Abychom dále snížili spotřebu energie, využíváme v závislosti na mapované architektuře CapsNet i techniku power-gatingu.
@ARTICLE{FITPUB12365, author = "Alberto Marchisio and Vojt\v{e}ch Mr\'{a}zek and A. Muhammad Hanif and Muhammad Shafique", title = "DESCNet: Developing Efficient Scratchpad Memories for Capsule Network Hardware", pages = "1768--1781", journal = "IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems", volume = 40, number = 9, year = 2021, ISSN = "1937-4151", doi = "10.1109/TCAD.2020.3030610", language = "english", url = "https://www.fit.vut.cz/research/publication/12365" }