MDGNet: a light-weight, hardware-compliant Convolutional Neural Network for efficient image inference tasks
Résumé
Designing hardware-compliant deep neural networks is ubiquitous to favor low-power but accurate embedded inference. In this paper, we introduce a compact convolutional network architecture, namely MDGNet, dedicated to classification tasks. MDGNet relies on depth-wise convolutions combined with a cascade of group convolutions to promote light-weight feature processing blocks. On the other hand, a Mux-skip connection (presented in a previous work) is used to fuse these components together in a hardware-compliant manner, compatible with a quantization of the model. Experimental results on two different datasets (STL-10, CelebA) demonstrate that our model allows higher performance at lower model size and computational complexity
compared to prior works.
La conception des réseaux de neurones dédiée à des architectures micro-électroniques frugales est désormais primordiale pour limiter le coût des algorithmes d’inférence implémentés au sein de systèmes embarqués. Dans cet article, nous proposons un modèle de réseau compact, MDGNet, dédié à la classification d’images. Pour obtenir ce modèle compressé, MDGNet s’appuie sur une combinaison d’éléments de factorisation tels que les convolutions séparables et convolutions par groupe. Par ailleurs, ce modèle tire profit d’interconnexions réalisées à l’aide d’un Multiplexeur contrôlé dynamiquement et permettant une forte compatibilité avec une approche de co-conception matérielle impliquant une forte quantification, comme reporté dans cet article. Les résultats expérimentaux sur deux bases de données (STL-10, CelebA) démontrent une excellente performance de cette approche, pour un coût en mémoire et complexité de calculs réduits.
Domaines
Sciences de l'ingénieur [physics]
Origine : Fichiers produits par l'(les) auteur(s)