Compression de modèles de deep learning#
Les modèles de deep learning sont très gros. 500 Mo n’est plus aberrant. Si l’apprentissage est réalisé sur des machines ou des fermes de machines importantes, il est difficile d’avoir accès à la même puissance pour la prédiction.
Lectures
A Survey of Model Compression and Acceleration for Deep Neural Networks
Learning both Weights and Connections for Efficient Neural Networks
Deep Gradient Compression Reducing the Communication Bandwith for Distributed Training
Compressing Deep Convolutional Networks using Vector Quantization
ThiNet: AFilterLevelPruningMethodforDeepNeuralNetworkCompression
Modèles
Code
Modules