Impact Du Choix Des Fonctions D’activation Sur Les Performances De Divers Modèles CNN Pour Classifications D’images

Abstract

Dans le cadre de cette étude, nous explorons l'influence des différentes fonctions d'activation sur les performances des réseaux de neurones convolutionnels (CNN) appliqués à la classification d'images. Les CNN sont largement utilisés en vision par ordinateur en raison de leur capacité à extraire automatiquement des caractéristiques hiérarchiques à partir des données d'images. Cependant, le choix de la fonction d'activation peut avoir un impact significatif sur l'efficacité du modèle. Nous avons évalué les performances de l’un des modèles CNN populaire, nomé ResNet18, en utilisant différentes fonctions d'activation telles que ReLU, Sigmoid, Tanh, et Swish, etc…. Les expérimentations ont été menées sur des ensembles de données d'images variées, incluant MNIST, Fashion-MNIST, et SVHN (Street View House Numbers) Dataset, pour garantir une évaluation complète. Les résultats montrent que certaines fonctions d'activation, comme Swish, LeakyReLU, Mish, ELU, Softplus, Gelu, offrent des performances supérieures en termes de précision de classification, en particulier pour les modèles plus profonds et complexes. En revanche, les fonctions d'activation telles que Tanh, ELU, Softsign ont tendance à causer des problèmes de gradient vanishing, ce qui peut limiter l'apprentissage des modèles profonds. Cette étude met en évidence l'importance du choix approprié des fonctions d'activation pour optimiser les performances des CNN dans les tâches de classification d'images. Elle fournit également des recommandations pratiques pour les chercheurs et les ingénieurs dans le développement de modèles CNN efficaces.