Qu'est-ce qu'un réseau de neurones en Deep Learning

Ces termes sont pourtant basés sur des principes fondamentaux accessibles à tous. Cet article s'intéresse aux réseaux de neurones et à leur usage dans le Deep Learning et en Data Science.

Réseaux de neurones : définition

Un réseau de neurones, encore connu sous le nom de réseau neuronal artificiel (artificial neural network en anglais) est une imitation algorithmique des fonctions du cerveau humain.

Ces algorithmes sont utilisés pour la résolution de diverses problématiques d'apprentissage de la machine ou Machine Learning. Ils sont beaucoup plus performants dans cet exercice que les techniques de régressions classiques.

Les réseaux de neurones artificiels ont la capacité de comprendre des ensembles de données complexes et de les traiter de façon autonome selon l'entraînement qu'ils ont reçu. Tout comme les neurones biologiques, ils reçoivent des signaux (données) d'entrée, procèdent à leur traitement (un ensemble de calculs) et produisent des signaux (données) de sortie. Une fois qu'ils sont correctement entraînés, les réseaux de neurones artificiels peuvent apprendre d'eux-mêmes et se mettre à jour en permanence afin de fournir des données de sortie de plus en plus précises. C'est l'un des concepts de base que doivent maîtriser les personnes qui souhaitent suivre une formation Deep Learning pour devenir un Data Analyst ou Data Scientist complet.

‍

‍

Comment se compose un réseau de neurones ?

Un réseau de neurones est composé de trois principaux éléments, détaillés ci-dessous.

Les neurones

Dans un réseau, le neurone est une unité qui reçoit l'information, procède à des calculs simples, et la transmet à une autre unité. On distingue trois types de neurones dans un réseau artificiel :

• Les neurones d'entrées qui reçoivent les données du monde extérieur ;
• Les neurones de traitement ;
• Les neurones de sorties.

Ils composent respectivement la couche d'entrée (input layer), la couche cachée (hidden layer) et la couche de sortie (output layer). Dans la pratique, un réseau de neurones peut avoir une multitude de couches à chaque niveau : entrée, traitement, sortie… On parlera alors de Deep Learning.

Les poids et biais

Les connexions entre neurones (biologiquement appelés synapses) dans un réseau artificiel ne sont pas équivalentes. Chaque connexion a en effet un poids spécifique (weight en anglais) qui influence la transmission de l'information d'une unité à une autre. Les informations provenant d'une synapse avec un poids important seront ainsi dominantes à l'entrée du neurone suivant, comparativement à celles provenant de connexions à poids faible. Ces dernières ne sont cependant pas ignorées lors du traitement de l'information. Les poids sont mis à jour de façon continue par les réseaux de neurones artificiels pour améliorer la précision des outputs. Ce sont en réalité des valeurs d'auto-apprentissage.

Dans le même ordre d'idées, les biais sont des paramètres additionnels utilisés dans les réseaux de neurones pour ajuster les valeurs d'entrées auxquelles les poids ont été appliqués, avant l'obtention de valeurs de sorties définitives. Elles influencent le comportement de la fonction d'activation.

La fonction d'activation

Formule mathématique, la fonction d'activation permet à chaque neurone de lisser ou de normaliser les données d'entrée qu'elle reçoit avant de les transmettre ou non. Cette fonction s'active lorsque la valeur calculée atteint le seuil requis fixé.

Dans le cas contraire, elle ne s'active pas, et aucune donnée n'est transmise, exactement comme c'est le cas avec les neurones biologiques. Les fonctions d'activation occupent une place importante dans le processus d'apprentissage et d'amélioration continue des neurones artificiels.

Plusieurs fonctions d'activation peuvent être présentes dans un réseau de neurones comme la fonction sigmoïde, l'unité linéaire rectifiée (ReLu), souvent utilisée dans les couches cachées, la fonction Softmax, utilisée dans la couche de sortie, et la fonction de tangente hyperbolique tanh(x).

‍

Comment fonctionne un réseau de neurones ?

Le fonctionnement d'un réseau de neurones repose sur trois étapes essentielles. Premièrement, chaque neurone d'une couche reçoit une valeur d'entrée qui a été préalablement multipliée par le poids de la connexion qu'elle entretient avec les neurones précédents. Ensuite, au niveau de chaque couche, une pondération s'effectue et le biais est ajouté. La fonction d'activation est enfin appliquée sur cette valeur pour le calcul des données qui vont être transmises aux neurones suivants.

La transmission ne se fait que lorsque la fonction d'activation est déclenchée.

Où utiliser le réseau de neurones ?

Les réseaux de neurones peuvent être utiles afin de résoudre de nombreuses problématiques qui font intervenir des données : images, vidéos, bases de données… Puisque leur mode de fonctionnement est basé sur une approche généralisée très efficace pour la résolution de problèmes, il n'y a théoriquement aucune limite à leur utilisation. L'usage de ces algorithmes est déjà très développé actuellement dans la sécurité, avec les technologies de reconnaissance faciale, l'automobile, avec la conduite automatisée (ou conduite sans chauffeur) ou encore la médecine (diagnostics médicaux et recherches sur le Cancer).

‍

‍

Quels sont les différents réseaux de neurones ?

Les réseaux de neurones artificiels peuvent être classifiés en 4 grandes familles.

Les réseaux de neurones feed-forwarded

Dans une architecture de type feed-forwarded, l'information est propagée uniquement vers l'avant et ne retourne pas en arrière. Cette famille de réseaux neuronaux comprend à son tour deux catégories de neural networks : le perceptron simple et le perceptron multicouches.

Le perceptron simple est un neural network qui ne possède que deux couches de neurones : une couche en entrée et une couche de sortie. Les deux couches sont directement reliées entre elles, ce qui fait que le réseau ne possède qu'une seule matrice de poids. Ce type d'algorithme n'est utile que pour la classification linéaire d'un ensemble d'informations en deux catégories distinctes.

Le perceptron multicouche quant à lui possède entre la couche d'entrée et celle de sortie une ou plusieurs couches cachées. Il intègre plusieurs matrices de poids, ce qui en fait l'algorithme le plus adapté pour le traitement des fonctions non linéaires.

Il est possible, pour le traitement de données très complexes, de créer des neural networks distincts qui vont traiter chacun une partie de l'information. On parle dans ce cas de Convolutional neural networks ou « réseaux neuronaux convolutifs », comme le VGG.

Enfin, les réseaux de neurones entièrement connectés FCNN sont la base de nombreux algorithmes du Deep learning.

Les réseaux de neurones à résonance

Dans un réseau de neurones à résonance, l'activation d'un neurone est renvoyée à tous les autres neurones, ce qui provoque des oscillations. Cette architecture peut se présenter sous diverses formes, avec un niveau de complexité élevé.

Les réseaux de neurones récurrents

Les réseaux neuronaux récurrents procèdent à un traitement en cycle de l'information. Les données peuvent être véhiculées à la fois en propagation en avant et en rétropropagation. Cette architecture permet aux algorithmes de prendre en compte des informations contextuelles à chaque récurrence de traitement d'une même information. Le réseau s'autoentretient ainsi. Il existe des réseaux neuronaux récurrents à une couche et d'autres à plusieurs couches. L'un des modèles monocouches les plus connus est le modèle de Hopfield.

Les réseaux de neurones autoorganisés

Les réseaux de neurones autoorganisés sont exploités pour le traitement d'informations spatiales. Elles sont en mesure d'étudier la répartition de larges plages de données afin d'apporter une solution à des problématiques de classification. Les cartes auto-organisatrice de Kohonen sont les modèles de réseaux de neurones artificiels autoorganisés les plus connus.

‍

En quoi sont-ils utiles en Data Science ?

En science des données, les réseaux de neurones ont beaucoup d'utilité. Leur utilisation est ainsi fondamentale dans les exemples suivants.

Classification

L'une des tâches dans lesquelles les réseaux de neurones sont les plus performants est la classification. Pour cela, ils utilisent un ensemble de données préalablement étiqueté afin de résoudre rapidement des problèmes complexes. C'est l'apprentissage supervisé. Concrètement, un réseau de neurones peut par exemple identifier des motifs dans une série de photos et y appliquer des étiquettes qui lui ont été préalablement fournies. Le Data Scientist n'a pas besoin de faire une programmation du réseau neuronal avec des caractéristiques qui vont permettre de distinguer des éléments visuels. L'algorithme est en mesure de distinguer les caractéristiques les plus importantes de façon autonome avec les étiquettes dont il dispose.

C'est grâce à cette capacité que les réseaux de neurones sont souvent utilisés pour :

• Identifier des personnes sur des images ;
• Identifier des émotions sur un visage ;
• Identifier des gestes dans une vidéo ;
• Détecter des voix et identifier les intervenants ;
• Transcrire des discours en texte ;
• Classifier des mails en tant que spams ou identifier le ressenti d'une personne à partir d'une note écrite par elle (un avis client par exemple)…

En effet, les réseaux neuronaux sont bien souvent présents dans l'architecture de nombreux outils utilisés au quotidien.

Regroupement

Les réseaux neuronaux excellent également dans les tâches de regroupement en vue de la détection de similitudes ou de disparités. Aucun étiquetage préalable n'est nécessaire dans ce cas précis. C'est l'apprentissage non supervisé. Les algorithmes sont en mesure d'analyser des milliards de points de données et de les regrouper en fonction des éléments qu'ils ont en commun. Plus les données fournies aux réseaux de neurones sont nombreuses, plus ils se perfectionnent par autoapprentissage. C'est ainsi qu'un neural network peut permettre de faire une recherche dans un index de documents ou d'image pour faire ressortir les fichiers similaires.

Cette capacité de regroupement que possèdent les réseaux de neurones artificiels est également utile dans le domaine de la détection de la fraude. L'identification de caractéristiques ou d'éléments inhabituels dans un ensemble de données permet d'isoler des documents falsifiés ou des comportements anormaux par exemple.

Analyse prédictive

Lors de la classification, les réseaux de neurones sont en effet capables d'associer par exemple un point statique d'une image (un pixel) au nom d'une personne ou d'un animal. Cela peut être considéré comme une prédiction statique, car l'identification ne changera pas avec le temps. Sur la même base, les réseaux de neurones peuvent également établir des corrélations entre des évènements présents et futurs lorsqu'ils sont exposés à une quantité suffisante de données.

Par exemple, les neural networks peuvent se baser sur une chaîne de nombres existante afin de prédire le nombre qui sera le suivant sur la liste. Le même principe est applicable pour des situations bien plus complexes, telles que le moment où une pièce mécanique tombera en panne ou encore la prévision d'une crise cardiaque sur la base de données vitales…

Quels sont les cas d'usage d'un réseau de neurones ?

L'utilité des réseaux de neurones n'est pas la même pour toutes les parties constituantes de l'intelligence artificielle.

‍

Deep Learning

Le Deep Learning tient en réalité son nom du nombre de couches de neurones artificiels à partir duquel il fonctionne. Le mot « deep » fait allusion à un apprentissage profond qui n'est possible qu'avec plusieurs couches (layers) de neurones. Le Deep Learning se rapproche ainsi plus du fonctionnement réel du cerveau humain. Les valeurs d'entrées d'un réseau neuronal multicouches ne sont pas catégorisées (ou structurées) au préalable.

L'algorithme identifie lui-même à partir d'une mine de données brutes les solutions optimales et les utilise dans son processus d'apprentissage. C'est donc en Deep Learning qu'il est possible de réaliser les tâches de regroupement (détection de fraude, recherche avancée…) et bien d'autres tâches très complexes avec les réseaux de neurones… Il est d'ailleurs possible d'effectuer une formation en Deep Learning pour mieux comprendre la définition du réseau de neurones.

Machine Learning

Même s'ils n'ont pas besoin d'une programmation spécifique pour fonctionner, les algorithmes de Machine Learning n'apprennent qu'à partir de données structurées ou étiquettes au préalable. C'est d'ailleurs ce qui différencie le Machine Learning. Dans ce dernier, les réseaux neuronaux servent essentiellement à identifier des modèles dans des données structurées existantes, afin de les appliquer à des situations similaires futures. Ils ne peuvent donc pas exécuter certaines actions complexes.

Comment peut-on se former au Deep Learning ?

Le Deep Learning est aujourd'hui un passage obligatoire pour tout Data Scientist qui souhaite rester compétitif dans son domaine. En effet, cette compétence est de plus en plus demandée par les entreprises qui ont besoin d'implémenter des outils performants de traitement automatisé des données.

Il est possible de se former via des programmes de formations à distances spécialisés qui intègrent un module de Deep Learning d'environ 40 heures dans leur offre de formation de Data Scientist. L'apprentissage de certains outils tels que le Tensorflow est le plus souvent inclus dans ces formations théoriques et pratiques. Il existe également actuellement des masters Deep Learning pour ceux qui ont une licence en informatique ou en statistique. Les Data Scientists qui exercent déjà peuvent quant à eux se former à ce concept grâce aux nombreux MOOC et livres accessibles en ligne. Afin de mieux connaître le réseau de neurones, la formation en Deep Learning reste toutefois un passage recommandé.