Typologie

On peut distinguer deux grands types de règles d'apprentissage :

• Règles locales : La modification des poids synaptiques s'effectue selon la nature des interactions entre neurones deux à deux. La plus connue est la règle de Hebb [12] qui fonde le renforcement synaptique sur la co-occurrence de l'activation pré et post-synaptique.

  Formellement, la modification synaptique est une fonction du produit des activations pré et post-synaptiques $x_i(t)x_j(t-\tau)$ où $\tau$ représente le délai de transmission (ce délai est souvent omis dans la littérature).

  Une règle comparable, proposée par Sejnowski [55], repose non sur le produit des activations, mais sur la covariance. Cette règle introduit ainsi la possibilité d'une dépression synaptique en cas de covariance négative. La modification synaptique est alors une fonction du produit $(x_i(t)-\bar{x}_i)(x_j(t-\tau)-\bar{x}_j)$. Là encore, le délai $\tau$ que j'introduis n'était pas présent dans la règle initiale.

  La règle de Hebb est souvent implémentée dans le cadre de modèles récurrents inspirés du modèle de Hopfield. Par ailleurs, du fait de sa plausibilité biologique (voir page ), elle est souvent présente dans les modèles dont la vocation est de simuler les processus neurobiologiques [53].

• Règles globales : Ces règles ont prouvé leur efficacité dans les domaines d'applications des réseaux de neurones. Elles prennent en compte des caractéristiques globales de la configuration d'activation du réseau ; la modification des poids repose sur une information (comparaison des états des voisins, comparaison avec une sortie idéale) à laquelle le neurone n'a pas accès localement. De ce fait, les règles globales sont moins plausibles biologiquement parlant. Parmi ces règles, on peut distinguer
  • Apprentissage par compétition (competitive learning). La désignation d'un neurone gagnant impose les modifications synaptiques (winner take all). Cette règle peut trouver sa justification biologique dans un modèle à plus proche voisin possédant des connexions latérales inhibitrices, auquel cas le neurone activé en premier inhibe ses voisins les plus proches.
  • Apprentissage supervisé et rétropropagation. Cette règle d'apprentissage, utilisée essentiellement dans le cadre des modèles de type perceptron et RBF, consiste à comparer la sortie produite par le réseau à la sortie souhaitée, ce qui détermine le terme d'erreur. Le terme d'erreur est ensuite propagé dans le sens inverse de l'activation et sert à déterminer pour chaque couche intermédiaire l'orientation de la modification synaptique. Cette règle est très peu plausible biologiquement, mais a néanmoins permis d'obtenir un grand nombre de résultats dans les domaines d'application des réseaux de neurones.

Les conditions de convergence des algorithmes de rétropropagation et leurs dérivés vers la réponse optimale commencent à être bien connues, et de nombreux outils statistiques [39] existent pour assurer de bonnes conditions de convergence. Un des enjeux concernant l'apprentissage repose sur la possibilité d'associer dans un même processus la phase d'apprentissage et la phase d'utilisation, c'est à dire de mettre en place des systèmes qui apprennent tout en découvrant leur environnement. Ces formes d'apprentissage ``en prise directe'' (on line) sont par exemple mis en uvre dans le cadre d'algorithmes stochastiques inspirés de la programmation dynamique et des processus de Markov [56], et peuvent être étendus à des modèles neuronaux dans le cadre d'un apprentissage Hebbien [57]. Il existe également des modèles récurrents qui évaluent en temps réel l'erreur commise, ce qui permet de mettre en uvre la méthode de rétropropagation [58], et de proposer une alternative aux algorithmes d'approximation stochastique de type filtre de Kalman.