Apprentissage sur les liens latéraux

Lorsque l'on effectue un apprentissage sur les liens latéraux uniquement, les liens retour, initialisés à 0, restent inertes. Par conséquent, le signal qui se développe sur la couche dynamique est sans effet sur la couche primaire. L'activation des neurones de la couche primaire dépend donc uniquemement du motif d'entrée et des changements sur les liens latéraux. Tout se passe comme si l'apprentissage avait lieu sur un réseau récurrent unique, dont les poids sont initialisés à zéro.

Étant donné la nature du signal (au plus un seul neurone actif sur la couche à chaque instant), la stimulation du neurone $j$, puis du neurone $i$ entraîne le renforcement du lien $J_{ij}^{(1)}$ et celui-là seul. Si on stimule ultérieurement le neurone $j$, la valeur positive du lien tendra à favoriser l'activation du neurone $i$ au temps suivant. Si une chaîne d'inférences non ambiguë $(i_1, ..., i_L)$ est projetée sur la couche primaire pendant l'apprentissage, les liens correspondants sont renforcés. Après apprentissage, la stimulation du neurone $i_\ell$ favorise l'activation du neurone $i_{\ell+1}$, qui à son tour favorise l'activation de l'élément suivant, ainsi de suite jusqu'à $i_L$. S'il s'agit d'une séquence périodique $(i_1, ..., i_\tau)$, l'activation après apprentissage d'un seul élément de la séquence favorise l'activation en boucle de la séquence.

Bien sûr, la mise en place de telles chaînes d'activation dépend de la valeur des liens qui relient les neurones successifs. Si ces liens sont faibles, le signal est atténué à chaque relais et finit par disparaître. La valeur des liens après apprentissage conditionne donc la capacité à évoquer la totalité de la séquence apprise à partir d'un seul élément de la séquence. On suppose que le couple $(j,i)$ appartient à la séquence apprise, et donc que le lien $J_{ij}^{(11)}$ est non-nul après apprentissage. Supposons de plus qu'au cours de la dynamique, on a $x_j^{(1)}(t-1)=1$. On dira alors que le neurone $j$ est capable d'activer son successeur $i$ si le champ local $c_{ij}^{(11)}(t)=J_{ij}^{(11)}x_j^{(1)}(t-1)=J_{ij}^{(11)}$ dépasse le seuil $\theta_i^{(1)}$, soit $J_{ij}^{(11)}>\theta_i^{(1)}$. D'après les caractéristiques que l'on a fixées pour la couche primaire, les seuils sont tous égaux et valent $\bar{\theta}^{(1)}=0.5$. La valeur critique du lien est donc $J_{ij}^{(11)}=\bar{\theta}^{(1)}$. Lorsque cette valeur critique est dépassée sur plusieurs liens successifs, la stimulation d'un neurone de la séquence apprise permet d'activer les éléments suivants. La sortie de la fonction de transfert n'étant pas binaire, la valeur de l'activation est décroissante à chaque relais, mais reste significative pendant un certain temps. La couche primaire est capable, en quelque sorte, de s'auto-stimuler. La présentation d'un élément de la séquence permet d'activer les quelques neurones suivants.

Le fait d'avoir $J_{ij}^{(11)}>\bar{\theta}^{(1)}$ dépend à la fois du paramètre d'apprentissage $\alpha^{(11)}$, qui fixe l'amplitude de la modification à chaque passage, et de $n$, le nombre de passages de la séquence pendant l'apprentissage :

• Si on fixe $\alpha^{(11)}$, le nombre de passages critiques est de l'ordre de
  $$n_c^{(11)}\geq \frac{N^{(1)}\bar{\theta}^{(1)}}{\alpha^{(11)}}$$

• Si on fixe le nombre de passages, on a de même
  $$\alpha_c^{(11)}\geq \frac{N^{(1)}\bar{\theta}^{(1)}}{n^{(11)}}$$
  En particulier, si on souhaite fixer à 1 le nombre de passages, on doit avoir $\alpha^{(11)} \geq N^{(1)}\bar{\theta}^{(1)}$.

Pour un tel apprentissage ``express'', on doit avoir une valeur d' $\alpha^{(11)}$ très élevée, supérieure à 5 dans le cas où $N^{(1)}=10$ et $\bar{\theta}^{(1)}=0.5$. Cette valeur de $\alpha^{(11)}$ est largement supérieure à la valeur usuelle, qui est de l'ordre de 0.1. Une valeur faible est en effet nécessaire lorsque l'apprentissage porte sur un système dynamique où de nombreux neurones sont activés et où l'apprentissage nécessite des temps longs pour capter les régularités statistiques de la dynamique et les inscrire progressivement dans les poids synaptiques.

On a représenté sur la figure les résultats d'un apprentissage express sur les liens latéraux, après apprentissage de deux séquences de périodes 4 et 5, $s_4=(1,2,3,4)$, $s_5=(5,6,7,8,9)$, avec $\alpha^{(11)}=9$. On constate que la matrice des poids permet de reconstituer explicitement les deux circuits appris. La stimulation du neurone 1 (premier élément de la séquence $s_4$) produit une activation en chaîne, dont l'activité se maintient environ sur 5 pas de temps. La séquence $s_4$ est évoquée. La stimulation du neurone 5 (premier élément de la séquence $s_5$) produit une chaîne d'activation beaucoup plus durable, dans la mesure où les activations successives atteignent la valeur de saturation. La séquence $s_5$ est restituée.

Figure: Apprentissage express sur les liens latéraux. À gauche : matrice des liens latéraux après apprentissage. À gauche : comportement dynamique après stimulation du neurone 1 et après stimulation du neurone 5. Les séquences apprises sont $s_1=(1,2,3,4)$ et $s_2=(5,6,7,8,9,10)$. Représentation de Hinton. Paramètres : $g=8$, $N^{(1)}=10$, $\alpha=9$, $\bar{\theta}^{(1)}=0.5$.

L'apprentissage en ligne de séquences dans un modèle récurrent est une tâche facile, tant qu'il n'y a pas d'ambiguïté ni de recouvrement sur les séquences. L'apprentissage en ligne de séquences temporelles bute généralement sur les problèmes rencontrés avec les séquences ambiguës. Lever les ambiguïtés est l'une des fonctions de la couche dynamique, comme nous le verrons plus loin.

Dans le cas général d'un apprentissage sur tous les liens, les liens latéraux permettent de capter les enchaînements contenus dans le signal, et participent, en coordination avec les autres liens, à l'évocation ou à la restitution du signal appris.