Motifs dynamiques : apprentissage en ligne d'une séquence

Le terme ``apprentissage en ligne'' signifie que l'on n'a pas de connaissance a priori sur la ou les séquences à apprendre. Cette précision est importante dans la mesure où il existe dans la littérature de nombreux travaux traitant du stockage explicite de séquences dans des réseaux récurrents (voir page ).

Dans notre cas, il existe donc au préalable une matrice des poids aléatoire $J$, et l'apprentissage ne vise pas à reproduire explicitement les caractéristiques spatiales de la séquence à apprendre.

La figure 4.11 présente un apprentissage effectué sur un réseau stimulé par une séquence de période 3. La période initiale en dynamique spontanée vaut $\tau \simeq 4,4$. Les motifs sont définis avec $\bar{I}=0$, $\sigma _I=0.2$. La séquence $I(t)$ de période $\tau _I=3$ est présentée en boucle, et l'apprentissage est effectué sur la dynamique contrainte. Après 300 pas d'apprentissage, avec $\alpha =0.1$, la dynamique contrainte est devenue strictement périodique de période 3. Lorsque l'on retire le motif temporel, la dynamique spontanée reproduit les caractéristiques de la dynamique contrainte. Il s'agit là d'une persistance forte de la dynamique associée au signal appris, qui se maintient sur la dynamique spontanée. La période en dynamique spontanée est strictement égale à 3, et la corrélation moyenne entre les signaux d'activation contraints et spontanés cor$(x^{(\mbox{\tiny {spon}})}(t),x^{(\mbox{\tiny {contr}})}(t))=0,79$. (Après un test sur la phase, la corrélation est calculée entre chaque signal $x_i(t)$ et le signal d'activation de référence de même indice, et la moyenne est faite sur toutes ces corrélations).

Figure 4.11: Apprentissage d'une séquence de période 3. Evolution du signal moyen $m_N(t)$. Les 300 premiers pas de temps donnent la dynamique spontanée (chaotique). Les 300 pas de temps suivants donnent la dynamique contrainte par le motif temporel (regime chaotique). La règle d'apprentissage est itérée de $t=600$ à $t=900$. L'apprentissage conduit à un régime périodique. Après apprentissage, la dynamique spontanée (sans stimulation) est également périodique de période 3. La figure de droite présente les 2 attracteurs périodiques de la dynamique contrainte et de la dynamique spontanée après apprentissage. Paramètres : $N=200$, $g=6$, $\alpha =0.1$, $\tau _I=3$, $\bar{I}=0$, $\sigma _I=0.2$, $\bar{\theta}=0.4$, $\sigma _\theta =0.3$, $\bar{J}=0$, $\sigma _J=1$.

Ainsi, l'apprentisage inscrit dans les poids synaptiques les caractéristiques spatiales et temporelles de la dynamique contrainte. L'apprentissage permet de coder le signal perçu en imitant les configurations spatiale et dynamique produites par ce signal. L'information contenue dans le signal s'inscrit explicitement dans la dynamique.

La contrepartie immédiate est que cet apprentissage ne peut être effectué qu'une seule fois, pour une seule séquence. Il possède un caractère définitif. Il est donc intéressant de voir comment associer motif statique et motif dynamique au sein d'un même réseau, afin d'inscrire plusieurs séquences qui puissent être déclenchées par le motif statique associé.

On a vu que l'apprentissage permet  :

• d'associer à plusieurs motifs statiques appris une activité dynamique de grande amplitude et plus régulière que la dynamique initiale.
• d'inscrire dans la dynamique spontanée du réseau les caractéristiques de la dynamique contrainte par un motif temporel.

L'étape suivante consiste à associer à chaque de motif statique appris une activité dynamique (ou une période) imposée par un motif dynamique. L'apprentissage s'effectue donc sous la contrainte de deux motifs, l'un statique et l'autre dynamique, présentés simultanément pendant la période d'apprentissage.