Apprentissage de séquences

Dans cette partie, on évalue la capacité du système à apprendre des séquences prédéfinies. Pour une séquence donnée, l'apprentissage est effectué sur un grand nombre de réseaux afin de déterminer un comportement générique pendant l'apprentissage.

On se concentre essentiellement sur l'aspect temporel de l'information à apprendre, puisque à chaque instant un seul neurone de la couche primaire est stimulé. Ces résultats peuvent cependant être très facilement généralisés à des séquences de motifs orthogonaux, c'est à dire dont le recouvrement peut être considéré comme négligeable (par exemple, des motifs aléatoires avec $f^{(1)}=10^{-2}$, en supposant la taille de la couche primaire bien supérieure, de l'ordre de $N^{(1)}=10000$ ; la probabilité pour que deux motifs aient des points en commun est alors faible).