La complexité du réseau constitué par les neurones du cerveau humain est gigantesque et dépasse de très loin toute simulation informatique envisageable. Le cerveau est constitué d'environ 100 milliards de neurones connectés chacun en moyenne à 10.000 partenaires.
Il apparaît presque impossible d'estimer la quantité d'information contenue dans le cerveau, mais celle-ci semble de très loin supérieure à celle contenue dans le code génétique. Toute l'information sur les connexions n'est donc pas présente dans le code. Il est alors probable, comme discuté dans [15] et [16], que le schéma de connectivité fine dans le cerveau de l'embryon soit essentiellement aléatoire.
C'est donc l'ensemble des règles d'adaptation qui permet de construire petit à petit l'intelligence. Cette hypothèse nourrit bien sûr les espoirs de toute personne qui se penche sur la conception de réseaux de neurones artificiels, si l'on pense que l'intelligence se construit en grande partie par les interactions de l'individu avec son environnement. La difficulté consiste à trouver la bonne règle d'apprentissage, qui permette à la ``machine à apprendre'' de construire son intelligence à travers son expérience.