Le système des ganglions de la base, identifié tardivement, a présenté des problèmes y compris de nomenclature. Le terme de « base » vient du fait que la plupart des éléments sont situés à la base de l'hémisphère (mais le « noyau basal de Meynert » par exemple n'en fait pas partie). Le terme de ganglion n'a jamais été adéquat pour un élément du système nerveux central. Les Terminologia anatomica (1998), seule référence internationale en matière de nomenclature, ont retenu le nom de « nuclei basales », qui n'est utilisé par personne. L'International Basal Ganglia Society (IBAGS) n'a jamais statué formellement mais considère de manière pragmatique comme ganglion de la base, le striatum (noyau caudé et putamen), le pallidum (interne et externe), la substantia nigra (pars compacta et pars reticulata) et le noyau sous-thalamique + le noyau accumbens septi et les tubercules olfactifs formant, tous deux, le striatum ventral. Y sont parfois associés les noyaux thalamiques intra-laminaires (centro-median et parafasciculaire) (Percheron et al. 1991, Parent and Parent, 2005) et le noyau pedunculopontin (Mena-Segovia et al. 2004).
1. Circuit direct:
Cortex cérébral - striatum- pallidum interne/substance noire (pars reticularis)- thalamus- cortex cérébral
2. Circuit indirect:
Cortex cérébral - striatum- pallidum externe - noyau sousthalamique- pallidum /substance noire (pars reticularis)- thalamus- cortex cérébral
La neuromorphologie quantitative (et typologique) étendue (Yelnik et al. 1987) a établi que le striatum du primate est composé de quatre (et seulement quatre) genera neuronaux: les neurones épineux (« spiny ») (96%) et trois autres, les neurones leptodendritiques (2%), arachniformes (« spidery ») (1%) et les microneurones (1%). Les arborisations dendritiques des neurones épineux sont sphériques, sauf si elles sont près d'un bord. Leur diamètre dépend de l'espèce animale considérée. Les épines, abondantes, sont du même type que celles de deux autres genera acanthodendritiques (acanthos signifiant épine) de deux autres régions télencéphaliques acanthodendritiques (les neurones pyramidaux du cortex cérébral et les neurones épineux de l'amygdale). La plupart des épines du striatum font synapses avec des afférences corticales. L'activité spontanée des neurones épineux est, de manière surprenante, « basse ou absente » (DeLong, 1980). Les neurones épineux sont en fait activés par les stimulations corticales. Dans le striatum sensorimoteur, ils répondent aux mouvements. Les axones des neurones épineux (comme les neurones pyramidaux) ont des branches collatérales initiales abondantes et denses (d'une étendue proche de celle de l'arborisation dendritique) qui sont capables d'agir rapidement sur les neurones environnants (Czubayko and Plenz, 2002), ce qui veut dire que les neurons striataux peuvent agir par groupes. La partie longue de l'axone est myélinisée. Les neurones épineux sont GABAergiques et établissent le premier lien d'un 2-chemin inhibiteur si particulier au système.
Les neurones leptodendritiques (ou de Deiters), se colorent fortement pour la parvalbumine et ont toutes les caractéristiques des neurones pallidaux. Les neurones arachnifomes sont spécifiques aux primates. Ils ont un gros soma et des arborisations dendritiques et axonales denses mais de faible étendue. Ce sont les neurones cholinergiques du primate. Leur dimensions et distribution ne leur permettent pas de couvrir la totalité du volume striatal (Yelnik et al 1987). Ceci doit rendre les comparaisons physiopathologiques entre espèces particulièrement prudentes. Ils forment les « tonically active neurons » or TANs (Kimura et al. 2003). Ils constituent par ailleurs un ensemble de pacemakers lents (Surmeier et al. 2005) dont l'activité est liée à la récompense. Leur faibles nombre et distribution n'en font donc pas des éléments accessoires pour autant. Les microneurons sont des neurones de circuiterie locale semblable à ceux que l'ont trouve dans le thalamus par exemple. Ils sont GABAergiques et pour certains dopaminergiques (Cossette et al.2005).
Il y a plusieurs niveaux d'organisation du thalamus. La forte séparation du striatum réalisée par la capsule interne crée la subdivision anatomique traditionnelle entre putamen, caudé et fundus. En fait le striatum est une masse neuronale fendue mais continue, de topologie torique. Les subdivisions classiques ne correspondent pas exactement aux subdivisions fonctionnelles admises chez le primate. Celles-ci correspondent d'avantage aux territoires corticostriés. Les terminaisons axonales de la région centrale du cortex (Bailey et von Bonin, 1941) comprenant le cortex moteur, prémoteur, la SMA, l'aire somesthesique primaire et le cortex pariétal antérieur forment le territoire sensorimoteur, ou, en court, le striatum sensorimoteur. Il est essentiellement putaminal mais ne comprend pas tout le putamen. Il s'étend par contre dans les franges striatales et au bord latéral du caudé (Percheron 1984 d'après Künzle 1975 et autres). Il est organisé de manière somatotopique grossière avec trois bandes obliques pour le membre supérieur superolatéralement, le membre inférieur et la face, ventromédialement.
À ce territoire sensorimoteur s'oppose le territoire dit « associatif », réalisé par les cortex frontal, pariétal, préoccipital et temporal et, à souligner, le cortex oculomoteur. Ce territoire est essentiellement caudé mais sans couvrir la totalité du noyau. La séparation entre les deux territoires peut en certains endroits être nette et révélable par la coloration immunochimique de la calbindine (le sensorimoteur est négatif) (François et al.). L'isolement d'un troisième élément, souvent qualifié de "limbique", est plus difficile. La qualification de limbique est déjà problématique (voir système limbique). Il n'y a pas de frontière nette avec le territoire associatif. Une partie seulement du fundus classique représente une entité (phylogénétiquement régressive), le nucleus accumbens (en fait une pars ayant une constitution de base identique à celle du reste du striatum et non un noyau). Le striatum accumbens (d'« accumbens septi » reposant contre le septum) a quelques propriétés histoimmunologiques particulières. Sa caractéristique essentielle est de recevoir des axons du subiculum (de l'hippocampe). Il existe une littérature considérable, non exempte d'idéologie, sur une sous partie « limbique » du striatum et du système des ganglions de la base. On se doit d'être très prudent dans un terrain peu respectueux des différences phylogénétiques et d'a priori philosophiques (passion contre raison). Dans le striatum accumbens, on oppose une coque (« shell ») à un cœur («core). Chez le primate, ils sont de petite taille (Brauer et al. 2000) par rapport aux autres parties striatales.
Un autre niveau d'organisation est une opposition entre la matrice et les striosomes. L'un et l'autre sont composés des mêmes éléments neuronaux. C'est l'immunocytochimie qui a révélé des »inhomogenéités« de distributions de molécules. Comme son nom l'indique, la matrice est considérée comme la structure fondamentale dans laquelle se différencient les striosomes. Ceux-ci ont été d'abord différenciés par leur contenance en récepteurs opiacés (Pert, ). Ils se colorent aussi pour l'acetylcholinesterase. Cette opposition est surtout nette dans la tête du noyau caudé mais n'est pas évidente partout. Les striosomes n'ont pas de lien avec les afférences provenant de l'amygdale. Ils représenteraient plutôt la ségrégation en ilôts de terminaisons axonales frontales (orbitofrontal postérieur, insula antérieure, mediofrontale et cingulaire antérieures (Eblen and Graybiel,1995).
Les neurones »matriciaux « sont ceux qui sont contenus dans la matrice. Les neurones striosomaux sont ceux qui sont contenus dans les striosomes . Les striosomes chez le primates forment des noyaux fermés (Yelnik et al. 1994). Les deux ont été présentées comme des sources d'efferences distinctes, ce qui va être montré plus loin être discutable.
Des différents importants ont porté sur l'origine des neurones striataux envoyant leurs axones à telle ou telle cible (il faut dire que pendant longtemps on a même pensé que les neurones épineux n'avaient pas d'axones longs et n'étaient que des neurones de circuiterie locale!). Les neurones épineux ont en fait tous des axones longs qui forment un faisceau majeur du cerveau. Du fait de difficultés liées à la géométrie de l'ensemble, on a pensé un temps qu'il y avait des neurones striato-pallidaux et des striato-nigraux distincts ayant chacun des particularités histochimiques. Ceci a été la base de modèles que l'on a beaucoup et depuis assez longtemps surexploités. Une étude récente chez le macaque (Levesque and Parent et al. 2005), suivant une autre chez le rat, a bouleversé la situation. Les neurons épineux ont en général plusieurs cibles. Ce dispositif n'est pas un reste archaïque puisque il est rencontré dans 90% chez le macaque et seulement dans 63,6% chez le rat. Virtuellement tous les neurones épineux ont le pallidum latéral (le plus volumineux) comme première cible. 24/27 des neurones étudiés projettent aux trois cibles consécutives du cœur des ganglions de la base: pallidum latéral, pallidum médial et nigra (lateralis and reticulata). Il n'existe pas d'axones striataux envoyant d'axones vers le seul pallidum médian ou la seule substance noire ni à ces deux seuls.
La différence de configuration axonale entre les neurones matriciels ou striosomaux n'est observable que dans la substance noire. Les neurones striosomaux traversent toute l'étendue latéro-médiane de la substance noire en émettant 4 à 6 branches ou bouquets verticaux formant des colonnes verticales, s'enfonçant profondément dans la pars reticulata. Les neurons matriciels émettent moins de branches, plus dispersées.
Cette connectivité qui rend caduque des études moins fines pose des problèmes. Le médiateur principal de la connexion striato-pallidonigrale est le GABA, mais elle a des comédiateurs. Depuis Haber et Elde (1981), on sait que le pallidum latéral contient de la met-enkephaline en contraste avec le palidum médian qui contient lui de la substance P et/ou de la dynorphine. Comme ces cibles sont atteintes par les mêmes arbres axonaux, ceci signifierait qu'un axone individuel est capable de concentrer des comédiateurs différents dans des sous-arbres en fonction de la cible. Ceci modifie considérablement des modèles proposés depuis plusieurs décades et pose de nouvelles questions.