L'hélimagnétisme est une forme d'ordre magnétique, caractérisée par une très grande répétitivité spatiale, et qui résulte d'une compétition, à l'intérieur d'un même matériau, entre les interactions d'échanges ferromagnétique et antiferromagnétique. Il avait été prédit en 1959 et découvert la même année dans le cas de l'alliage MnAu2.
C'est un état magnétique courant pour les terres rares, le plus souvent observé aux basses températures (celles de l'hélium liquide).
Au niveau macroscopique, l'aimantation totale d'un système hélimagnétique est nulle ou très faible, car les moments sont orientés dans toutes les directions du plan.
L'hélimagnétisme se caractérise au niveau microscopique par une orientation des moments magnétiques voisins selon un motif en hélice. Il est possible de considérer l'antiferromagnétisme et le ferromagnétisme comme des cas d'hélimagnétisme limites, avec un pas d'hélice de 180° et 0°, respectivement.
L'hélimagnétisme pouvant présenter une rotation dans le sens horaire ou antihoraire, il casse la symétrie d'inversion spatiale des moments magnétiques.
Si le rapport entre le pas d'hélice et π est irrationnel, la structure est incommensurable.
Dans les terres rares, l'interaction magnétique dominante est le couplage RKKY via les électrons de conduction. Cette interaction est connue pour changer de signe avec la distance. Si l'on considère un matériau cristallin présentant une telle interaction, on peut noter J0, J1 et J2 les constantes d'échange correspondant respectivement aux atomes d'un même plan cristallin, au premier et au second voisin.
On suppose que toutes les orientations des matériaux des moments magnétiques sont parallèles dans un plan donné et on appelle φ la différence d'angle d'aimantation entre le plan considéré et le plan des premiers voisins.
L'énergie du système est alors : E = − NS2(J0 + 2J1cosφ + 2J2cos2φ)
La minimisation de cette énergie conduit à l'équation : (J1 + 4J2cosφ)sinφ = 0
Cette équation admet les solutions suivantes :
L'hélimagnétisme n'est possible que si | J1 | < 4 | J2 | .
Si l'on introduit ces trois solutions dans l'expression de l'énergie, il vient :
Dans le cas J2 > 0 et J1 > 0, on calcule . Compte-tenu de | J1 / (4J2) | < 1 et des signes de J1 et J2, E(0) − E(φ) < 0. E(π) < E(0) est vérifié pour les mêmes raisons de signes. La configuration ferromagnétique est favorisée.
Dans le cas J2 > 0 et J1 < 0, on vérifie de même que est négatif. E(0) < E(π) est vérifié pour les mêmes raisons. La configuration antiferromagnétique est favorisée.
La configuration hélimagnétique, qui n'est possible que pour | J1 | < 4 | J2 | , n'est favorisée énergétiquement que pour J2 < 0.