La suite des nombres de Fermat possède plusieurs relations de récurrence. On peut citer par exemple si n est supérieur ou égal à 2 :
Ou encore, avec des produits de nombres de Fermat :
On en déduit le théorème de Goldbach affirmant que :
Soit D(n, b) le nombre de chiffres utilisés pour écrire Fn en base b.
Les crochets désignent la fonction partie entière et logb le logarithme de base b.
En effet :
Une récurrence et l'égalité suivante permet de calculer le premier produit :
La seconde égalité s'en déduit :
Soit n et m deux entiers positifs tel que n est strictement plus grand que m. Montrons que le seul facteur commun à Fn et Fm est 1. Un calcul précédent montre que :
Donc un diviseur commun à Fn et Fm est aussi un diviseur de 2. Or 2 ne divise pas Fn, ces trois entiers sont donc premiers entre eux deux à deux.
La raison historique de l'étude des nombres de Fermat est la recherche de nombres premiers. Fermat connaissait déjà la proposition suivante :
Pierre de Fermat a conjecturé que la réciproque était vraie, il a montré que :
Actuellement, on ne connaît que cinq nombres de Fermat premiers, ceux cités ci-dessus.
On ignore encore s'il en existe d'autres, mais on sait que les nombres de Fermat Fn, pour n entre 5 et 32, sont tous composés ; F33 est le plus petit nombre de Fermat dont on ne sait pas s'il est premier ou composé.
Le plus grand nombre de Fermat dont on sait qu'il est composé est actuellement F2 478 782.
Si k n'est pas une puissance de deux, alors il existe deux entiers a et b tel que a est impair et différent de un et a.b = k. On dispose alors des égalités suivantes :
Euler utilise une méthode de Fermat pour démontrer que F5 n'est pas premier. Il démontre pour cela trois propositions :
Le cas général est un problème difficile du fait de la taille des entiers Fn, même pour des valeurs relativement faibles de n. À la date du ..., le plus grand nombre de Fermat dont on connaisse la factorisation complète est F11[réf. souhaitée], dont le plus grand des cinq diviseurs premiers a 560 chiffres (la factorisation complète de Fn, pour n entre 5 et 10, est, elle aussi, entièrement connue). En ce qui concerne F12, on sait qu'il est composé mais c'est, à la date du 27 mars 2010, le plus petit nombre de Fermat dont on ne connaisse pas la factorisation complète. Quant à F20, c'est, à la date du 3 février 2010, le plus petit nombre de Fermat composé dont on ne connaisse aucun diviseur premier
Fn est congru à zéro modulo p. On en déduit que 22n est congru à -1 modulo p et 22n+1 à 1 modulo p.
Montrons que l'ordre multiplicatif de 2 est 2n+1 dans l'anneau Z/pZ. Soit m l'ordre multiplicatif de 2, m est un diviseur de 2n+1, donc il existe un entier θ tel que m = 2θ. L'entier 22θ est congru à un modulo p donc si h est un entier strictement supérieur à θ, 22h est aussi congru à un modulo p, si θ est strictement plus petit que n + 1 alors 22n est congru à un modulo p ce qui est faux car nous avons montré qu'il est congru à -1.
De plus, le petit théorème de Fermat montre que 2p-1 est congru à un modulo p. Ce résultat et le fait que l'ordre multiplicatif de 2 est 2n+1 dans Z/pZ montre que p - 1 est un multiple de 2n+1. Ce qui termine la démonstration.
Si k est une puissance de deux, alors p est un nombre premier de Fermat différent de Fn, or les nombres de Fermat n'ont pas de facteur commun. Cette remarque termine la démonstration.
Un diviseur premier de F5 est de la forme 64.k + 1. Les valeurs de k possibles sont 3, 5, 6, 7, 9, 10 ... Les valeurs 5 et 6 ne correspondent pas à des nombres premiers, les valeurs à tester sont donc 193, 449, 557 et 641. Euler limite donc l'étude à quatre cas au lieu de plus d'une centaine. Etudions le cas où k est égal à 10.