Traditionnellement, la théorie des nombres est une branche des mathématiques qui s'occupe des propriétés des nombres entiers, qu'ils soient entiers naturels ou entiers relatifs, et contient beaucoup de problèmes ouverts qu'il est facile de comprendre, même par les non-mathématiciens. Plus généralement, le champ d'étude de cette théorie concerne une large classe de problèmes qui proviennent naturellement de l'étude des entiers. La théorie des nombres occupe une place particulière en mathématiques, à la fois par ses connexions avec de nombreux autres domaines, et par la fascination qu'exercent ses énoncés. Ainsi, la citation suivante, de Jürgen Neukirch :
Le terme « arithmétique » est aussi utilisé pour faire référence à la théorie des nombres. C'est un terme assez ancien, qui n'est plus aussi populaire que par le passé. Néanmoins, le terme reste répandu — c’est-à-dire dans les noms des champs mathématiques (géométrie algébrique arithmétique, l'arithmétique des courbes et surfaces elliptiques). Ce sens du terme arithmétique ne doit pas être confondu avec la branche de logique qui étudie l'arithmétique dans le sens des systèmes formels.
La théorie des nombres peut être divisée en plusieurs champs d'étude en fonction des méthodes utilisées et des questions traitées.
Dans ce domaine, les entiers sont étudiés sans utiliser de techniques d'autres domaines des mathématiques. Les questions de divisibilité, l'algorithme d'Euclide pour calculer le plus grand commun diviseur (PGCD), la factorisation des entiers en nombres premiers, la recherche des nombres parfaits et des congruences appartiennent à ce domaine. Les affirmations typiques sont le petit théorème de Fermat et le théorème d'Euler, et par extension le théorème des restes chinois et la loi de réciprocité quadratique. Les propriétés des fonctions multiplicatives comme la fonction de Möbius et la fonction φ d'Euler sont étudiées ; ainsi que les suites d'entiers comme les factorielles et les nombres de Fibonacci.
Beaucoup de questions en théorie élémentaire des nombres apparaissent simples mais requièrent de très profondes considérations et de nouvelles approches, tels les exemples suivants :
La théorie des équations diophantiennes a même été montrée comme étant indécidable.
La théorie analytique des nombres emploie l'outillage du calcul infinitésimal et de l'analyse complexe pour traiter des questions sur les entiers. Le théorème des nombres premiers et l'hypothèse de Riemann qui lui est reliée en sont des exemples. Le problème de Waring (c’est-à-dire : pour un nombre donné, est-il la somme de carrés, de cubes, etc.), la conjecture des nombres premiers jumeaux (trouver une infinité de paires de nombres premiers dont la différence est 2) et la conjecture de Goldbach (écrire les entiers pairs comme somme de deux nombres premiers) sont attaqués avec les méthodes d'analyse avec succès. Les preuves de la transcendance des constantes mathématiques, comme π ou e, sont aussi classées comme faisant partie de la théorie analytique des nombres. Tandis que les résultats à propos des nombres transcendants semblent être enlevés de l'étude des entiers, ils étudient réellement les valeurs possibles de polynômes à coefficients entiers évalué à, disons, e; ils sont aussi reliés fermement au champ de l'approximation diophantienne, qui recherche « de quelle façon correcte » un nombre réel donné peut être approché par un nombre rationnel.
Dans la théorie algébrique des nombres, le concept de nombre est étendu aux nombres algébriques qui sont les racines des polynômes avec des coefficients rationnels. Ces domaines contiennent des éléments analogues aux entiers, connus sous le nom entiers algébriques. Avec ces règles, les propriétés familières des entiers (c’est-à-dire la factorisation unique) ne sont plus les mêmes. Les vertus de l'outillage employé -- théorie de Galois, corps cohomologique, théorie des corps de classes, représentation des groupes et les fonctions L -- sont telles qu'elles permettent de retrouver un ordre partiel pour ces nouvelles classes de nombres.
Beaucoup de questions théoriques sur les nombres sont attaquées avec succès par leur étude modulo p pour tous les nombres premiers p.
Ceci mène à la construction des nombres p-adiques ; ce champ d'étude est appelé analyse locale et résulte de la théorie algébrique des nombres.
Traditionnellement appelée géométrie des nombres, la théorie géométrique des nombres incorpore toutes les formes de la géométrie. Elle commence avec le théorème de Minkowski à propos de réseaux de points (treillis) dans les ensembles convexes et de recherches sur les empilement de sphères. La géométrie algébrique, et spécialement la théorie des courbes elliptiques, peuvent aussi être employées. Le célèbre Dernier théorème de Fermat fut prouvé avec ces techniques.
La théorie combinatoire des nombres s'occupe des problèmes de théorie des nombres qui impliquent les idées combinatoires dans leurs formulations ou leurs solutions. Paul Erdős est le principal fondateur de cette branche de la théorie des nombres. Les sujets caractéristiques incluent le système de couverture, les problèmes à somme zéro, diverses sommes d'ensembles restreintes et des progressions arithmétiques dans l'ensemble des entiers. Les méthodes algébriques ou analytiques sont puissantes dans ce champ d'étude.
Ce domaine étudie plus particulièrement les algorithmes appropriés pour la théorie des nombres. Les algorithmes déterministes et probabilistes pour les tests de primalité des nombres supposés premiers et les décompositions en produit de facteurs premiers de nombres à plusieurs centaines de chiffres ont d'importantes applications en cryptographie et est, de fait, un sujet très sensible.