Les nombres complexes apparaissent plus clairement au XVIe siècle, quand est établie une formule de calcul pour les racines polynomiales des équations cubiques et quartiques polynomiales par les mathématiciens italiens Niccolo Fontana Tartaglia et Girolamo Cardano. On réalise très tôt que ces formules, même si l'on ne s'intéresse qu'aux solutions réelles, nécessitent parfois de manipuler la racine carrée de nombres négatifs. Par exemple, la formule cubique de Tartaglia donne la solution suivante à l'équation x³ − x = 0:
Le calcul formel avec les nombres complexes montre que l'équation z³ = i a pour solution −i,
Ces méthodes de calcul sont obtenues alors que la notion de nombre négatif n'est pas encore validée à l'époque. L'appellation nombre imaginaire pour ces quantités est introduite, tant leur réalité est contestable, par René Descartes en 1637. Une source de confusion supplémentaire réside dans le fait que l’équation
Au XVIIIe siècle, en 1730, Abraham de Moivre énonce la formule bien connue qui porte son nom (formule de De Moivre) :
Peu de temps après, en 1748, Euler donne, quant à lui, la formule suivante (formule d'Euler) :
Ce n'est qu'en 1799 que l'existence des nombres complexes est complètement admise avec l’interprétation géométrique décrite par Caspar Wessel. Plusieurs années après, Carl Friedrich Gauss la redécouvre et la popularise et c'est alors que cette théorie prend un essor considérable. Il a noté cependant que l’idée d’une représentation graphique des nombres complexes est déjà mentionnée, en 1685, dans l’ouvrage de John Wallis De Algebra tractatus.
Un mémoire de Wessel, clair et complet, apparaît dans les minutes de l’Académie de Copenhague en 1799. Il y reconsidère la sphère et fournit une théorie des quaternions à partir de laquelle il développe une théorie complète sur la trigonométrie sphérique. Dans une publication de 1806, l’Abbé Buée reprend l’idée, suggérée par Wallis, que
La plupart des termes communément utilisés dans la théorie sont dus aux fondateurs :
Après Cauchy et Gauss suivront nombre de contributeurs. Parmi ceux-ci :
Un anneau ou un corps est un ensemble de nombres stable par addition, soustraction et multiplication (et division dans le cas d'un corps. Gauss étudie les nombres complexes de la forme a + bi, où a et b sont entiers, ou rationnels. Son élève, Ferdinand Eisenstein, étudie les nombres de la forme a + bω, où ω est une racine complexe de x3 − 1 = 0. D’autres corps, dits cyclotomique, sont obtenus à partir des racines de l’unité xk − 1 = 0 pour k entier positif quelconque. Cette généralisation est largement due à Kummer, qui invente aussi les nombres idéaux.
Enfin, parmi les derniers contributeurs (après 1884) de la théorie générale :
Une définition formelle correcte, utilisant des paires de nombres réels, a été donnée au XIXe siècle.