Il est apparu trois fois dans l’histoire des systèmes de numération élaborés par différents peuples et civilisations. La première apparition du zéro semble remonter au III siècle av. J.-C. à Babylone, il n'était cependant pas utilisé dans les calculs et ne servait que comme chiffre (marquage d'une position vide dans le système de numération babylonienne). Il a été ensuite redécouvert aussi par les Chinois, qui n’ont pas su en revanche introduire le zéro. Les inscriptions sur os et écailles (jiaguwen) découvertes dans la région de Anyang, dans l'actuelle province du Henan, à la fin du XIX siècle, nous apprennent que, dès les XIV - XI siècles av. J.-C., les Chinois utilisaient une numération décimale de type « hybride », combinant dix signes fixes pour les unités de 1 à 9, avec des marqueurs de position particuliers pour les dizaines, centaines, milliers et myriades.
Il est également utilisé par les Mayas durant le I millénaire, mais de même uniquement comme chiffre dans leur système de numération de position et non comme nombre. (voir numération maya)
Son usage moderne, à la fois comme chiffre et comme nombre, est héritée de l'invention indienne des chiffres nagari vers le V siècle. Le mot indien désignant le zéro était ??nya (çûnya), qui signifie « vide » « espace » ou « vacant ». Le mathématicien et astronome indien Brahmagupta est le premier à définir le zéro dans son ouvrage Brâhma Siddhânta. Ce mot, traduit de l'arabe en « ?ifr » , ce qui signifie « vide » et « grain », est la racine des mots chiffre et zéro (vient de ce que Fibonacci a traduit l'arabe Sifr par l'italien zephirus, à partir duquel il a formé zevero qui est devenu zero). La graphie du zéro, d'abord un cercle, est inspirée de la représentation de la voûte céleste.
Comme l'indique l'étymologie, son introduction en Occident est consécutive à la traduction des travaux des mathématiciens musulmans, notamment ceux d'al-Khw?rizm?, vers le VIII siècle. Les chiffres arabes sont importés d'Espagne en Europe chrétienne aux environs de l'an mil par Gerbert d'Aurillac, devenu le pape Sylvestre II. Le zéro ne se généralise pas pour autant dans la vie courante, les chiffres dits arabes servant surtout... à marquer les jetons d'abaque de 1 à 9 !
Ce n'est qu'avec le retour du commerce intensif consécutif aux Croisades que les Européens généralisent, au XII siècle, l'usage du zéro. Une curiosité pour les œuvres des auteurs grecs et musulmans prend en même temps naissance.
Léonard de Pise, dit Fibonacci, a une influence déterminante. Il reste plusieurs années en Afrique du Nord et étudie auprès d'un professeur local. Il voyage également en Grèce, Égypte, Proche-Orient et confirme l'avis de Sylvestre II sur les avantages de la numération de position. En 1202, il publie le Liber Abaci, recueil qui rassemble pratiquement toutes les connaissances mathématiques de l'époque, et malgré son nom, apprend à calculer sans abaque.
C'est au début du XX siècle que zéro sera pleinement considéré comme un nombre à part entière et non comme un simple chiffre. L'égalité x=1 (pour x ni nul, ni infini) s'écrira dès lors de plein droit.