Les premiers calculs ont porté sur des nombres entiers (nombre d'animaux dans un troupeau, nombre de soldats dans une armée, nombre de jours dans un calendrier, prix à payer lors d'une transaction ou un impôt). Le développement des systèmes de numération permet d'effectuer ensuite des calculs sur des nombres fractionnaires (représentant des longueurs ou des durées) comme à Sumer à la fin du IV millénaire ou plus tard en Égypte.
Dans l'Antiquité, les Grecs semblent avoir eu des préoccupations moins immédiates. Le calcul sera par exemple orienté dans le but de « mesurer la terre », travail de géométrie avec le sens philosophique qui lui est attaché : « Que nul n'entre ici s'il n'est géomètre », proclame l'épigraphe du fronton de l'Académie de Platon. D'un outil de numération à l'usage des pâtres et des comptables, le calcul a donc progressivement évolué vers l'abstraction. Les mathématiciens grecs travaillent sur des longueurs et étudient la notion de commensurabilité (existe-t-il une unité qui permette de mesurer deux longueurs ?) qui est à rapprocher de la notion actuelle de nombre rationnel. En cherchant à calculer la diagonale du carré de côté 1, c'est-à-dire racine carrée de deux, ils découvrent l'existence de nombres incommensurables, (on dirait de nos jours nombres irrationnels) et inventent la notion de longueur constructible. Pendant plusieurs siècles, les calculs s'effectuent sur ces types de nombres.
La recherche de solutions des équations du second degré mène à des calculs sur des nombres négatifs ou complexes, que d'Alembert dans son encyclopédie, qualifie respectivement de racines fausses et de racines imaginaires et ne les accepte pas comme résultat d'un calcul final. Quant à l'ensemble des nombres réels, il faut attendre la fin du XIX siècle pour qu'il soit clairement défini.
Parallèlement aux calculs sur des nombres (calcul numérique), se développent, chez les mathématiciens de langue arabe (Ibn al-Banna, Al Khwarizmi), précurseurs du calcul algébrique des calculs sur des polynômes.
Les notations symboliques développées par François Viète et René Descartes introduisent ce type de calcul en Europe. Les notations symboliques libèrent les calculs du champ des nombres et on effectue en Europe des calculs sur des objets aussi divers que des fonctions ( XVII siècle) , ou des vecteurs (XIX siècle). Vers la fin du XIX siècle, l'école allemande crée les ensembles (corps, anneaux sur lesquels se définissent des opérations qui n'ont qu'un lointain rapport avec l'addition et la multiplication classique, bien que la même notation leur soit attribuée (+ et ×). C'est la naissance des structures algébriques.
Au XIX et XX siècles, le développement de la logique mathématique offre un nouveau champ d'application : les propositions logiques. C'est le domaine du calcul des propositions.