En mathématiques, le calcul ombral est le nom d'un ensemble de techniques de calcul formel qui, avant les années 1970, était plutôt appelé en français calcul symbolique. Il s'agit de l'étude des similarités surprenantes entre certaines formules polynomiales a priori non reliées entre elles, et d'un ensemble de règles de manipulation assez obscures pouvant être utilisées pour les obtenir (mais non les démontrer). Ces techniques furent introduites en 1861 par John Blissard (et sont parfois connues sous le nom de méthode symbolique de Blissard), mais elles sont souvent attribuées à James Joseph Sylvester, qui les utilisa de manière extensive, ou à Edouard Lucas. On a parfois également employé le terme de calcul symbolique pour désigner le calcul opérationnel de Heaviside, mais les deux méthodes n'ont que peu de points communs.
Dans les années 1930 et 1940, Eric Temple Bell essaya de donner des bases rigoureuses au calcul ombral, peut-être pas tout à fait avec succès.
Dans les années 1970, Steven Roman, Gian-Carlo Rota et d'autres développèrent le calcul ombral du point de vue des formes linéaires sur les espaces de polynômes. Actuellement, le calcul ombral est ainsi compris comme l'étude de certaines suites de polynômes, les suites de Sheffer, incluant les suites de polynômes de type binomial (liées aux polynômes de Bell) et les suites d'Appell.
La méthode symbolique repose sur des analogies de notation pour obtenir des identités concernant des suites de nombres indexées en "faisant comme si" les indices étaient des exposants. Présenté de la sorte, cela semble absurde, mais cela marche pourtant ; les résultats ainsi obtenus peuvent ensuite être démontrées par des méthodes plus complexes, mais ne présentant pas de difficultés logiques. Voici un exemple mettant en jeu les polynômes de Bernoulli : considérons le développement binomial ordinaire
et la relation remarquablement similaire sur les polynômes de Bernoulli :
Comparons aussi la dérivée ordinaire
à la relation très similaire sur les polynômes de Bernoulli :
Ces similarités nous permettent de construire des « démonstrations » ombrales, qui, de prime abord ne peuvent pas être correctes, mais qui semblent donner tout de même des formules exactes. Ainsi, par exemple, en supposant que l'indice n − k est un exposant :
et, en dérivant, on obtient le résultat escompté :
Dans cette formule, la variable b est une ombre. On trouvera un autre exemple plus détaillé dans l'article formule de Faulhaber.
Dans les années 1930 et 1940, Eric Temple Bell a essayé sans succès de donner à cette sorte d'argument une rigueur logique. Le combinatoriste John Riordan, dans son ouvrage Combinatorial Identities publié dans les années 1960, a utilisé ces techniques extensivement.
Des relations similaires ont aussi été observées dans la théorie des différences finies. La version ombrale des séries de Taylor est donnée par une expression similaire impliquant les k-èmes "différences vers l'avant"
où
est la factorielle décroissante de Pochhammer. Une relation similaire est valable pour les différences vers l'arrière et la factorielle croissante.
Un autre combinatoriste, Gian-Carlo Rota, indiqua que le mystère s'évanouissait si on considère la forme linéaire L sur les polynômes en y définie par
Alors, on peut écrire
etc. Rota affirma par la suite que beaucoup de confusions résultaient de l'échec à distinguer les trois relations d'équivalence qui apparaissent dans ce sujet, toutes étant désignées par le symbole "=".
Dans un article publié en 1964, Rota utilisa des méthodes symboliques pour établir la formule récursive satisfaite par les nombres de Bell, qui énumèrent les partitions des ensembles finis.
Dans l'article de Roman et Rota, le calcul ombral devient l'étude de l'algèbre ombrale, définie comme l'algèbre des formes linéaires sur l'espace vectoriel des polynômes de variable x, où le produit des formes linéaires L1 et L2 est défini par
Lorsque les suites de polynômes remplacent les suites de nombres comme images de yn sous l'application linéaire L, la méthode ombrale est vue comme un composant essentiel de la théorie générale des polynômes de Rota ; c'est cette théorie qui constitue le calcul ombral au sens moderne. Un petit échantillon de cette théorie peut être trouvé dans l'article suites de polynômes de type binômial (en) ; un autre peut être trouvé dans l'article suite de Sheffer (en).