Selon des récits en partie légendaires, qui apparaissent à partir des années 370, soit une trentaine d'années après la mort de Constantin I converti au christianisme en 337, c'est sainte Hélène, la mère de l'empereur, qui aurait découvert la Croix de Jésus sur le Golgotha lors d’un pèlerinage en Palestine entrepris en 326. Constantin fit alors construire la première croix monumentale, une croix en or sur le mont Golgotha. Saint Jean Chrysostome déclare que la croix, jadis suplice infamant, est devenu le plus saint des emblèmes. Elle peut dès lors se développer dans le monde chrétien, d'abord sous forme de Croix triomphale : le Christ n'est pas sculpté dessus, la représentation de la Crucifixion offensant encore la sensibilité chrétienne.
Ce sont les moines irlandais qui, au VII siècle, sont les premiers à faire de la croix un vrai monument sous la forme de stèles gravées, puis de croix grecque cerclée au VIII siècle et de la Crucifixion au IX siècle. On assiste à une multiplication des croix à partir de 1095, date à laquelle le Concile de Clermont établit que le droit d’asile est étendu aux croix de chemins qui ont alors un double rôle de guide et de protection.
Le vandalisme (notamment avec les guerres de religion et la Révolution), les intempéries et l’usure du temps sont responsables de la forte diminution de leur nombre actuel. De plus, malgré le grand essor de cet art au XIX siècle, il n’est plus d’actualité puisque les derniers ateliers ont cessé leur production au début du XX siècle. Cependant, certaines croix monumentales sont proclamées trésor national.