Cette espèce à tendances méditerranéennes (Askew 1988) est relativement localisée à l'Europe occidentale depuis la France aux péninsules ibérique et italienne. Des populations rares et en fort déclin remontent jusqu'au nord de la France, la Belgique et l'Angleterre, ainsi qu'en Europe centrale, en Allemagne et en Suisse. L'espèce est réputée disparue de Pologne et de Slovénie, néanmoins il n'est pas certain qu'elle ait habité ces pays et des confusions avec Coenagrion ornatum restent possibles. De la même manière l'agrion de Mercure est indiqué en Autriche, Slovaquie et République tchèque. L'ensemble des mentions dans ces derniers pays méritent d'être contrôlées et confirmées.
Les indications de l’Est de l’Europe, où sa répartition très disjointe semblait concerner des populations isolées en Roumanie et dans le Caucase ont été remises en cause par Marinov (2001). Les données de Bulgarie, de toute évidence celles de Macédoine et de Croatie, très probablement celles de Roumanie et du Caucase sont erronées. Il s'agit selon cet auteur le plus souvent de confusions et généralement de données larvaires qui concernent en fait Coenagrion ornatum
L'agrion de Mercure est présent sur presque tout le territoire de la France, l’Italie, l’Espagne et le Portugal. Globalement, plus on descend dans le Sud, plus le nombre de stations connues est important et les populations localement abondantes.
Dans le Sud-Est de la France, l'agrion de Mercure paraît « vulnérable » en raison de la fragilité de son habitat, mais il n’est pas rare, notamment au sein des puissants hydro-systèmes de vallée du Rhône et la vallée de la Durance. Il apparaît disséminé sur de plus petits cours d'eau dans le Beaujolais, le Bas Dauphiné, l'Avant Pays Savoyard ainsi que dans les secteurs méridionaux de la Drôme et de l'Ardèche. Le Sud-Est de la France possède vraisemblablement plus de la moitié des effectifs de l'espèce en France. Les plus importantes populations connues se trouvent la moyenne et la basse vallée du Rhône ou à proximité ; l'espèce évite clairement les zones cristallines du Massif Central.