Le poney Exmoor est une race très ancienne. Son ancêtre vint d'Asie avant l'ère glaciaire, il y a 100 000 ou 200 000 ans, et il colonisa le sud des îles Britanniques avant qu'elles ne se séparent du continent. Le poney exmoor est un descendant direct du poney celte. Il est mentionné pour la première fois en 1085 dans le Domesday Book, un registre établi par Guillaume le Conquérant.
La Seconde Guerre mondiale fut un désastre pour les populations de poneys, la région d'Exmoor devint un champ d'entrainement militaire et la race fut presque exterminée. On estime qu'une cinquantaine de poneys y ont survécu. Cependant, les éleveurs locaux réussirent à sauver quelques hardes. Les effectifs du poney Exmoor étaient au plus bas dans les années 1980, lorsqu'une campagne de publicité attira l'attention sur la rareté de la race. Ce poney vit depuis toujours à l'état sauvage dans sa région d'origine.