Apparu au Miocène inférieur en Amérique du Nord, il se serait par la suite répandu en Asie jusqu'en Europe via la Béringie. Il serait l'ancêtre de Sinohippus une espèce plus grande. Au Miocène, l'abondance de ses fossiles suggère qu'il était largement répandu sur ces continents. Il mesurait adulte environ 60 cm au garrot. Anchitherium a été supplanté il y a environ 15 Ma.
Au moins quatre types de fossiles ont été différenciés dont les fossiles appelé A. clarenci, trouvés au Canada, aux États-Unis, au Panama, en République populaire de Chine, au Kazakhstan, en Russie, en Turquie, en Serbie, en Autriche, en Allemagne, en Suisse, en France, en Espagne et au Portugal. On a retrouvé en France, des fossiles appelé A. aurelianense (c'est-à-dire de l'Orléanais) notamment dans les Faluns de Touraine.