De plan carré également et haut de près de 15 m, le Prang de pierre rouge se situe à l'ouest du Prang principal. Il fut construit sous le règne de Suryavarman II. Il abritait à l'origine un lingam de pierre, visible au National Museum de Phimai.
De plan carré et haute de 16 m, c'est une tour de latérite, construite par Jayavarman VII pendant la restauration du Prasat Hin Phimai. Lors de l'exploration du site en 1954, trois statues de pierre furent -entre autres- découvertes: celle de Brahmadat, celle de Phra Pachiit et celle de Nang (ou Noen) Oraphim. Brahmadat, est représenté assis en tailleur. Les bras manquent, mais on suppose que les mains étaient jointes en position d'Anjalimudra. Un archéologue français a suggéré que ce pouvait être une représentation du roi Jayavarman VII. Une statue similaire, mais représentant Jayavarman VII plus jeune, est visible au Musée de Phnom Penh. On peut également voir au Musée National de Bangkok la statue de Nang Oraphim agenouillé, sans tête et sans bras.
Les bassins situés aux quatre coins de l'enceinte extérieure faisaient partie autrefois de quatre temples; ces bassins et temples dataient de la période de la chute d'Ayhutthaya, quand Kromamuen Thepphiphit établit sa capitale à Phimai.
Ces ruines ont situées au sud-est de Prasat Hin Phimai. Ce stupa a été construit pendant l'occupation par le prince Kromamuen Thepphiphit, après que Phimai eût adopté le Bouddhisme Theravada
Situé à l'origine près du gopura ouest et du bannalai, sa construction date probablement de la fin de la période Ayutthaya. Cette structure a sans doute été déplacée jusqu'à son emplacement actuel, c'est-à-dire au nord de l'ensemble du Prasat Hin Phimai; il contenait des statues dorées du Bouddha et des meubles contenant des manuscrits de la fin de la période Ayutthaya.