Fondé à la fin du XIV siècle ou au début du XV siècle, il est mentionné pour la première fois dans un registre turc en 1476, en même temps que les autres monastères de la gorge d'Ovčar-Kablar.
L'église du monastère est consacrée à saint Nicolas. La nef a été ornée de fresques en 1587 et le narthex en 1637. Les peintures du narthex représentent des scènes de la vie de la Vierge Marie, très proches dans leur facture de celles que l'on trouve sur le même thème au monastère de Blagoveštenje et qui datent, elles, de 1632. Particulièrement remarquable est la fresque représentant saint Nicolas en compagnie de Stefan Dečanski, selon un programme iconographique inauguré à Blagoveštenje et à l'église Saint Nicolas de Ježevica (1636). Ces fresques attestent de la vitalité du monastère au XVII siècle.
Pendant la première révolte serbe contre les Turcs, en 1811, l'église du monastère fut restaurée. Après l'échec de cette première rébellion, en 1813, le prince Miloš Obrenović cacha sa famille à Nikolje. En 1815, lors de la seconde révolte des Serbes, des moines du monastère firent partie de l'ambassade qui négocia l'autonomie de la Serbie. En remerciement pour les services rendus, le monastère reçut du prince un vaste domaine foncier. Entre 1826 et 1829, le prince Miloš dota encore l'église d'une nouvelle iconostase. L'église Saint Nicolas fut une nouvelle fois restauré en 1852 et ornée de nouvelles fresques.
Après la Seconde Guerre mondiale, les terres de Nikolje furent confisquées et les moines dispersés. Les bâtiments furent néanmoins sauvegardés par l'Institut pour la protection des moments historiques. Des religieuses s'intallèrent dans les lieux.
Depuis 1989, le Trésor du monastère est ouvert au public.