L'église du monastère de Gračanica a été construite sur les ruines d'une ancienne église du XIII siècle consacrée à la Sainte Mère de Dieu, elle-même construite sur les ruines d'une basilique chrétienne à trois nefs édifiée au VI siècle. Sur le mur méridional de l'actuel édifice, on peut lire la charte fondatrice de l'église écrite par le roi : « J'ai vu les ruines et la décadence de l'église de la Vierge Marie à Gračanica, dans l'évêché de Lipljan ; aussi l'ai-je reconstruite de fond en comble et peinte et décorée, aussi bien à l'intérieur qu'à l'extérieur ».
De l'ensemble monastique de cette époque, seule l'église a survécu. Le narthex et la tour furent ajoutés quelques décennies plus tard, dans le but de protéger les fresques de la façade occidentale. Le narthex a été endommagé plusieurs fois par les Ottomans, entre 1379 et 1383. La tour fut incendiée et les flammes détruisirent alors une importante collection de manuscrits ainsi que d'autres objets précieux. Le narthex fut reconstruit en 1383. Gračanica connut de nouveaux dommages à la suite de la bataille de Kosovo Polje (1389).
Pendant la période ottomane, Gračanica devint un important centre culturel. Sous le métropolite Nikanor (1528-1555), le maître-autel fut orné de plusieurs icônes. Les "portes royales" du monastère furent commandées en 1564 par le métropolite Dionisije. La mort du prélat est représentée sur une fresque du narthex. Une grande campagne de restauration eut lieu grâce aux efforts du patriarche Makarije Sokolović. Les ouvertures extérieures du narthex furent comblées et de nouvelles fresques furent peintes en 1570. Le patriarche Pajsije fit couvrir de plomb le toit de l'église et, en 1620, un grand Crucifix fut réalisé pour l'iconostase de l'église.
Au XVII siècle, le monastère eut à subir de nouveaux dommages, notamment au cours de la deuxième guerre austro-turque, à laquelle prirent part de nombreux Serbes en rébellion contre les Ottomans. Les Turcs arrachèrent la croix de plomb ainsi que les dalles vernissées qui ornaient le sol de l'église, et s'emparèrent du trésor caché dans l'église par le patriarche Arsenije III Čarnojević. Ce fut l'époque de la grande migration qui vida la région de ses populations serbes.
Après la Seconde Guerre mondiale, le monastère fut rétabli par des religieuses. Aujourd'hui, il est occupé par une vingtaine de sœurs, qui pratiquent notamment la peinture d'icônes et l'agriculture.
Après les bombardements de l'OTAN en 1999, l'évêque de Raška et de Prizren, Artemije, transféra le siège de son épiscopat de Prizren à Gračanica. De ce fait, le monastère est devenu l'un des centres spirituels les plus importants de l'Église orthodoxe serbe au Kosovo.