Le Louvre médiéval, de Philippe Auguste à Henri IV, occupait le quart de la zone du carré actuel. Si l'on divise la cour carrée par quatre carrés et que l'on entre dans celle-ci par le pavillon de Sully (ou le pavillon de l'Horloge), le Louvre médiéval occupait le premier carré (ou quart) de droite.
C'est donc en voulant renforcer la défense de la ville de Paris, afin d'en faire le centre politique et religieux du royaume, que Philippe Auguste fait construire une grande enceinte entourant la ville. Le Louvre, situé à l'ouest de la muraille, est alors un donjon puissamment fortifié, haut de 31 mètres et large de 19 mètres qui n'a qu'une vocation strictement défensive. Celui-ci est compris au centre une enceinte carrée d'environ 70 à 80 mètres de côté, renforcée de dix tours de défense que l'on franchit par deux portes avec pont-levis situés respectivement au sud et à l'est. Deux bâtiments sont accolés au mur d'enceinte, à l'ouest et sud de la cour centrale. Les travaux finissent en 1202.
Sous Louis IX, le château connaît un important agrandissement, de nouvelles salles étant construites sans réel but défensif, comme la salle Saint-Louis (1230-1240). On y transfère également le trésor royal, donnant un nouveau caractère à la forteresse.
Cependant, c'est sous Charles V, dans la deuxième moitié du XIVe siècle, que le palais devient résidence royale. Après avoir réprimé la révolte du prévôt des marchands Étienne Marcel, il achève un nouveau rempart pour protéger la ville qui s'est alors considérablement développée extra-muros. Le Louvre, auparavant situé à l'extérieur de la muraille de Philippe-Auguste, est inclus dans ce nouveau système défensif. Le château prend alors une double fonction : en plus de son rôle protecteur, il devient l'une des résidences du roi et de la cour, avec le château de Vincennes, l'hôtel Saint-Pol dans le Marais et le palais de l'île de la Cité dont la fonction est plus "administrative" et notamment judiciaire avec l'installation du Parlement de Paris.
Architecturalement, des nouveautés apparaissent, notamment un grand escalier hélicoïdal, dû à Raymond du Temple : engagé dans le mur du donjon, dit « la grande vis », il est décoré d'effigies de la famille royale. Drouet de Dammartin, plus tard responsable du chantier de la Chartreuse de Champmol, fait ici ses premières armes de sculpteur et d'architecte.
Le Louvre s'ouvre sur la ville qui devient à cette période un important centre de luxe, et Charles V, grand amateur d'art, y transfère une partie de sa bibliothèque. Selon un inventaire de 1373, celle-ci ne comportait pas moins de neuf cents manuscrits et se divisait en trois pièces : l'une consacrée aux traités de gouvernements, une autre aux romans, et la dernière aux livres religieux. Une autre partie de la bibliothèque de Charles V se trouvait à Vincennes.
Charles V est le premier monarque qui songea à constituer une bibliothèque royale. Il fit déposer à cet effet tous les livres qu'il put réunir dans une tour du Louvre, qui fut appelée tour de la Librairie. Les livres y occupaient trois étages, et y étaient rangés avec autant de soin que de propreté. Pour les conserver précieusement, Charles V voulut qu'on fermât de barreaux de fer, de fil de laiton et de vitres peintes toutes les fenêtres de sa bibliothèque; et, afin que l'on pût y travailler à toute heure, on pendit par son ordre à la voûte trente petits chandeliers et une lampe d'argent, qui étaient allumés toutes les nuits. Les lambris des murs étaient de bois d'Irlande, la voûte était lambrissée de bois de cyprès, et tous ces lambris étaient embellis de sculptures en bas-relief. C'est Gilles Mallet, pour lors valet de chambre puis maître d'hôtel du roi qui fut chargé de la garde de cette bibliothèque ou librairie. On y trouvait des livres de toutes espèces. Les plus considérables étaient des bibles latines ou françaises. Il y avait aussi une grande quantité de livres d'église, comme des missels, des bréviaires, des psautiers, des livres d'heures et des Offices particuliers. La plupart de ces livres étaient recouverts de riches étoffes et enluminés avec grand soin. Parmi les livres profanes on trouvait des traités d'astrologie, de géomancie, de chiromancie.
Le château a également une importance capitale en tant que symbole de l’autorité royale. Jusqu’à la Révolution, tous les fiefs dépendant directement du roi sont dits relever de la grosse tour du Louvre, même après la destruction de celle-ci au XVIe siècle, sous François Ier. Le Louvre apparaît donc comme le siège de l’autorité féodale du roi, alors que le palais royal de la Cité, devenu le palais de justice, est le siège de l’aspect souverain de son autorité, dans sa fonction la plus éminente : la justice.