Dès 1777, la galerie royale des Plans-relief avait quitté le palais du Louvre pour les Invalides où elle se trouve toujours. Elle y est rejointe en 1871 par le musée de l'Artillerie dont les pièces ornent les cours et promenades du palais.
Pour conserver la trace des traditions de l'armée, ses trophées et les objets de la vie quotidienne des soldats, un Musée historique de l'Armée est créé en 1896. Il fusionne avec celui de l'artillerie en 1905 pour former le musée de l'Armée.
Une section regroupe les armes et armures anciennes placées sous vitrines. Une autre, sur trois étages, retrace l'histoire des guerres de 1870, 1914-1918 et 1939-1945 avec de nombreux objets et documents d'époque.
Depuis la fin de la Seconde Guerre mondiale pendant laquelle les Invalides cachèrent un réseau de résistance en 1942, le musée s'est agrandi du musée de l’Ordre de la Libération et du musée d’histoire contemporaine.
L'historial Charles-de-Gaulle est un espace multimédia de 2 500 m² en sous-sol inauguré le 22 février 2008, retrace la vie et l’œuvre du général de Gaulle par l'image et le son, principalement avec des documents audiovisuels.