En 1957, au mois de mars, un groupe de passionnés créent l'Association du Musée des Transports Urbains, Interurbains et Ruraux, suite à un voyage sur les tramways de Versailles peu de temps avant leur suppression. Leur objectif est alors de créer un musée des transports urbains. Grâce à l'aide de la RATP et au dynamisme de son fondateur Jean Robert, ils obtiennent la possibilité de garer la collection dans une partie du dépôt de Malakoff.
En 1964, le musée est ouvert au public. C'est le premier musée ferroviaire français – avant celui de Mulhouse – et il n'existe guère à l'époque, pour le chemin de fer, que quelques salles qui lui sont consacrées dans des musées municipaux. Hormis la présentation au public des collections acquises, l'association organise des expositions temporaires ou des parcours en autobus anciens.
La collection évolue au rythme des acquisitions. Celles-ci concernent des tramways, des autobus et des trolleybus, mais aussi des locomotives à voie étroite. Les opportunités ne manquent pas, durant cette période. Tous ces véhicules s'accumulent, et dépassent les limites du cadre d'exposition qu'offre le dépôt de Malakoff.
En 1971, le transfert des collections vers le dépôt de Saint-Mandé est décidé, ce dernier étant plus vaste et proche du bois de Vincennes. Le musée de Saint-Mandé ouvre ses portes en 1974. Devant être détruit, il ferme en 1998. Pendant cette période, l'association a pu récupérer un nombre élevé de véhicules routiers et de tramways étrangers divers.
En 2001, la collection quitte Saint-Mandé et est alors entreposée à Colombes dans la perspective de la réalisation d'un nouveau musée. Hélas, le projet est abandonné par la nouvelle municipalité UMP élue en mars 2002.
En 2007, le musée quitte Colombes pour Chelles, municipalité qui s'est portée volontaire pour implanter le musée, sur le site de l'ancien triage de Vaires. Ceci doit permettre d'augmenter la surface d'exposition et de laisser place à un nouvel atelier de maintenance pour la ligne 2 du tramway d'Île-de-France.
La réouverture initialement prévue pour 2009, a été reportée à une date ultérieure, dans l'attente de l'aménagement de nouveaux locaux d'exposition à construire à l'occasion du réaménagement de la zone de triage SNCF.
Dans l'attente de cette réouverture, les collections ne sont visibles presqu'uniquement que lors des journées du patrimoine, au mois de septembre. Depuis 2003, le musée des transports porte le statut de Musée de France.
