Par le décret du 17 août 1853, la Compagnie du chemin de fer de Paris à Strasbourg se voit concéder une ligne de Paris à Mulhouse avec son embranchement vers Coulommiers, ainsi que deux autres lignes, de Nancy à Gray par Épinal, et de Paris à Saint-Maur via Vincennes. Cet ensemble est à réaliser par la Compagnie, à ses risques et périls, et ce, sans les subventions et garantie d'intérêt accordées avec les concessions de 1852.
Le tracé est établi par Nogent-sur-Seine, Troyes, Chaumont, Langres, Vesoul et Belfort. Il emprunte sur 71 kilomètres de Nogent-sur-Seine à Troyes la ligne Montereau - Troyes, déjà construite en 1848, et que la Compagnie est autorisée à racheter, mais avec obligation de rembourser le prêt de trois millions de francs consenti par le Trésor à la Compagnie du chemin de fer de Montereau à Troyes. Le tracé emprunte également sur 33 kilomètres de Chaumont à Langres la ligne de Blesme à Gray, restant à construire, également acquise par la Compagnie, qui renonce à la garantie d'intérêt stipulée par le décret de concession de mars 1852.
Le 28 septembre 1853, la Compagnie du chemin de fer de Paris à Strasbourg devient la Compagnie des chemins de fer de l'Est ; son capital social est porté de 125 à 250 millions de francs. À cette occasion, le tracé précis est dévoilé : il relie Paris à Mulhouse par un tracé de 481 kilomètres, au lieu de 630 par Strasbourg. Il faut en construire 381 kilomètres, pour un montant officiellement estimé en 1852 à 101,2 millions de francs, soit 275 000 francs du kilomètre. La ligne se débranche de la ligne Paris - Strasbourg à Noisy-le-Sec, à neuf kilomètres de la capitale. Elle se joint à la ligne Strasbourg - Bâle à Mulhouse. Les travaux sont confiés à l'entreprise de MM. Parent et Shaken, le tracé étant réparti en quatre sections : de Noisy-le-Sec au chemin de fer de Montereau à Troyes, de Troyes à Chaumont, de Langres à Vesoul, et de Vesoul à Mulhouse.
La ligne comporte plusieurs ouvrages d'art d'importance : huit viaducs, quatorze grands ponts, sept tunnels totalisant près de cinq kilomètres. Les travaux nécessitent quatorze millions de mètres cubes de terrassements. Elle est ouverte par étapes de 1856 à 1858.
Le premier tronçon de la ligne n'est long que de six kilomètres. Il se détache de la grande ligne Paris - Strasbourg à Noisy-le-Sec, à neuf kilomètres de l'embarcadère de Strasbourg (gare de Paris-Est), suit le vallon de Rosny et atteint Nogent sur le coteau dominant la rive droite de la Marne. La station terminus provisoire se situe au sud du village, à proximité du futur viaduc jeté sur la vallée. Le tronçon est inauguré le 7 juillet 1856 : huit allers-retours relient Paris à Nogent les jours ouvrables, quinze les dimanches et jours fériés, avec l'importante fréquentation des parisiens flânant dans la vallée de la Marne. Les trains desservent Pantin, Noisy-le-Sec et Rosny-sous-Bois.
Entre Nogent-sur-Marne et Nangis (53 kilomètres), la ligne se situe pour l'essentiel sur le plateau de la Brie, calcaire et meulièrisée en surface, et forme de longs alignements droits à travers bois et champs. Elle ne nécessite aucun ouvrage d'importance ; seuls quelques ponceaux sont réalisés pour le franchissement de rus, ainsi que de nombreux passages à niveau. Toutefois, le franchissement de la vallée de la Marne à Nogent impose la réalisation d'un ouvrage remarquable, un ensemble pont-viaduc de près de mille mètres de développement, possédant quatre arches en plein cintre de cinquante mètres de diamètre, de vingt-cinq mètres de hauteur, supportées par des piles de sept mètres de largeur. Celles-ci forment un pont sur les deux bras de la Marne et l'Île des Loups. Le viaduc proprement dit est constitué de vingt-cinq arches de quinze mètres d'ouverture et de vingt mètres de hauteur. Il se prolonge par un viaduc identique de cinq arches sur la rive gauche.
La ligne atteint Nangis le 9 février 1857 : les neuf gares intermédiaires restent, pour certaines, inachevées. Dès avril 1857, la ligne atteint Chaumont.
Le 25 avril 1857, la ligne atteint la bifurcation de Flamboin, sur la ligne Montereau - Troyes ouverte en 1848, et achève la traversée du plateau de la Brie. Elle descend vers la vallée de la Seine par le vallon de Saint-Loup. Des glissements de terrain, dus à un sol argileux à flanc de coteau, empêchent le maintien de tranchées ouvertes, et imposent la réalisation d'un tunnel de 120 mètres de long. Ce tunnel débouche sur la vallée de la Voulzie, que la ligne franchit par un viaduc de 487 mètres de long et de 20,70 mètres de haut. Formé de 47 arches de neuf mètres d'ouverture, il est fondé en pleine tourbe sur pilotis.
La ligne Montereau - Troyes, réutilisée sur soixante-et-onze kilomètres, est modernisée ; mise à double voie, ses stations sont également agrandies pour faire face à l'augmentation du trafic. Au sud, l'ancienne gare en impasse de Troyes est abandonnée : un nouvel itinéraire est réalisé, permettant de créer un tronc commun sur quatre kilomètres environ avec l'embranchement prévu vers Bar-sur-Seine, concédé à la Compagnie de l'Est le 21 janvier 1857.
Lancé le 2 juin 1957 sur la ligne entre Paris-Est et Zurich (via Troyes, Mulhouse et Bâle), le TEE L'Arbalète fait parties des premières lignes Trans-Europ-Express de la SNCF. Les matériels engagés étaient du RGP1 (X 2700 + X 2770) de la SNCF, puis une rame diesel hollando-suisse (CFF/NS) en 1964, et enfin la locomotive CC 72000.
La rame était composé d'une RG1 TEE rouge Paris-Bâle à laquelle était rattachée en queue une RGP1 verte limitée au parcours Paris-Mulhouse.
Ce TEE a effectué son dernier jour de circulation entre Paris-Est et Zurich le 26 mai 1979 et est remplacés par des Intercités.