Le succès de la ligne de chemin de fer de Saint-Étienne à Lyon, ouverte entre 1830 et 1832, fait rapidement prendre conscience à l'État de l'importance du développement de ce nouveau mode de transport. En effet, la rapidité et l'économie réalisée grâce au chemin de fer apportent un développement économique immédiat à la région stéphanoise au début des années 1830. Il apparaît donc comme essentiel de réaliser une ligne au départ de la capitale, pour faire connaître au public ce nouveau moyen de transport, et d'amener un intérêt de la part des hommes politiques, financiers et futurs ouvriers de la profession.
Ce sont les frères Pereire (voir galerie ci-dessous) qui, les premiers, proposent la construction d'une ligne au départ de Paris, et en demandent la concession dès 1832. Ils l'obtiennent le 9 septembre 1835 et créent la Compagnie du Chemin de fer de Paris à Saint-Germain pour en gérer la création et l'exploitation. Cette ligne doit relier la capitale à Saint-Germain-en-Laye, lieu de promenade dominical apprécié des parisiens, dont la proximité de Paris permet de limiter les investissements à consentir. De plus, sa position à l'ouest de Paris permet de faire ce tronçon à construire un premier maillon de la grande ligne de Rouen, considérée comme prioritaire à réaliser.
Le tracé, long de dix-neuf kilomètres, est situé en plaine et ne présente aucune difficulté de construction. Il ne comprend ni rampe importante, ni courbe serrée. Ce tracé est peu exigeant en termes de construction d'ouvrages d'art : un pont sur la Seine à Asnières et un autre à Chatou. On se contentera au début de simples ponts en bois. Les travaux sont rapidement menés sous la direction d'Eugène Flachat (voir galerie ci-dessous), le tracé ne posant aucun problème d'expropriation. Il ne traverse en effet que des champs et des forêts sur l'essentiel du parcours au-delà de Clichy. À l'époque, le terminus de la ligne se situe au port du Pecq, sur la rive droite de la Seine. Les locomotives sont en effet incapables d'affronter la rampe nécessaire à l'ascension du coteau de Saint-Germain, qui domine le fleuve de plusieurs dizaines de mètres. La ligne n'est dotée que d'une voie unique, sans même le moindre évitement intermédiaire pour le croisement des trains.
Si la construction de la ligne ne pose pas de problème, en revanche, le positionnement de l'embarcadère dans Paris fait l'objet de débats houleux. Les frères Pereire souhaitent un embarcadère - nom d'une gare à cette époque - place de la Madeleine, avec un viaduc rue Tronchet en direction des Batignolles. Mais suite aux protestations des riverains, l'embarcadère est finalement placé en contrebas de la place de l'Europe. Les installations sont sommaires, et on y accède par des rampes et escaliers.
L'inauguration de la ligne a lieu le 24 août 1837 en présence de la famille royale et notamment de la reine Marie-Amélie, mais en l'absence de Louis-Philippe. Ce dernier préférait alors voyager en voiture à cheval et le gouvernement l'avait dissuadé d'exposer sa personne aux risques d'un tel voyage. Le parcours inaugural est effectué en 25 minutes. L'inauguration rencontre un écho considérable et est longuement relatée par la presse. Le surlendemain, le 26 août, la ligne est ouverte au public, et les parisiens se pressent pour découvrir le nouveau chemin de fer à l'embarcadère de la place de l'Europe : 18 000 voyageurs sont transportés le premier jour d'exploitation.
Les Parisiens apprécient la rapidité du transport qui s'effectue en moins d'une demi-heure. Le progrès est considérable par rapport aux coucous, voitures tirées par un cheval, mettant cinq à six heures pour effectuer le parcours des Tuileries à Saint-Germain.
Aux débuts de l'exploitation, dix allers-retours par jour sont mis en œuvre, à l'aide d'une seule rame. Les départs sont fixés toutes les heures et demi, de 6 heures à 12 heures le matin, puis de 2 h 30 à 8 h 30 le soir. Le départ du Pecq a lieu 45 minutes plus tard. Mais cette exploitation précaire s'améliore quelques mois plus tard, avec la pose d'une seconde voie dès 1838. La même année, les premières gares à Nanterre et Chatou sont ouvertes, puis deux autres à Rueil et Colombes en 1844.
La mise au point en Angleterre de la technique du chemin de fer atmosphérique permet d'envisager le prolongement en forte rampe du Pecq à Saint-Germain. Ce système sépare en effet l'effort de traction de l'adhérence.
Les travaux du prolongement sont lancés en 1845 ; ils consistent en la réalisation d'un pont en bois sur la Seine, suivi d'un viaduc en maçonnerie de vingt arches. Le tracé atteint le centre de Saint-Germain-en-Laye en passant sous la terrasse du château, par deux tunnels successifs. La gare terminale est implantée en tranchée dans le parc du château, rompant au passage la symétrie des parterres de Le Nôtre, mais sans susciter, semble-t-il, de protestation. La ligne est ainsi prolongée le 15 avril 1847 de 1,5 kilomètre, en rampe de 35 mm/m, considérable pour un chemin de fer.
À l'aller, la voie montante possède dans son axe un tube en fonte de soixante-trois centimètres de diamètre, fendu à son sommet, mais dont l'étanchéité est garantie par deux lèvres de cuir. Il contient un piston solidaire du châssis d'une voiture-directrice, écartant les lèvres du tube qui se referment après son passage, ce qui permet de l'aspirer et de lui faire gravir la pente. Des pompes créent le vide dans le tube, ce qui attire le piston et tracte la voiture-directrice (voir galerie ci-dessous), qui tire les voitures comme une locomotive classique. Ces pompes sont actionnées par deux machines à vapeur d'une puissance de deux cents chevaux, placées entre les deux tunnels de Saint-Germain. Elles produisent un débit d'air de quatre mètres cubes par seconde, suffisant pour déplacer un convoi dans la montée à la vitesse de 35 km/h.
Au retour, le train redescend par simple gravité jusqu'au Pecq, où la machine à vapeur de l'aller l'attend pour le tracter jusqu'à Paris. Le système fonctionne tant bien que mal, mais les rapides progrès techniques avec l'arrivée de locomotives plus puissantes le font abandonner dès 1860 pour une classique traction à vapeur par simple adhérence. À partir du 3 juillet 1860, une locomotive (voir galerie ci-dessous) de type 030 se place au Pecq en queue de train et assure la pousse en renfort de la machine de tête. Ce fonctionnement se poursuit durant plus de soixante ans jusqu'à l'électrification de la ligne.
Eugène Flachat ingénieur et premier directeur de la ligne | Wagon directeur du chemin atmosphérique, supprimé en 1859 |
La croissance démographique des communes traversées par la ligne poussent à ouvrir de nouveaux points d'arrêt. La gare du Vésinet est ouverte en 1859 lorsque débute le lotissement de la forêt. Cette année là, la ligne est desservie à raison de seize allers et retours quotidiens, avec un train par heure, elle transporte 2 300 000 voyageurs. Ils sont 4 200 000 vingt ans plus tard, avec alors vingt-deux allers et retours par jour. Le temps de parcours de bout en bout atteint quarante-sept minutes, mais il est réduit à trente-trois minutes par la création de trains semi-directs de Paris à Rueil-Malmaison.
Contrairement à ce que projetait Pereire, la ligne n'est pas prolongée au-delà de Saint-Germain-en-Laye, mais plusieurs autres lignes se greffent à la ligne et se débranchent en plusieurs points de son parcours. C'est d'abord la ligne de Paris-Saint-Lazare à Versailles-Rive-Droite qui est créée en 1839, elle se débranche à Asnières pour suivre la rive gauche de la Seine jusqu'à Saint-Cloud. C'est ensuite au tour de la ligne Paris - Le Havre en 1843, qui se détache à Colombes de la ligne Paris - Saint-Germain et se dirige vers Poissy, Mantes-la-Jolie et Rouen. Avec l'accroissement constant du nombre de trains, le modeste embarcadère de l'Europe est très vite trop exigu. En 1843, les voies sont prolongées de trois-cents mètres vers le sud, le long de la rue d'Amsterdam, et une nouvelle gare est édifiée sur la rue Saint-Lazare, dont elle prend le nom.
D'autres lignes se greffent à leur tour à ce tronc commun, la ligne d'Argenteuil en 1851, à partir d'une bifurcation à Asnières, puis la ligne d'Auteuil en 1854, qui se débranche dans le quartier des Batignolles, à Paris. Toutes sont créées par des compagnies distinctes, qui doivent faire circuler leurs trains sur les mêmes voies, malgré les ajouts successifs, et cohabiter dans la même gare tête de ligne, ce qui pose des problèmes croissants d'exploitation. Afin d'y mettre fin, les diverses compagnies, ainsi que celles desservant la gare Montparnasse et celle exploitant la ligne des Invalides, fusionnent en 1855 et forment la Compagnie des chemins de fer de l'Ouest. Grâce à ses nombreuses lignes desservant finement la banlieue ouest de Paris, la gare Saint-Lazare devient alors la plus importante de Paris par son trafic, qui double tous les vingt à vingt-cinq ans durant plus d'un siècle.
La superposition des courants grandes lignes et banlieue entraînent la création d'un nouvel itinéraire par la compagnie de l'Ouest afin de mieux séparer les flux : en 1892, la ligne de Saint-Germain est déviée par Bécon-les-Bruyères et La Garenne, et ne dessert plus Colombes-Embranchement (Bois-Colombes). L'année suivante, la desserte par zone est mise en place, avec création de terminus intermédiaires ou s'arrêtent les trains omnibus de petite banlieue, les trains desservant la grande banlieue étant directs de Paris à ces terminus partiels.
Dès la fin du XIXe siècle, la compagnie de l'Ouest envisage l'électrification de ses lignes de banlieue. En effet, l'accélération médiocre des locomotives à vapeur ainsi que les inévitables mouvements de locomotives dans les gares terminales, malgré les progrès de l'exploitation, réduisent le débit des lignes. De plus, l'exploitation vapeur de lignes de banlieue au trafic dense amène un déficit croissant. Mais en 1908, la situation financière critique de la Compagnie entraîne son rachat par l'État, qui reprend l'exploitation des lignes le 1er janvier 1909.
L'électrification de la ligne est réalisée progressivement de 1924 à 1927, avec alimentation en courant continu 650 V par 3e rail. L'électrification atteint Rueil en juin 1926, puis Saint-Germain en mars 1927. L'alimentation est convertie au système par caténaire en septembre 1966 jusqu'à Nanterre - Université, puis en octobre 1972 pour le tronçon Nanterre-Saint-Germain, mais en courant continu 1500 V en vue de son incorporation dans la ligne A du RER. La gare de Nanterre - Université est donc un point de contact des deux types de courant.
Durant les années 1960, le tronçon terminal de la ligne de Saint-Germain est destiné à intégrer la nouvelle ligne Est-Ouest du métro régional. Cette modification permet par contrecoup de réduire le nombre de dessertes assurées à partir de la gare Saint-Lazare, alors proche de la saturation.
L'intégration du tronçon Nanterre - Saint-Germain-en-Laye impose d'importants travaux d'adaptation, en particulier la réélectrification par caténaire en courant 1500 volts continu pour la circulation du matériel MS 61. La totalité des gares du tronçon sont également reconstruites.
Le 1er octobre 1972, le tronçon Nanterre - Université - Saint-Germain est cédé par la SNCF à la RATP pour être incorporé dans la ligne A du RER. Le tracé d'origine est alors scindé en deux, la première partie de la gare Saint-Lazare à la gare de Nanterre - Université sur le réseau Transilien Paris Saint-Lazare, et la deuxième de la gare de Nanterre - Université (à l'époque « La Folie - Complexe universitaire ») à la gare de Saint-Germain-en-Laye sur la ligne A du RER.