Vers le milieu du XIXe siècle, la construction des premières radiales ferroviaires françaises au départ de Paris est réalisée sans aucun plan d'ensemble visant à raccorder les gares terminales des différentes compagnies. Durant une dizaine d'années, celles-ci ont pu établir à leur guise leur propre gare sur des terrains périphériques encore quasiment vierges de bâtiments : gare de Saint-Lazare, de la Compagnie de Paris à Saint Germain (1837) ; gare Montparnasse, de la Compagnie de Versailles-Rive Gauche (1840) ; gare d'Austerlitz, de la Compagnie de Paris à Orléans (1840) ; gare du Nord, de la Compagnie du Nord (1846) ; gare de la Barrière d'Enfer (Gare de Denfert-Rochereau), de la Compagnie de Sceaux (1846) ; gare de Lyon, de la Compagnie de Paris à Lyon (1849) ; et la gare de Strasbourg (puis de l'Est) de la Compagnie de Paris à Strasbourg (1849).
Cette situation chaotique fait de la capitale un point de rupture de charge obligatoire, les échanges des voyageurs et des marchandises entre les sept terminus parisiens s'effectuant tant bien que mal par une voirie urbaine au tracé encore incomplet. Par ailleurs, la ville de Paris se dote à partir de 1841 de fortifications pour protéger ses nouvelles limites ; il s'avère nécessaire de pouvoir les approvisionner depuis l'intérieur de la ville fortifiée, que ce soit en soldats, en ravitaillement ou en armement.
Les compagnies étant réticentes à réaliser un système d'échange entre elles, c'est le gouvernement qui s'intéresse au raccordement des gares de Paris par une ligne circulaire dont le tracé s'inscrit dans la nouvelle enceinte fortifiée et dont le chantier procure du travail aux chômeurs de la ville. Cette ligne de « ceinture » est construite aux frais de l'État, qui contribue pour quatre millions de francs au projet, avec une contribution forfaitaire d'un million de francs pour les cinq compagnies concernées (de Rouen, d'Orléans, de Strasbourg, du Nord et de Lyon), qui doivent en outre se réunir en syndicat pour l'exploitation commune de la jonction. Le prolongement du chemin de fer de ceinture sur la rive gauche de la Seine entre Auteuil et le gare d'Orléans est déclaré d'utilité publique par décret le 14 juin 1861, pour un coût de vingt-deux millions de francs.
À l'origine, cette ligne de 32 kilomètres de long a un double intérêt : relier entre elles les lignes radiales qui partent des grandes gares parisiennes et permettre les échanges de fret entre les réseaux, et desservir les fortifications de Paris par l'intérieur pour des raisons stratégiques. La ligne de Petite Ceinture court donc le long des boulevards des Maréchaux, soit sur des viaducs, soit en tranchée, parfois dans des tunnels.
La première section de la Ceinture est mise en service le 11 décembre 1852 des Batignolles jusqu'aux voies de la compagnie du Nord, à La Chapelle, puis les mises en service se succèdent : 25 mars 1854, de La Chapelle à Bercy, le 2 mai 1854 pour la ligne d'Auteuil, le 25 février 1867 le chemin de fer de Rive Gauche (Auteuil à Ivry, via Grenelle), puis l'embranchement du Champ de Mars. Le dernier tronçon de la ligne est livré le 25 mars 1869 : un raccordement direct entre Clichy (ceinture rive droite) et Courcelles (ligne d'Auteuil).
La nouvelle ligne est rapidement utile : durant la guerre de 1870, elle sert à transporter huit cent mille hommes de troupe du 16 juillet 1870 au 17 mars 1871. Toutefois, la guerre met en évidence la capacité insuffisante de la ligne, ce qui aboutit à la création de la Grande Ceinture, qui ouvre en 1877, amenant à la réduction progressive du trafic de fret en transit, et libérant des sillons pour le service des voyageurs.
Rive droite, la ligne avait d'abord été construite à niveau. Les passages à niveau sont supprimés pour l'Exposition universelle de 1889, par relèvement de la plate-forme d'environ cinq mètres, à l'est, notamment cours de Vincennes, et par abaissement de la plate-forme sur six à sept mètres, au nord. Il convient de rappeler que ceci avait été fait dans le but de faciliter la circulation aux carrefours.
Un rapport est transmis au Conseil municipal de Paris le 7 juin 1931 : il conclut à la fermeture de la ligne au trafic voyageurs. Son auteur, Georges Prade, précise qu'au plus haut de l'activité de la ligne dans les années 1890-1900, le trafic voyageurs n'a jamais représenté plus de 10 % du total des transports urbains de Paris intra-muros et, qu'en 1930, il dépasse à peine 1 %. La suppression des trains de voyageurs est alors décidée : elle est effective le 1er avril 1934. Le 16 juillet suivant, la ligne d'autobus de petite ceinture remplace le service ferroviaire.
En 1855, la Ceinture (Rive droite) transporte 780 000 t de fret, dont 20 000 t en trafic local et le reste en transit entre les grands réseaux.
Le trafic voyageurs commence le 14 juillet 1862 entre Batignolles-Clichy et La Rapée-Bercy, puis, progressivement, il concerne toute la ligne. Le trafic voyageurs passe de 5 millions en 1878 à 39 millions en 1900, année record liée à l'exposition universelle. Après cette date, le trafic voyageurs baisse avec l'ouverture progressive du métro par la Compagnie du chemin de fer métropolitain de Paris (CMP) et la Société du chemin de fer électrique souterrain Nord-Sud de Paris (le Nord-Sud), malgré une amélioration lors de la desserte de l'exposition coloniale de 1931 par la station Claude Decaen.
Après plusieurs tentatives infructueuses pour céder la ligne à la Compagnie du chemin de fer métropolitain de Paris (CMP), le Syndicat de la Ceinture, confronté à d'importantes difficultés financières, obtient de l'État l'autorisation de supprimer le service voyageurs le 22 juillet 1934.
La Société des transports en commun de la région parisienne (STCRP), ancêtre de la Régie autonome des transports parisiens (RATP), met immédiatement en service une ligne de bus, la ligne PC (aujourd'hui remplacée par les trois lignes de bus PC1, PC2, PC3 et au sud par la ligne de tramway T3).
La partie ouest, entre Pont-Cardinet et Auteuil, connue sous le nom de ligne d'Auteuil, est exploitée jusqu'en 1985, date de début des travaux de la branche nord du RER C, mise en service en 1988. Le raccordement entre Pont-Cardinet et Pereire - Levallois n'est pas intégré à la ligne C ; il est exploité jusqu'en juillet 1996 en navette, remplacée depuis par des bus.
Le viaduc d'Auteuil reliant le boulevard Victor dans le 15e arrondissement à la porte d'Auteuil dans le 16e et qui franchissait la Seine a été démoli en 1962 et remplacé par un pont à un seul niveau (baptisé Pont du Garigliano), supprimant la connexion entre l'Ouest et le Sud du réseau.
À partir de 1934, la ligne de Petite Ceinture n'est plus utilisée que par des trains de marchandises. Au sud, elle dessert les usines Citroën de Grenelle (aujourd'hui parc André-Citroën) jusqu'en 1976, les abattoirs de Vaugirard (actuellement parc Georges-Brassens) jusqu'en 1979 et la gare de Paris-Gobelins (sous le quartier des Olympiades dans le 13e arrondissement) jusqu'en 1991. Au nord et à l'est, les lignes sont utilisées pour les transfert de trains entre gares jusqu'à la fin des années 1980. Le trafic de trains de marchandises se poursuit jusqu'au début des années 1990.
La ligne de la Petite Ceinture est exploitée à l'origine par une société anonyme administrée par un syndicat constitué par deux membres de chaque compagnie fondatrice. Le 22 janvier 1853, le syndicat est officiellement créé, mais la constitution de la société anonyme est plus complexe car le Conseil d'État n'homologue pas ladite société pour des questions d'ordre financier et des vices de forme.
Dans le sens des aiguilles d’une montre, on trouve en commençant à l’ouest :
Outre les gares voyageurs, la ligne comportait également cinq gares à marchandises qui servaient à assurer le trafic local parisien :