Sous l'Ancien Régime, les Parisiens ne bénéficient que d'un faible approvisionnement en eau potable et souvent de mauvaise qualité (pollution de la Bièvre, de la Seine), malgré l'existence d'aqueducs et de puits.
Napoléon Bonaparte, alors Premier consul, décide, en 1802, de remédier à cette situation afin d'éviter de nouvelles épidémies dues aux mauvaises conditions d'hygiène (dysenterie, choléra). Gaspard de Chabrol, le préfet de la ville de Paris, propose alors que l'on reprenne un projet de canalisation de l'Ourcq (prenant sa source à une centaine de kilomètres au nord-est de Paris) datant déjà du XVI siècle.
La création du canal Saint-Martin est décidée par la loi du 29 floréal an X, avec celle des canaux Saint-Denis et de l'Ourcq. La construction des canaux est retardée par la situation de la France entre 1809 et 1815. Puis Louis XVIII relance le projet en y confirmant l'ingénieur Pierre-Simon Girard. Il faut trouver des financements : le préfet Chabrol propose de recourir à des capitaux privés. En 1818, la Compagnie des Canaux de Paris se crée. Elle remporte l'adjudication ouverte par la Ville de Paris en novembre 1821 pour la construction du canal Saint-Martin en concession privée, pour un montant de 5,4 millions de francs de l'époque. Aussitôt, une nouvelle compagnie, la Compagnie du canal Saint-Martin, est créée pour mener à bien le chantier. Le préfet de la Seine pose la première pierre le 3 mai 1822. Le nouveau canal est inauguré par Charles X le 4 novembre 1825.
Le canal connaît son âge d'or du XIX au milieu du XX siècle, et la circulation y est intense : le canal Saint-Martin apporte non seulement de l'eau potable à la ville, mais aussi des marchandises, de l'approvisionnement (céréales) et des matériaux de construction jusque dans le cœur de Paris. Les deux principaux ports disponibles sur le tracé du canal intra-muros sont le port de l'Arsenal et le bassin de la Villette.
La concurrence du transport routier et ferroviaire met à mal le transport fluvial dès les années 1960, causant une chute du trafic sur les canaux parisiens et, par conséquent, une disparition des usines, entrepôts et ateliers, ainsi que de la population ouvrière longeant le canal.
Le canal faillit disparaître, au début des années 1970, lorsque le Conseil de Paris voulut adopter un projet d'autoroute urbaine à quatre voies devant emprunter son tracé*.* Ce projet fut vite abandonné.
Pendant l'hiver 2006-2007, l'association Les Enfants de Don Quichotte y installe quelques 200 tentes pour alerter l'opinion sur les conditions de vie des sans domicile fixe. Cette opération a un grand retentissement médiatique, mettant en avant les problèmes de mal-logement.
