Le jeune Joseph Poelaert participa au Salon de Bruxelles de 1836. La même année, il entre à l’Académie royale des beaux-arts de Bruxelles où il ne cache pas son admiration pour des peintres romantiques tels que Gallait, Wappers ou Antoine Wiertz. Son peintre favori est l’anglais John Martin dont les compositions audacieuses présentent des architectures quasi orientales.
Artiste de la transition entre le romantisme et le modernisme, féru de références classiques au monde gréco-romain, Joseph Poelaert commence sa carrière comme dessinateur et inspecteur des bâtisses et, ensuite architecte communal à la ville de Bruxelles (1847-1859). À ce titre, il crée une fontaine publique à la mémoire du bourgmestre Nicolas Rouppe (1846) et les plans de deux écoles communales situées boulevard du Midi (1849) et rue de Schaerbeek. Il réalise également l'aménagement de la place des Barricades (1849). Il remporte ensuite le concours de la place des Panoramas – aujourd’hui place du Congrès – où il érige la Colonne du Congrès, monument à l’Indépendance nationale.
À partir de 1850, il se consacre au projet d’une colonne consacrée au Congrès national et à l’Indépendance. Elle doit impérativement être plus grande que la colonne Vendôme à Paris, plus belle que la Colonne Trajane à Rome. Pour la représentation des Provinces en bas-relief, il fait appel au sculpteur belge Eugène Simonis. Pour la statue en pied de Léopold I qui doit couronner l’édifice, ce sera Joseph Geefs.
À la même époque, Bruxelles connaît une inondation qui ravage la quartier Sainte-Catherine. Poelaert est chargé de la construction de la nouvelle église à l'emplacement du premier bassin du port de Bruxelles. À partir de 1863, l'édification est poursuivie par Wynand Janssens. L'église n'a toutefois jamais été terminée.
Le 11 octobre 1850, Louise-Marie, reine des Belges, meurt à Ostende. Poelaert décorera la collégiale de Bruxelles pour les funérailles. La souveraine ayant fait le vœu d’être inhumée à Laeken, Léopold I décide d’ériger une nouvelle église ainsi qu’une crypte réservée à la famille royale. Les fonds nécessaires seront en partie fournis par une souscription nationale lancée à l’initiative des délégués des provinces belges. En 1851, un concours pour Notre-Dame de Laeken est organisé. Poelaert l’emporte avec un projet dans le style néo-gothique. Le roi pose la première pierre le 27 mai 1854. Elle sera consacrée le 7 août 1872 alors que le monument n’est pas encore achevé. Ce sera Léopold II, soucieux de l’embellissement des lieux, qui charge un architecte de Munich, Von Schmidt, d’achever la façade principale, les porches monumentaux et la tour centrale.
En 1852, Poelaert est l’architecte le plus prisé de la capitale belge, malgré ses sautes d’humeur, ses prolongations de délais et ses dépassements de budgets dans des proportions pharaoniques. Les critiques sont virulentes : lui sont reprochées son architecture qualifiée de massive et son ornementation jugée rudimentaire.
Son atelier et ses bureaux étaient une fourmilière immense et bourdonnante où s'affairaient, dessinateurs, ingénieurs, visiteurs de marque et curieux. Un jeune homme timide et réservé, sous la conduite du Maître aimait à s'y rendre, c'était le duc de Brabant futur Léopold II auquel Poelaert a insufflé le goût pour la grandeur architecturale et d'ailleurs il réalisera personnellement en son honneur dans la cour de l’Hôtel de Ville une salle de bal néogothique pour sa majorité et pour le mariage de celui-ci, le 10 août 1853, il décore la collégiale de Bruxelles.
En 1855, nommé architecte de la Ville de Bruxelles, il supervise six chantiers d’envergure (dont la caserne des pompiers de la rue Blaes).
Le 21 janvier 1855, un incendie ravage l’opéra de la La Monnaie. Poelaert remporte le concours pour sa reconstruction. Lors de l'inauguration, pendant le premier entr'acte, comme le raconta la presse, "« le bourgmestre a introduit Joseph Poelaert au balcon, l'architecte auquel la ville de Bruxelles doit son beau théâtre et qui fut chaleureusement ovationné par le public »".
Il démissionne de la fonction publique en 1859.