La date de fondation de Pavie n'est pas connue mais date probablement de l'époque romaine ; elle porte d'abord de nom de son fleuve, Ticinum. Camp militaire, la ville prend de l'importance en 187 av. J.-C. lorsque qu'elle est atteinte par une prolongation de la Via Emilia. Peu de choses sont connues sur Ticinum : il s'agit d'un municipium, un arc de triomphe y est érigé en l'honneur d'Auguste et devient un atelier monétaire aux III et IV siècles. Cornélius Népos y naît probablement. Le centre historique de Pavie, un quadrilatère d'un km², possède la structure typique dérivée d'un camp romain avec ses deux axes perpendiculaire, le cardo et le decumanus.
Pavie est pillée par Attila en 452. En 476, Odoacre vainc Flavius Oreste à Pavie après un long siège. En représailles, Odoacre détruit complètement la ville. Après les conquêtes lombardes, Pavie devient la capitale du nouveau royaume lombard en 568, sous le nom de Papia. Théodoric y construit un palais, des bains, un amphithéâtre et une nouvelle enceinte.
En 774, après un siège, Charlemagne conquiert Pavie et capture Didier de Lombardie, assumant la couronne du royaume lombard. Pavie reste cependant la capitale du royaume d'Italie ; les couronnements royaux ont lieu dans la basilique San Michele Maggiore.
Au XII siècle, Pavie acquiert le statut de commune autonome. Dans la lutte entre guelfes et gibelins, Pavie est traditionnellement gibeline, une position causée à la fois par sa rivalité avec Milan que comme attitude de défi envers l'Empereur. Lors du traité de Pavie en 1329, l'Empereur Louis IV accorde le Palatinat aux descendants de son frère, le duc Rodolphe I. Pavie lutte contre la domination de Milan mais est finalement annexée par la famille Visconti, ducs de Milan, en 1359. Sous les Visconti, Pavie devient un centre intellectuel et artistique. L'université de Pavie est fondée en 1361 à partir d'une ancienne école de droit pré-existante et attire des étudiants de nombreux pays.
En 24 février 1525, la bataille de Pavie voit la victoire de Charles Quint sur François I. Elle débouche sur une période d'occupation espagnole qui dure jusqu'en 1713. Pavie est alors gouvernée par l'Autriche jusqu'en 1796, puis conquise et mise à sac par les Français de l'armée d'Italie. En 1815, elle repasse sous contrôle autrichien.
Après la campagne d'Italie, Pavie est réunie, comme le reste de la Lombardie, au royaume de Sardaigne. L'unification italienne conduit à la proclamation du royaume d'Italie un an plus tard.