Le territoire occupé maintenant par Karachi était à l'origine un groupe de petits villages comprenant Kalachi-jo-Kun et le fort de Manora. Toute histoire de Karachi antérieure au XIX siècle est quasi-inexistante bien que selon certaines légendes, ce serait en fait la ville appelée « Krokola » de laquelle partit l'un des amiraux de Alexandre le Grand à la fin de ses conquêtes.
L'histoire officielle et répertoriée de Karachi commence avec l'arrivée des Britanniques au milieu du XIX siècle. En 1839 un vaisseau appartenant à la « Royal Navy » tire sur le fort de Manora et obtient la capitulation immédiatement. Quelques années plus tard, Karachi devient la capitale du Sindh à la place de la ville historique de Hyderabad du fait du magnifique port de Karachi.
Sous l'occupation britannique, Karachi se développe en même temps que son port. En 1876 le futur fondateur du Pakistan, Muhammad Ali Jinnah, naît dans cette ville et y sera plus tard enterré. À l'approche du nouveau siècle, Karachi devient un des plus grands ports d'exportation de blé à l'est. La ville possède alors un réseau ferroviaire, des églises, des rues pavées, des cours et de nombreux centres commerciaux. Beaucoup de ces bâtiments sont construits dans le plus pur style britannique et contrastent avec le gothique « Mughal » de Lahore. Plusieurs de ces vieux bâtiments ont résisté et sont désormais des destinations intéressantes pour les touristes.
Avec le XX siècle, Karachi commence à se développer de façon plus diverse avec l'arrivée de travailleurs provenant de tout le Sud de l'Asie et plus généralement de l'ensemble de l'empire britannique.
En 1947, Karachi est élevée au rang de capitale de la nouvelle nation du Pakistan. À cette époque, c'est seulement une ville de 400 000 habitants et sa croissance s'accélère. Bien que la capitale fut plus tard transférée à Rawalpindi puis à Islamabad, Karachi reste le centre économique du Pakistan contribuant à une large partie du PIB de la nation.
Ces 20 dernières années, Karachi a continué à s'agrandir, dépassant la barre des 10 millions d'habitants. C'est une ville où se côtoient tous les milieux allant des quartiers chics de Clifton et de la Défense aux nombreux « ghettos » où vivent les nombreux migrants à la recherche d'opportunités. Karachi est touchée par la criminalité comme toutes les grandes villes et connaît elle aussi les conflits ethniques qui secouent le Pakistan. Elle fut même durant les années 80 un des épicentres de ces conflits et continue à assister à la violence religieuse entre Sunnites et Chiites.
Le 11 septembre 2002, Ramzi Binalshibh a été capturé dans cette ville.