Le cholangiocarcinome peut affecter n'importe quelle zone des voies biliaires, qu'elles soient à l'intérieur (intra-hépatiques) ou à l'extérieur du foie (extra-hépatiques). Les tumeurs apparaissant à l'endroit où les voies biliaires sortent du foie sont appelées péri-hilaires. Un cholangiocarcinome à la jonction où les voies biliaires intra-hépatiques droite et gauche se rencontrent pour former le canal hépatique commun est parfois nommé tumeur de Klatskin.
Bien que le cholangiocarcinome soit connu pour être un adénocarcinome des cellules épithéliales des voies biliaires, les cellules où il prend son origine sont inconnues bien que des indices récents pointent vers des cellules souches (pluripotentes) du foie. On pense que le cancer se développe à travers des séries de stades — depuis l'hyperplasie précoce et la métaplasie, en passant par la dysplasie, jusqu'au développement du carcinome proprement dit — en un processus similaire à celui du cancer du côlon. L'inflammation chronique et l'obstruction des conduits biliaires, et le flux de bile pathologique en résultant, sont considérés comme jouant un rôle dans cette progression.
Histologiquement, ces tumeurs peuvent varier d'indifférenciées à bien différenciées.