En Europe, il niche dans les forêts septentrionales de Scandinavie (en Islande, en Norvège, en Finlande) et du nord de la Russie et de la Sibérie jusqu'à l'océan Pacifique. On le retrouve aussi en Écosse. C'est un migrateur partiel, selon la rigueur de l'hiver. À cette saison, on va le trouver au Danemark, sur la côte sud de la mer du Nord, en Allemagne et au Bénélux. Quelques-uns arrivent en Écosse, en Suisse (lac Léman), en France sur la Seine, la Loire et en Allemagne sur le Rhin. En Russie, les harles se retrouvent sur la mer Noire, la mer d'Azov et dans le nord de la mer Caspienne.
En France quelques harles bièvres nichent sur le lac Léman, le lac d'Annecy et le lac du Bourget.
Il est aussi présent en Amérique du Nord : États-Unis, Canada (Québec). Au Canada, le Grand Harle niche au sud du Yukon, en Colombie-Britannique, au nord de l'Alberta, du Manitoba et de la Saskatchewan, en Ontario, dans le sud du Québec, au sud du Labrador, à Terre-Neuve, au Nouveau-Brunswick, en Nouvelle-Écosse et à l'Ile du Prince-Édouard. Aux États-Unis, les Harles hivernent jusqu'au sud de la Californie, au nord du Mexique, dans les états longeant la côte du Golfe du Mexique et en Floride.