Coblentz est né à North Lima, Ohio de parents d'origine Allemande et Suisse. Sa mère Catherine est décédée lorsque Coblentz avait un peu moins de trois ans, le laissant temporairement dans une famille ne comptant que son tout jeune frère Oscar et son père David. Cependant, le père se remaria environ 2 ans plus tard et Coblentz semble avoir admiré sa deuxième mère. Tout au long de son enfance et adolescence, sa famille a vécu sur une exploitation agricole, mais, apparemment, sans parvenir à devenir propriétaire. La famille est très modeste, ce qui a retardé l'éducation de Coblentz, qui ne termina ses études secondaires (Youngstown, Ohio) qu'en 1896, à l'âge de 22 ans.
Coblentz entra à la Case Western Reserve University à l'automne 1896, et obtint son baccalauréat ès sciences en physique en juin 1900 puis son MS en 1901 et son Ph.D. 1903 à la Cornell University à Ithaca, New York. Il demeura deux ans supplémentaires à Cornell, comme chercheur, avec le soutien de Carnegie Institution. Au printemps de 1905, Coblentz a accepté un poste au National Bureau of Standards (maintenant National Institute of Standards and Technology, NIST), à Washington DC, où il a passé toute sa carrière. En 1905, il a fondé la section radiométrie du Bureau, qu'il dirigé pendant 40 ans jusqu'à sa retraite en 1945.