Stern étudia la chimie physique à l'université de Breslau de 1906 à 1912, année où il obtint son doctorat, et où il partit pour Prague rejoindre Albert Einstein à l'université. Il suivit Einstein lorsque celui-ci partit l'année suivante (1913) occuper la chaire de physique à l'ETH de Zurich. En 1914 il poursuit ses recherches à Francfort, et passe en 1915 son habilitation en chimie physique. En 1921, Stern obtient un poste de professeur associé en physique expérimentale à l'Université de Rostock et en 1923 devient professeur titulaire et directeur du tout nouvel « Institut für physikalische Chemie » de l'Université de Hambourg.
Du fait d'une ascendance en partie juive, il démissionne de son poste à Hambourg en 1933 et devient professeur de physique au Carnegie Institute of Technology de Pittsburgh. Il prit sa retraite en 1945 et, établi en Californie, reçut la distinction de professeur émérite à l'université de Californie à Berkeley.