Son père Édmond Jacob, né à Reims en 1852, était caissier et comptable à la Compagnie parisienne du gaz, tandis que son grand-père Jacques Jacob (1814-1882) était boucher négociant en moutons à la suite de son père, puis marchand de biens immobiliers, marié à Minette Worms, fille d'Elias Worms (1777-1861), chantre de la synagogue de Metz. Sa mère Mathilde Schnerb (1857-1929) était fille de Simon Schnerb un fourreur tchèque qui était devenu bijoutier.
Après des études secondaires à Paris au lycée Rollin, il est admis à la section architecture de l'École des beaux-arts dans l'atelier d'Henri Deglane.
Lors de la Guerre de 1914-1918 il est fait prisonnier et il reste en captivité pendant quatre ans.
En 1919 il présente le prix de Rome d'architecture, le sujet est « le Palais pour la Ligue des Nations, à Genève », il reçoit le « deuxième second grand prix de Rome » derrière MM Jacques-Louis-René Carlu, Jean-Jacques Haffner, Eugène-Alexandre Girardin et Louis Sollier.
« L'académie des beaux-arts a jugé hier
les projets de dix architectes en loge,
concourant pour le prix de Rome. Le su-
jet proposé était : le Palais pour la Ligue
des Nations, à Genève.
Deux grands prix de Rome ont été dé-
cernés à MM. Carlu et Haffner; deux pre-
miers seconds grands prix, à MM. Girardin
et Sollier, et un deuxième second grand-
prix à M. Jacob
(...)
M. André Jacob, né en 1891 à Paris
est élève de M. Deglane »
— Journal des débats politiques et littéraires, Journal des débats du dimanche 9 novembre 1919
Il épouse Yvonne Steinmetz le 22 mai 1922 à Paris dans le 9e arrondissement puis s'installe à Nice en 1924.