Il est le fils du peintre Mladen Josić. Il suit des études d'architecture dans la Grande École Technique de Belgrade et en parallèle une formation de dessin et de peinture dans l'école privée créée par son père. Il obtient son diplôme d'architecte en 1948, après la guerre.
En désaccord avec le régime de Tito, il se réfugie en 1953 en France. Il y rencontre l'architecte Georges Candilis qui l'introduit à l'ATBAT, l'Atelier des Bâtisseurs fondé par Le Corbusier et Vladimir Bodiansky. Il y fourbit ses premières armes sur des programmes d'habitat collectif en Afrique du nord. En 1955, avec l'américain Shadrach Woods revenant du Maroc, il crée avec Georges Candilis, le bureau indépendant Candilis-Josic-Woods.
Dans l'équipe, Alexis Josic s'affirme par une grande facilité de dessin. Il a notamment à sa charge l'extension de Bagnols-sur-Cèze (1956-1960), les concours de La Viste à Marseille (1957), de Toulouse le Mirail (1960-1961), de l'université de Bochum (1962), l'étude d'urbanisme de la cuvette Saint-Martin au Tchad (1963). Si les contributions de Candilis et Woods sont reconnues dans l'histoire de l'architecture, parce qu'ils ont très souvent écrit dans les revues, celle de Josic est oubliée. Cela tient au fait que Josic a peu fait parler de lui, personnalité en retrait et plus discrète que les deux autres. Or les propositions de l'équipe sont singulièrement marquées par son dessin, très personnel.
En 1965, à la livraison de la cité artisanale des Bruyères à Sèvres qu'il a conçue, bâtiment devenu depuis mythique, il y installe une activité en son nom propre, l'"Atelier Josic". Sa compagne Douchanka Josic, également architecte, est sa fidèle collaboratrice depuis 1956. Les solutions développées par l'Atelier poursuivent et enrichissent les recherches menées au sein de l'équipe. Alexis Josic s'attèle à des études d'échelle et de nature extrêmement variées.
En 1995, ses fils, devenus également architectes, reprennent alors le flambeau. Alexis Josic vit toujours en 2009 dans la cité artisanale qui est menacée de destruction par un promotteur qui veut y batir une résidence