Issu d'une famille dont l'origine était allemande sur la lignée paternelle, ainsi que d'origine autrichienne et française sur la lignée maternelle, Károly Kós a commencé ses études primaires à Sibiu/Hermannstadt. À partir de 1892, il a été élève au Collège Réformé Calviniste de Kolozsvár. En 1907, il a obtenu le diplôme d'ingénieur architecte à l'Université Technique de Budapest. Après avoir fait le tour d'Italie, il a fait plusieurs voyages d'études en Transylvanie, à Sighişoara/Schässburg, à Rimetea/Torockó, au Pays des Sicules et en Kalotaszeg pour approfondir ses connaissances concernant l'architecture urbaine et rurale de ces régions ethnographiques. En 1914, il a habité à Stana. En 1916, il a été chargé de créer les décors du couronnement de Charles Ier d'Autriche à Budapest. Entre 1917 et 1918, il a été boursier d'État à Istamboul. En 1918, il lui a été offert le poste de professeur aux Beaux Arts de Budapest, mais, refusant cette invitation, Kós a préféré de rentrer en Transylvanie. Au printemps 1919, insistant sur l'interactivité socio-culturelle historique et sur le multiculturalisme des communautés ethniques transylvaines, Károly Kós et les intellectuels de Kalotaszeg, avec le soutien de 40 000 personnes, ont proclamé à Huedin la République de Kalotaszeg , mais, dans un délai de deux jours, les troupes de l'armée roumaine et française ont occupé la localité et la micro-région. En 1921, Kós et Lajos Albrecht ont fondé à Cluj le Parti Populaire Transylvain (devenu ultérieurement le Parti Populaire Hongrois) et le journal politique illustré Vasárnap (Dimanche). En 1924, Kós et ses amis écrivains de langue hongroise ont fondé à Cluj la maison d'édition Erdélyi Szépmíves Céh (La Guilde Artistique Transylvaine) promovant le courant littéraire et culturel nommé transylvanisme. À partir de 1934, il est devenu le super-intendant de la diocèse réformée calviniste de Kalotaszeg. En 1944, sa maison de Stana a été pillée ; Kós s'est refugié à Cluj. En 1945, il est devenu le président de l'Union Populaire Hongroise (Magyar Népi Szövetség, MNSz) de Roumanie. Entre 1946 et 1948, il a été membre du Parlement de Roumanie. Jusqu'en 1953, il a enseigné à la Faculté de l'Agriculture de Cluj dont il a été le décan en 1945. Plusieurs dizaines d'édifices privés ou publics se trouvant dans des diverses localités urbaines et rurales (Roumanie, Hongrie, Slovaquie) ont été construits ou restaurés d'après ses projets d'architecture.
