OS/360 a évolué pour devenir une famille de trois systèmes. Le premier, PCP (Primary Control Program) traitait les travaux un par un séquentiellement; le suivant, MFT (Multiprogramming with a Fixed number of Tasks) pouvait traiter un nombre fixe de tâches concurrentes, chacune occupant une partie fixe et prédéterminée de la mémoire centrale. Enfin MVT (Multiprogramming with a Variable number of Tasks) permettait un nombre variable de tâches dans des partitions dynamiques de taille variable de la mémoire centrale.
Le langage de contrôle des travaux JCL (Job Control Language) servait à structurer les lots de cartes perforées soumises pour traitement à l'ordinateur via un lecteur de cartes. Composé de quelques ordres, JOB, EXEC, DD, PROC, etc. et de nombreux paramètres, le JCL permettait de définir les programmes, les données et les périphériques pour chaque travail soumis au système d'exploitation.
Comme c'était la première fois qu'un système d'exploitation d'une aussi grande envergure était développé, OS/360 a été livré en retard. Originalement prévu pour être livré en 1965 pour la version plus simple de PCP et en 1966 pour les systèmes plus complexes, il a finalement été livré avec un an de retard soit en 1966 pour PCP et en 1967 pour MVT.
Une famille de systèmes alternatifs, BPS (Basic Programming Support) et BOS (Basic Operating System) pour les plus petits ordinateurs, TOS (Tape Operating System), pour les ordinateurs équipés seulement de dérouleurs de bandes magnétiques, et DOS (Disk Operating System), ont été produits en vitesse afin de permettre aux clients d'utiliser leurs nouveaux ordinateurs.