La chronologie ci-dessous résume les principales dates concernant la frontière :
Avant la Première Guerre mondiale, le territoire de l'actuelle Slovénie fait partie de l'Autriche-Hongrie. La fin du conflit se traduit par l'intégration du territoire slovène au Royaume des Serbes, Croates et Slovènes. La frontière entre le royaume et l'Autriche est établie par le traité de Saint-Germain-en-Laye. Le cas du Duché de Carinthie, région frontalière peuplée de germanophones et de Slovènes est réglé par le référendum de Carinthie du 10 octobre 1920 qui décide de son rattachement à l'Autriche. Une partie de cette région est annexée d'office à la Slovénie à l'issue de la guerre, elle forme de nos jours la Carinthie slovène.
Suite à l'Anschluss en 1938, la limite devient la frontière entre la Yougoslavie et l'Allemagne jusqu'au démembrement du royaume après son invasion par les forces de l'Axe en 1941. Le Reich occupe alors le nord de la Slovénie et prévoit d'annexer certaines régions frontalières dont les habitants sont expulsés et remplacés par des colons allemands.
Après la Seconde Guerre mondiale et durant la Guerre froide, la frontière marque une partie du Rideau de fer séparant le bloc de l'ouest du bloc de l'est. Malgré les visées de la Yougoslavie sur la Carinthie, une région frontalière autrichienne peuplée d'une minorité slovène, les Alliés décident de conserver l'intégrité territoriale du territoire autrichien d'avant 1938 et confirment le tracé de la frontière par le Traité d'État autrichien de 1955.
En 1991, la Slovénie proclame son indépendance, une guerre d'indépendance de dix jours (27 juin - juillet) s'ensuit, opposant les forces slovènes à l'Armée populaire yougoslave (JNA). Les postes frontières séparant la Slovénie de l'étranger sont l'un des enjeux du conflit. Dès le 25 juin, les Slovènes les sécurisent afin d'éviter que la Slovénie se retrouve isolée. Au premiers jours de la guerre, la JNA parvient à prendre la majorité des postes frontière avec l'Autriche mais vers la fin du conflit se replie, ce qui permet aux Slovènes d'en reprendre le contrôle. L'Autriche reconnait l'indépendance slovène et le tracé de la frontière n'est pas remis en question.
Depuis l'adhésion de la Slovénie à l'espace Schengen le 21 décembre 2007, les contrôles à la frontière ont été levés.