Fondée en 1954, la Ivy League débute ses compétitions en 1956. Avant cette date, un accord de 1945 nommé « Ivy Group Agreement » prenait en charge les compétitions de football américain.
Le basket-ball n'a pas de championnat régulier au sein de l’Ivy League. L'équipe ayant le meilleure rapport victoires/défaites est toutefois qualifiée pour le tournoi national NCAA, avec match de barrage en cas d'égalité.
L'une des rares disciplines où l’Ivy League reste encore compétitive est l'aviron. Harvard a ainsi remporté le titre national masculin en 2003, 2004 et 2005.
Le nom d'Ivy League, en français littéralement « ligue du lierre », et utilisé depuis 1935, vient du terme « Ivy colleges » ou « Ivy » attribué aux grandes universités fréquentées par l'élite. En effet, les anciens bâtiments y sont souvent couverts de lierre.