Il existait déjà des académies depuis l'organisation de l'Université impériale en 1808. La loi Falloux en crée une dans chaque département, cela permet de décentraliser. Chaque académie est dirigée par un recteur assisté d'un conseil académique.
La loi Falloux réorganise par ailleurs le Conseil supérieur de l'instruction publique et les conseils d'académie. En particulier, elle accorde une large place aux représentants des différents cultes, en particulier du culte catholique. Au Conseil supérieur de l'instruction publique siègent huit membres de l'Université, sept représentants des cultes dont quatre catholiques, trois conseillers d'État, trois membres de l'Institut, trois membres de l'enseignement libre.
Avec cette loi, l'enseignement primaire et secondaire se trouve désormais partagé entre l'enseignement public, géré par les communes, les départements et l'État, et l'enseignement privé, dit « libre », dont les établissements sont gérés par des particuliers, des associations ou des congrégations. Les maitres sont formés dans des Écoles normales entretenues par les départements (qui peuvent les supprimer). Pour l'enseignement « libre », les congréganistes peuvent enseigner s'ils sont titulaires du baccalauréat, ou sont ministres d'un culte ou ont un certificat de stage. Pour les religieuses une simple lettre d'obédience de l'évêque suffit. Le traitement annuel est de 600 francs. Dans l'enseignement secondaire la liberté de l'enseignement est de mise. Un bachelier peut ouvrir une école et aucun titre n'est exigé des enseignants.
De fait, même si elle ne le dit pas officiellement, la loi vise surtout à autoriser l'enseignement catholique, dans les écoles primaires et les établissements secondaires. Elle donne une grande part à l'Église catholique dans l'organisation de l'enseignement : les évêques siègent de droit au conseil d'académie, l'école est surveillée par le curé conjointement avec le maire. Un simple rapport du maire ou du curé peut permettre à l'évêque de muter un instituteur à sa guise. Les préfets peuvent révoquer les instituteurs.
La loi Falloux fixe également l'objectif d'une école primaire de filles dans chaque commune de plus de 800 habitants.
La loi fixe également le programme de l'école primaire. Celui-ci se divise entre un programme obligatoire et un programme laissé à l'appréciation de l'enseignant :
Les écoles primaires supérieures créées par Guizot sous la Monarchie de Juillet sont supprimées (les langues modernes et le commerce disparaissent alors des matières scolaires). Elles seront rétablies en 1852.
La loi Falloux est aujourd'hui formellement abrogée depuis seulement 2000,mais certains de ces articles ont été repris dans le Code de l'éducation. Il s'agit surtout des articles concernant l'enseignement privé, qui fixent ainsi :
Toutefois, les dispositions sur le contrôle administratif et sur la discipline des maîtres ne sont que partiellement applicables à l'enseignement dit « sous contrat » et ne concernent guère que l'enseignement dit « hors contrat ».