Il fut élève au lycée Condorcet, puis obtint l'agrégation de philosophie.
Figure historique du protestantisme libéral, il s'exile volontairement en Suisse sous le Second Empire de 1866 à 1870 , car il refusait de prêter serment au nouveau pouvoir; il fut professeur à l'Académie de Neuchâtel. Dès 1867, il participe au Congrès international de la Ligue internationale permanente de la paix et élabore un programme pour l'abolition de la guerre par l'instruction, aux côtés de Jules Ferry et de Victor Hugo. Parallèlement, il tente de mettre en place une Église protestante libérale, faisant appel aux pasteurs Jules Steeg et Félix Pécaut.
De retour en France, après la chute du second Empire, il s'engage lors du siège de Paris dans la protection des orphelins, ce qui le conduira à créer le premier orphelinat laïque, l'Orphelinat de la Seine.
Refusant d'enseigner la philosophie, car désireux d'œuvrer en faveur des enfants les plus pauvres, il fut, grâce à son amitié avec le ministre de l'Instruction publique Jules Simon, nommé à la direction des établissements scolaires parisiens. Il soutient l'orphelinat de Cempuis, fondé par le philanthrope laïque Joseph Prevost et fait nommer à sa tête Paul Robin.
De 1879 à 1896, il fut appelé par Jules Ferry, successeur de Jules Simon, à la direction de l’Enseignement Primaire, avant de superviser le travail d’écriture et de conception des lois sur la laïcité. Député de la Seine de 1902 à 1914, puis de 1919 à 1924, il fut en particulier un ardent défenseur de l'enseignement professionnel obligatoire et du droit de vote pour les femmes. En 1890, il devient professeur de pédagogie à la Sorbonne. En 1898, partisan de la défense du capitaine Dreyfus, il participe à la création de la Ligue française des droits de l'homme dont il sera président de 1913 à 1926.
Ferdinand Buisson fut également le maître d'œuvre d'un chantier éditorial remarquable : le Dictionnaire de pédagogie et d'instruction primaire, pour la rédaction duquel il s'entoura de plus de 350 collaborateurs. La première édition fut publiée par Hachette entre 1882 et 1887. Une nouvelle édition parut en 1911. Ne se limitant pas à un rôle de responsable éditorial, Buisson rédigea lui-même des articles emblématiques, comme Laïcité, Intuition, Prière... Son dictionnaire est considéré comme la « Bible » de l’école laïque et républicaine.
Partisan de la première heure de la Société des Nations (SDN), il se consacre ensuite au rapprochement franco-allemand surtout après l'occupation de la Ruhr en 1923, en invitant des pacifistes allemands à Paris et en se rendant à Berlin. Il reçut le prix Nobel de la paix en 1927 avec le professeur allemand Ludwig Quidde.