Jean Perrin naît le 30 septembre 1870 à Lille. Son père de modeste origine lorraine, mais homme brillant, est capitaine d'artillerie. Sa mère est fille d'un ingénieur des ponts et chaussées ; la future mariée sans ressources, soit trop pauvre pour épouser un officier, le mariage nécessite une dispense de Napoléon III et l'impératrice avance l'argent nécessaire au mariage. Le père de Jean Perrin meurt en 1880 à Lyon et sa mère l'élève seule ainsi que ses trois autres enfants dont Jean est le benjamin.
Les ressources de la famille sont faibles et Jean est boursier de la III République. Il effectue le début de ses études secondaires à Saint-Rambert-sur-Loire puis en tant qu'interne à Lyon. Il obtient le baccalauréat en lettres et en sciences et part à Paris où il entre en classe de mathématiques spéciales au lycée Janson-de-Sailly pour préparer le concours d'entrée à l'École normale supérieure. Il y est reçu 12 dans la section sciences en 1890. Après avoir effectué son service militaire, Jean Perrin entre à l'Ecole normale supérieure à l'automne 1891. Il y étudie de 1891 à 1894, date à laquelle il est reçu au concours d'agrégation de physique, puis de 1895 à 1898 il occupe les fonctions d'agrégé préparateur tout en préparant une thèse de doctorat au laboratoire de physique de l'école, alors dirigé par Jules Violle.
En juin 1897 Jean Perrin obtient devant la faculté des sciences de l'université de Paris le doctorat ès sciences physiques avec une thèse intitulée Rayons cathodiques et rayons de Röntgen. Étude expérimentale. L'étude des rayons cathodiques créés dans un tube de Crookes lui permet d'apporter la première preuve de la nature corpusculaire de l'électricité. Si Hendrik Antoon Lorentz a bien formulé cette hypothèse dès 1895, de nombreux physiciens, notamment Heinrich Hertz et Philipp Lenard considèrent à cette époque le phénomène électrique comme purement ondulatoire et analogue aux ondes lumineuses. Cette mise en évidence de la nature matérielle de l'électron ouvrira la voie aux travaux de Joseph John Thomson sur le sujet. Dans la deuxième partie de cette thèse il étudie la nature des rayons X, découverts par Wilhelm Röntgen en 1895, et participe à la compréhension de l'interaction de ces rayons avec la matière; Il reçoit pour cette thèse, l'année même de sa publication le prix Joule de la Royal Society.
En 1898, Jean Perrin postule à la charge de cours de chimie-physique de la faculté des sciences de l'université de Paris. Il est en concurrence notamment avec Pierre Curie. Bien que plus jeune que Curie, Perrin obtient finalement le poste à la faveur de son statut de normalien et d'agrégé. Le fait que le rapporteur de sa candidature, Henri Poincaré, soit plus influent que Gabriel Lippmann, celui de Pierre Curie, semble avoir aussi joué un rôle;
C'est dans le cadre de l'École normale supérieure, et dans le contexte de l'affaire Dreyfus que Jean Perrin s'entoure d'un groupe d'amis indéfectibles par affinités politiques notamment : ils sont tous socialisants et farouchement dreyfusards. Il s'agit d'Émile Borel, de Pierre et Marie Curie et de Paul Langevin. Ils militent tous à Ligue des droits de l'homme dès sa fondation et participent également aux premières universités populaires. Le clan Borel, Curie, Langevin et Perrin est très soudé. Au cours de leur longue amitié ils organiseront des dîners entre intellectuels auxquels participent Paul Painlevé, Paul Adan, Charles Péguy, Léon Blum, Édouard Herriot entre autres. En 1906 est créée par Borel et sous l'impulsion de ce groupe La Revue du mois qui regroupe dans son comité de rédaction, outre Perrin et Langevin, Aimé Cotton, Jacques Duclaux, Henri Mouton, Robert Lespieau et Louis-Jacques Simon. Blum, Painlevé et Herriot y écrivent également. En 1907 les familles du « clan » décident d'élever conjointement et eux-mêmes leurs enfants en dehors de l'institution scolaire publique.