Elle doit son nom au révérend Père Clément (Vital Rodier 1829 - 1904) qui était directeur de culture de l'orphelinat de Misserghin (près d'Oran en Algérie). En 1892, il aurait selon les sources soit croisé volontairement un mandarinier avec un autre agrume, soit simplement trouvé ce nouveau fruit apparu naturellement. Quoi qu'il en soit, le Père Clément étant à l'origine de la découverte de ce nouveau type de fruit, la société algéroise d'agriculture décida de le nommer "clémentine" en son honneur. La clémentine est un fruit vert (qui devient orange sous l'effet de la baisse de température en hiver), qui n'a pas de pépins contrairement à la mandarine.
Les premières descriptions du clémentinier sont dues au Docteur Louis Trabut (1853 - 1929) qui les publia en 1902 dans la Revue Horticole Française N°10 et en 1926 dans le Bulletin agricole de l'Algérie, Tunisie et Maroc. À noter que le Traité pratique d'agriculture pour le nord de l'Afrique, paru en 1929, ne parle pas de clémentine mais seulement de « mandarine sans pépin ».
La clémentine a d'abord été considérée comme un hybride entre le mandarinier (Citrus deliciosa Ten.) et une variété de bigaradier à feuille de saule (Citrus salicifolia Raf. 'Granito'). Ce dernier avait été importé d'Espagne comme porte-greffe pour les cultures d'agrumes. Toutefois des études récentes menées par la station INRA de San-Giuliano en Corse consacrée à l'agrumiculture, ont montré à partir de l'analyse des chromosomes qu'il s'agissait en fait d'un hybride entre le mandarinier et l'orange douce (Citrus sinensis).
Avec la tangerine, elle a servi dans l'hybridation qui a donné la clemenvilla.