Les premiers fossiles d'Archaeopteris, décrits au XIX siècle, étaient des empreintes et des compressions qui ressemblaient à des frondes de fougères. Archaeopteris a donc été initialement classé dans les fougères.
En 1911, Mikhail Zalessky, un paléontologue russe, décrit un nouveau type de bois du Dévonien qu'il nomme Callixylon. Callixylon ressemble beaucoup au bois des conifères. Plusieurs espèces sont décrites en Russie, Amérique du Nord et Europe. Certains des spécimens sont des souches ou des troncs de grande taille.
C'est en 1960 que le paléobotaniste Charles Beck démontre la connexion entre Callixylon et Archaeopteris -à partir d'un spécimen dont la tige est de type Callixylon et le feuillage Archaeopteris. La plante peut alors être reconstruite comme un grand arbre dont le feuillage ressemble aux frondes des fougères et qui se reproduit par spores. Cette combinaison de caractères inconnue chez les plantes actuelles entraine la création du groupe des progymnospermes.Comme le nom Archaeopteris était le plus ancien, c'est celui qui a été conservé pour désigner la plante entière.
En 1966, Carluccio et ses collaborateurs démontrent que les "frondes" d'Archaeopteris ne sont pas des feuilles composées mais des branches ramifiées dans un plan et qui portent des feuilles simples.