En octobre 1666 deux pêcheurs prirent un énorme requin près de Livourne. Steno en étudia la tête et sortit une publication à ce sujet en 1667. En étudiant les dents du requin il remarqua qu'elles avaient beaucoup de points communs avec - ce qui s'avéra être plus tard – des dents fossilisées de requins trouvées en montagne. À l'époque on les appelait Glossopètres ou « pierres de langue ». Pline l'Ancien avait expliqué que ces pierres venaient soit du ciel soit de la lune. D'autres encore prétendaient que les fossiles poussaient naturellement dans les roches. Fabio Colonna avait déjà démontré de façon convaincante que les glossopètres étaient des dents de requin, dans son traité De glossopetris dissertatio publié en 1616. Stensen ajouta à la théorie de Colonna une discussion sur la différence de composition entre des dents de requins vivants et les pierres de langue, émettant l'idée que les fossiles pouvaient changer de composition, sans que cela ne fût visible extérieurement. C'est pourquoi il peut être considéré comme un précurseur précoce de la théorie des particules: la matière est constituée de particules extrêmement petites, qui sont interchangeables.
Au moment des découvertes de Steno, la définition du mot fossile était différente de celle d'aujourd'hui : tous les objets excavés étaient appelés fossiles, aussi bien les cristaux, les minerais que les restes pétrifiés de vie antérieure (les fossiles dans le sens moderne du mot). Steno remarqua donc que les roches contenaient des objets qui n'étaient pas formés à l'intérieur de celles-ci, mais qui y étaient inclus pendant leur formation. Cela conduisit à la théorie des processus de sédimentation, que Steno décrivit en 1669, dans l'ouvrage voulu comme introduction De solido intra solidum naturaliter contento dissertationis prodromus. Étant donné qu'il attacha toujours plus d'importance à la religion qu'à la science, il en resta à cette introduction et n'écrivit jamais un ouvrage complet à ce sujet, bien que cela eût été son intention.
La vision religieuse de Steno a été fortement influencée par ce qu'il a découvert sur le plan scientifique. Bien qu'il eût reçu une éducation luthérienne, Steno doutait fortement de ses conceptions religieuses. Après des études théologiques à Florence, il en conclut que le catholicisme romain était la véritable Église, et il devint catholique en 1667.
Ces conceptions religieuses commencèrent à s'opposer de plus en plus à ses observations scientifiques. Plus particulièrement, la différence entre l'histoire de la création (qui était considérée à l'époque comme le rapport réel de la naissance de la terre) et la formation des couches de la terre l'occupa fort.
Lors de son étude de deux cas de roches largement répandues dans les Apennins, Steno remarqua que les couches les plus profondes ne contenaient pas de fossiles, alors que les couches placées plus hauts étaient riches en fossiles. Il expliqua ceci en « datant » les couches inférieures d'avant et les couches supérieures d'après le déluge.
Par le fait que Steno se retira de plus en plus dans la religion, que comme évêque il alla travailler en Allemagne et au Danemark, et qu'il s'éloigna de son entourage, il devint de plus en plus malheureux et cela conduisit à sa mort dans la misère à Schwerin.
Sa vie et son œuvre sont l'objet d'études approfondies, en particulier depuis la fin du XIXe siècle, de plus, sa vertu et sa piété étaient remarquables. En 1987, le pape Jean-Paul II le déclara bienheureux.