C'est un poisson qui aime les eaux froides et très oxygénées ce qui explique sa répartition géographique. Il préfère l'eau douce, c'est pourquoi on le retrouve dans les fleuves et leurs affluents (parfois assez loin en amont) ainsi que les grands lacs. Cependant cela ne l'empêche pas de vivre en eau saumâtre (notamment la mer Noire et la mer Caspienne dans les zones proches des estuaires). Il passe l’hiver dans des dépressions du fond où il fait preuve de peu d’activité et ne se nourrit presque pas, on peut donc le qualifier de poisson démersal. Le Sterlet est aussi potamodrome puisque , au printemps, il remonte les cours d’eau pour frayer. Le frai a lieu dans le lit du fleuve là où le courant est rapide et le fond couvert de gravier.
Le Sterlet est doté d'une bouche protractile placée sur la face inférieure de la tête. Il se nourrit principalement des organismes benthiques (animalcules du fond) : mouches de mai, vers de vase (larves de chironomes), petits mollusques, petits crustacés, vers et parfois petits poissons. Il ne se nourrit presque pas pendant l'hiver.
Le Sterlet est un poisson lent, peu mobile et mal voyant ce qui explique son comportement paisible, inoffensif et sans prétentions territoriales. Sa principale activité consiste à fouiller le sol à la recherche de nourriture. Il doit rester en mouvement pour s'oxygéner car contrairement aux autres poissons, il ne dirige pas complètement l'eau à travers les branchies.
Le Sterlet, comme les autres espèces d'esturgeons, est amphihalin et potamotoque, c'est-à-dire qu'il effectue sa reproduction en eau douce et une partie de sa croissance en lacs et rivières.