Élève de l'École normale supérieure de Saint-Cloud (sciences) (1965) et agrégé de physique, après des travaux de recherche à l'université Harvard, Jacques Prost se spécialise dans l'étude des propriétés des cristaux liquides. Spécialiste de la matière molle et de physico-chimie théorique au CNRS puis dans le laboratoire de physico-chimie théorique de l'École supérieure de physique et de chimie industrielles de la ville de Paris, il mène plus récemment des travaux à l'interface entre la physique et la biologie à l'Institut Curie et s'intéresse à la description du mouvement cellulaire.
Jacques Prost a été conseiller scientifique d'Elf Aquitaine de 1990 à 1999. Il est membre de l'Académie des sciences européennes, du Conseil Scientifique de la Ville de Paris, du conseil scientifique et innovation du groupe Rhodia, du comité d'expert du département de physique théorique de l'Université Louis-et-Maximilien de Munich, et du conseil d'administration de la fondation Fourmentin-Guilbert. Jacques Prost a été nommé directeur de l'ESPCI ParisTech, poste où il a succédé à Pierre-Gilles de Gennes en 2003. Il est membre du comité à l'énergie atomique qui arrête le programme de recherche, de fabrication et de travaux du Commissariat à l’énergie atomique.
Le 11 décembre 2007, il est élu membre de l'Académie des sciences.