De nos jours, le palais est toujours l'un des centres névralgiques du système judiciaire français, puisqu'il abrite notamment la Cour de cassation, la plus haute juridiction judiciaire.
La cour d'appel de Paris y siège également, tout comme la plupart des tribunaux parisiens relevant de son ressort comme le tribunal de grande instance de Paris. Ce dernier devrait déménager au Quartier des Batignolles dans un bâtiment dont la construction devrait être achevée en 2015. Le Palais de justice comporte également en son sein les services du Parquet attenant à ces juridictions.
Par ailleurs on trouve dans le Palais les locaux du conseil de l'ordre, sa bibliothèque, sa salle de réunion.
Le siège de la direction régionale de la police judiciaire de la Préfecture de police (DRPJ) occupe des locaux attenants situés au 36, quai des Orfèvres.
Les personnes privées de liberté sont détenues en deux endroits : le dépôt, géré par la police, pour les gardés à vue qui passent en comparution immédiate, et la souricière, gérée par l'administration pénitentiaire, pour les personnes détenues qui doivent passer devant le juge.