Il est fait chevalier de l'Ordre de Saint-Grégoire-le-Grand sous le pape Benoît XV par l'archevêque George Mundelein le 16 juin 1916. Il est récompensé d'une médaille Laetare de l'université Notre-Dame en 1902 et obtient un doctorat en sciences de l'université de Sheffield en 1908.
Malgré le caractère hautain de Murphy et son impopularité auprès de ses collègues qui l'éloignent dans un premier temps des associations de sa profession, il finit par être élu président du Chicago Medical Society (CMS) et de l'American Medical Association (AMA). L'American Surgical Association change aussi d'avis et lui offre une carte de membre.
Depuis 1924, une école publique élémentaire porte son nom, la John B. Public School au 3539 wast Grace street à Irving Park, un quartier de Chicago.