Philippe II avait déjà créé un jardin botanique, à la demande du médecin Andrés Laguna, près du palais royal d'Aranjuez. Plus tard, Ferdinand VI installa en 1755 dans la capitale un jardin botanique à Migas Calientes (aujourd'hui Puerta de Hierro, près de la rivière Manzanares), créant ainsi le Jardin botanique royal. Il comptait plus de 2000 plantes, que José Quer, botaniste et chirurgien, avaient réunies lors de ses nombreux voyages à travers la péninsule ibérique et l'Europe (en particulier l'Italie) ou obtenues par des échanges avec d'autres botanistes européens. L'agrandissement des fonds du jardin se poursuivit jusqu'à ce que Charles III donne des instructions en 1774 pour le faire transférer à son emplacement actuel, sur la promenade du Prado, à Madrid, suivant le plan d'organisation du quartier du Prado et d'Atocha.
Le comte de Floridablanca, premier ministre de Charles III s'occupa spécialement du déplacement du Jardin. Non seulement parce qu'il permettait d'embellir le quartier du Prado, mais aussi et surtout parce qu'il servait de symbole de la politique de mécénat des sciences et des arts par la Couronne. D'ailleurs dans cette zone on trouvait, en plus du Jardin botanique royal, le Cabinet d'Histoire naturelle (devenu par la suite musée du Prado) et l'Observatoire astronomique.
En 1939, le Jardin botanique royal passe sous la direction du Conseil supérieur de recherches scientifiques. En 1942, il est déclaré Jardin Artistique. Mais les décennies suivantes sont marquées par le manque de moyens et est finalement fermé en 1974 pour restauration. Les travaux se déroulent entre 1980 et 1981, sous la direction de l'architecte Antonio Fernández Alba pour la restauration du Pavillon, de l'architecte Guillermo Sánchez Gil et du paysagiste Leandro Silva pour les jardins.
Il contient aujourd'hui environ 5000 espèces différentes d'arbres et de plantes du monde entier. En février 2005, l'espace des expositions a été agrandi de 1 hectare.
Au début du XIXe siècle, le Jardin botanique de Madrid est déjà l'un des plus importants d'Europe, grâce à ses collections et au travail de son directeur de l'époque, le botaniste Antonio José Cavanilles. Il réorganise le Jardin et l'herbier et donne au centre une ampleur internationale. Le Jardin est fréquenté non seulement pour son intérêt scientifique mais également, aux beaux jours, par la haute société, et parce qu'il distribue gratuitement des plantes médicinales à la population. Cependant, le Jardin tombe à l'abandon après les guerres napoléoniennes jusqu'à la moitié du siècle, malgré les efforts du directeur Mariano Lagasca.
En 1805, Francisco Antonio Zea reprend la direction du Jardin.
En 1857, le nouveau directeur Mariano de la Paz Graells, qui est zoologiste et directeur du musée des Sciences Naturelles, engage d'importants travaux, comme la transformation de la terrasse supérieure. Il installe également un zoo, qui est transféré douze ans plus tard au jardin du Buen Retiro (sous le nom de zoo de Casa de Fieras).
Cependant, dans les années 1880, le Jardin voit sa superficie réduite. En 1882, deux hectares du terrain sont utilisés pour y bâtir le ministère de l'Agriculture. En 1893 est ouverte la rue des bouquinistes, connue populairement sous le nom de la cuesta de Claudio Moyano. Le Jardin n'occupe plus alors que huit hectares, superficie qu'il a conservé aujourd'hui.