En mars 1866, il part de Pékin avec tout son équipement de collecteur naturaliste porté par cinq mulets, en vue d'explorer les régions mongoles qui se trouvent au-delà de la Grande Muraille, au nord de la grande boucle du Fleuve Jaune (Huanghe), une région encore très mal connue des Européens. Le frère Chevrier, bon chasseur, et le fameux guide Samdatchiembda, ancien lama mongol qui avait accompagné les pères Huc et Gabet au Tibet, se joindront à lui. Le voyage fut très éprouvant, en raison d'un climat très rude, d'une insuffisance d'eau et de nourriture et de l'insécurité permanente que faisaient régner les bandits de grands chemins et les soldats tartares, sans parler des bêtes sauvages. Il fallait des caractères bien trempés pour surmonter sans encombre les épreuves auxquelles ils furent confrontés.
Tous les jours, il prenait d’abondantes notes sur tout ce qu’il observait : la nature des sols, la faune et la végétation, les mœurs des populations, leurs religions, leurs cultures vivrières. Le petit groupe d'explorateurs fixèrent leur camp de base à Saratchi, une ancienne cité, entre Hohhot et Baotou (呼和浩特市、包头市之间). Bien que la végétation de ces contrées désertiques soit assez pauvres, il fait quelques récoltes intéressantes. « Je note une Ancolie à fleurs vertes (Aquilegia viridiflora) qui abonde, une jolie légumineuse à fleurs rouge sang (Lessertia) ; une sorte de Sophora herbacé à nombreuses fleurs blanches très odorantes etc… J'ai récolté aussi de bons fruits d'un Rosier à fleurs jaunes. Mais en somme, la végétation de l'Ourato [乌拉特 wulate] est assez pauvre ». « L'Ourato…, ne présente jamais de hautes montagnes; ses forêts, dont on me faisait une si brillante description à Pékin, sont aujourd'hui à peu près détruites…Partout où la culture a été possible, on la voit exercée par les Chinois, qui chassent devant eux les populations mongoles pastorales. Celles-ci, d'ici à peu, se trouveront sans ressources, refoulées jusqu'au grand désert de Gobi, dont j'ai pu apercevoir les sables jaunes et mouvants. »
Comme le père David connaît admirablement bien les oiseaux, il reconnaît la jolie fauvette à dos bleu connue seulement du Japon (Nemura cyanura). « C’est en vain que nous nous fatiguons à la recherche du faisan bleu : on ne connaît ici que le Phasianus torquatus, le Pucrasia xanthospila, et la bartavelle qui abonde toujours. » Le frère Chevrier, bon fusil, tue et prépare faisans, vautours et aigles mongols. Ils collectèrent 176 oiseaux, 59 mammifères, 1500 spécimens de plantes et 680 spécimens d'insectes.
Malgré tout, le père David trouva le bilan global assez décevant : « Vous savez peut-être que j'ai passé huit mois de l'année dernière dans l'Ourato. J'y ai dépensé beaucoup d'argent, perdu mon temps et mes peines, car le pays est très pauvre, bien qu'on m'eût dit le contraire à Pékin. »
A son retour à Paris, le père David s'installe dans la Maison-mère rue de Sèvres. Il y passera ses dernières années à mettre au propre toutes les notes scientifiques rapportées de Chine et à donner des cours aux séminaristes. Il s'attèlera aussi à une tâche qui lui a toujours beaucoup tenue à cœur : constituer un cabinet d'histoire naturelle. C'est le troisième qu'il crée, après celui de Savone en Italie et celui de Peitang à Pékin.
En 1875, il publie chez Hachette en deux gros volumes, le « Journal de son troisième voyage d'exploration dans l'empire chinois ». Deux ans plus tard, il sort une œuvre magistrale sur l'avifaune chinoise « Les Oiseaux de Chine ».
Après une vie très aventureuse et bien remplie en Chine, il coule des jours paisibles à Paris, à peine interrompus par quelques voyages naturalistes (en Tunisie en 1881 et à Istanbul en 1883) et une conférence au Congrès scientifique catholique le 8 avril 1888, où il se fait copieusement huer pour avoir défendu l'évolutionnisme darwinien.
Il s'éteint le 10 novembre 1900 à Paris.