Le château actuel est bâti sur les restes d'un château médiéval bâti par Dudon de Cons, compagnon de croisade de Godefroy de Bouillon, sur un promontoire rocheux entouré du village et de collines boisées. Il conserve de l'époque médiévale, les fondations et les partis basses, massives et fortifiées (au nord et à l'est). L'ensemble est rebâti en pierres de Jaumont à partir de la Renaissance Les parties hautes sont percées de larges fenêtres, richement décorées, et surmontées de hauts toits d'ardoises. L'intérieur est aussi marqué par ce style avec les plafonds à caissons, les cheminées monumentales (comme celle de la salle d'honneur décorée de bas reliefs représentants les amours de Pyrame et Thisbé)... C'est à Martin de Custine (seigneur de Cons-La-Grandville) qu'on doit ces aménagements. La cour d'honneur est quant à elle largement classique : organisation en U, bâtiments presque de plain-pied, fronton central marqué des armes de la famille etc. Les pièces de réceptions comme la grande salle à manger, sont également marquées par le style du XVIII siècle.
Ces améliorations successives au fil des siècles sont dues aux conflits qui ont touché la région (guerres médiévales d'abord, guerre de Trente Ans, et les deux conflits mondiaux (qui endommagèrent les écuries notamment).
L'ensemble est complété d'une grange au sud (construite au XVIII siècle) possédant une somptueuse charpente en chêne. Le prieuré bénédictin érigé par Dudon de Cons est aussi reconstruit à partir de 1760 par l'architecte Laurent-Benoît Dewez. Les voûtes de la crypte de ce prieuré sont ornées de fresques gothiques du XIV siècle. Le parc est réorganisé au XIX siècle dans le style anglais et on peut y admirer de nombreux arbres centenaires.
Ouverts au public, le château et ses communs sont restaurés depuis 1984.