Dans l'ion carbonate CO, chaque atome de carbone se trouve au centre d'un triangle équilatéral dont chaque sommet est occupé par un atome d'oxygène.
Aucun ion oxygène n'est commun à deux groupements triangulaires carbone-oxygène ; ceux-ci doivent être considérés comme des unités distinctes dans la structure des minéraux carbonatés et ils sont en grande partie responsables des propriétés particulières de ce groupe.
La liaison entre le carbone central et les oxygènes est moins forte que dans le dioxyde de carbone. En présence de l'ion hydrogène, le radical carbonate devient instable et se brise. Cette instabilité est à l'origine des tests à l'acide qui permettent de reconnaître les carbonates dans un composé organique ou inorganique. Au contact d'une solution d'acide chlorhydrique HCl, les ions CO forment du dioxyde de carbone CO, dont le dégagement gazeux est observable sous forme d'effervescence.
Lorsque l'ion carbonate est combiné avec les cations divalents (Ca, Fe…), il forme des composés de structure géométrique simple, généralement rhomboédrique ou orthorhombique. Le carbonate de calcium se cristallise à la fois avec la structure rhomboédrique de la calcite et la structure orthorhombique de l'aragonite.