La ceinture de Kuiper serait constituée de planétésimaux, des fragments du disque protoplanétaire qui entouraient initialement le Soleil et qui n'ont pas réussi à former des planètes, mais seulement de petits corps, le plus grand mesurant moins de 3 000 km de diamètre.
L'origine et la structure complexe de la ceinture de Kuiper demeurent mal comprises. Les modèles actuels échouent à expliquer précisément la distribution d'objets dans la ceinture de Kuiper et ce problème « continue de mettre en défaut les techniques analytiques ainsi que les ordinateurs et les logiciels de simulation les plus rapides ». Le futur télescope Pan-STARRS pourrait permettre d'approfondir la question.
Les modèles de formation du système solaire lui prédisent une masse d'environ 30 masses terrestres, nécessaire pour provoquer l'accrétion d'objets de plus de 100 km de diamètre. Seule 1 % de cette masse est actuellement observée, une densité trop faible pour expliquer simplement l'existence de ces objets. De plus, l'excentricité et l'inclinaison des orbites dans la ceinture de Kuiper rendent les rencontres plus destructrices que créatrices.
Les simulations informatiques modernes montrent que la ceinture de Kuiper fut fortement influencée par Jupiter et Neptune. Elles suggèrent également qu'Uranus et Neptune n'ont pas été formées à leurs orbites actuelles car la matière n'était pas en quantité suffisante sur ces orbites pour permettre l'apparition d'objets d'une telle masse. Ces planètes se seraient formées plus près de Jupiter et auraient ensuite migré au début de l'évolution du système solaire. Des travaux de Fernandez et Ip de 1984 émettent l'hypothèse qu'un phénomène d'échange de moment angulaire entre les objets épars et les planètes pourrait être à l'origine de la migration de ces dernières. À un stade de l'évolution du système solaire, les orbites de Jupiter et de Saturne ont pu se retrouver en résonance 2:1 de sorte que Jupiter effectuait exactement deux tours du Soleil quand Saturne en faisait un. Une telle résonance aurait fortement perturbé les orbites d'Uranus et Neptune, provoquant un échange de leur orbite et une migration externe de Neptune dans une proto-ceinture de Kuiper, perturbant fortement cette dernière. Cette migration de Neptune aurait déplacé de nombreux objets transneptuniens vers des orbites plus lointaines et plus excentriques.
L'influence seule de Neptune semble cependant trop faible pour expliquer une perte de masse aussi importante. Les autres hypothèses proposées incluent le passage d'une étoile à proximité ou l'émiettage des petits objets, par collisions, en une poussière suffisamment fine pour être affectée par le rayonnement solaire.
Un certain nombre d'objets du système solaire, bien que ne faisant pas partie de la ceinture de Kuiper, y auraient été formés.
Les objets épars forment une population peu dense qui s'étend au-delà de la ceinture de Kuiper jusqu'au moins 100 ua. Ils possèdent des orbites fortement elliptiques et inclinées par rapport au plan de l'écliptique. La plupart des modèles de formation du système solaire comportent des planétoïdes glacés se formant initialement dans la ceinture de Kuiper, puis déplacés vers le disque des objets épars par des interactions gravitationnelles, particulièrement celles de Neptune. Éris, le plus gros objet transneptunien connu (en 2007), ou (15874) 1996 TL66 en sont deux exemples.
D'après le Minor Planet Center qui catalogue officiellement tous les objets transneptuniens, un objet de la ceinture de Kuiper (KBO) est, par définition, un objet dont l'orbite est située exclusivement dans la région nommée ceinture de Kuiper, quelle que soit son origine ou sa composition. Les objets en dehors de la ceinture sont classés sous le terme d’objets épars. Cependant, dans certains cercles scientifiques, le terme objet de la ceinture de Kuiper est utilisé pour désigner tout planétoïde glacé originaire du système solaire externe qui aurait fait partie de la ceinture, même si son orbite s'est par la suite déplacée au-delà de la ceinture de Kuiper (vers la région du disque des objets épars). Ils décrivent fréquemment les objets épars sous le nom d’objets de la ceinture de Kuiper épars. Éris est ainsi souvent considéré comme objet de la ceinture de Kuiper (KBO), bien que techniquement ce soit un objet épars (SDO). Il n'existe pas en 2007 de consensus parmi les astronomes sur la définition de la ceinture de Kuiper.
Les centaures, qui ne sont pas normalement considérés comme partie de la ceinture de Kuiper, seraient également des objets épars de cette ceinture, mais qui auraient migré vers l'intérieur du système solaire plutôt que vers l'extérieur. Le Minor Planet Center regroupe les centaures et les objets épars sous le terme d'objets de la ceinture de Kuiper épars.
Pendant sa période de migration, Neptune aurait capturé l'un des plus grands objets de la ceinture de Kuiper, l'actuelle lune Triton. Triton est la plus grande lune du système solaire dont l'orbite soit rétrograde, ce qui suggère une origine distincte des grandes lunes de Jupiter et Saturne dont on suppose qu'elles se sont formées par accrétion en même temps que la planète autour de laquelle elles sont en orbite. Triton aurait été donc capturé déjà formé par Neptune. Le processus de capture reste inexpliqué, mais il laisse à penser que Triton se serait formé au sein d'une population nombreuse d'objets dont la gravité permettrait de ralentir suffisamment son mouvement pour permettre sa capture .
Les analyses spectrales de Triton et Pluton montrent qu'ils sont formés des mêmes matériaux, comme le méthane et le monoxyde de carbone. Ces différents arguments suggèrent que Triton était à l'origine un membre de la ceinture de Kuiper, capturé lors de la migration de Neptune.
Les comètes du système solaire peuvent être grossièrement divisées en deux catégories, en fonction de leur période orbitale. Les comètes à longue période proviendraient du nuage d'Oort. Parmi les comètes à courte période, on distingue celles de la famille de Jupiter et celles de la famille de Halley. Ce dernier groupe, nommé d'après son prototype, la comète de Halley, serait originaire du nuage d'Oort mais aurait été déplacée vers l'intérieur du système solaire par l'attraction des géantes gazeuses. L'autre groupe, la famille de Jupiter, serait issu de la ceinture de Kuiper : la grande majorité des comètes de cette famille proviendraient du disque des objets épars qui sont eux-mêmes d'anciens membres de la ceinture de Kuiper. Les centaures seraient un stade dynamiquement intermédiaire entre les objets épars et la famille de Jupiter.
Malgré leur probable origine commune, les comètes de la famille de Jupiter et les objets de la ceinture de Kuiper présentent de nombreuses différences. Bien que les centaures partagent la coloration rougeâtre de nombreux objets de la ceinture de Kuiper, les noyaux des comètes sont plus bleus, indiquant une composition chimique ou physique différente. L'hypothèse la plus communément acceptée est que la surface des comètes est recouverte par des matériaux issus de l'intérieur lorsqu'elles s'approchent du Soleil, ce qui enterre les matériaux rouges plus anciens.