Hamilton avait l'habitude de laisser mûrir ses idées avant de les coucher sur papier. Les découvertes, articles et ouvrages mentionnés précédemment auraient déjà suffi à remplir une longue et laborieuse vie. Mais même sans mentionner son énorme quantité de volumes se trouvant maintenant au Trinity College de Dublin, ces travaux ne constituent qu'une partie de ceux qu'il a publiés.
Hamilton étudia longuement ce qui se concerne les solutions algébriques des équations du cinquième degré. Les résultats de ces recherches, utilisés entre autres par Niels Abel et George Jerrard, sont une autre de ses contributions à la science. Il étudia aussi en profondeur les solutions (notamment par approximation numérique) de certaines classes d'équations différentielles dont seulement quelques éléments furent publiés, par intervalles, dans le Philosophical Magazine. On lui doit aussi l'invention très ingénieuse de l'hodographe.
Hamilton a entretenu aussi une correspondance très volumineuse. Souvent, une seule de ses lettres occupait cinquante ou cent pages à l'écriture serrée, toutes consacrées aux considérations minutieuses de chaque détail d'un problème particulier. C'était, en effet, une des caractéristiques de son esprit de ne pouvoir se satisfaire de la compréhension générale d'une question ; il n'abandonnait jamais un problème tant qu'il ne l'avait pas étudié dans ses moindres détails. Hamilton était aussi très courtois pour répondre à des demandes d'aide concernant l'étude de ses travaux, et cela même quand ça lui prenait une grande partie de son temps. Il était aussi extrêmement précis et difficile à satisfaire en ce qui concernait le soin apporté à la finition de ses travaux pour publication et c'est probablement pour cette raison qu'il ne publia que si peu en comparaison de l'étendue de ses recherches.
Hamilton garda ses facultés intactes jusqu'à la fin et, à un ou deux jours de sa mort, il poursuivait encore assidûment le développement de ses Elements of Quaternions tâche qui avait occupé les six dernières années de sa vie.
William Hamilton a apporté d'importantes contributions en physique mathématique, surtout en optique et en dynamique.
Sa première découverte paraît dans un des premiers écrits qu'il communique au Dr Brinkley en 1823 et qui sous le titre de Caustics (caustique) est présenté en 1824 à la Royal Irish Academy. L'article est, comme d'habitude, soumis à un comité de lecture. Leur rapport, bien que reconnaissant la nouveauté et la valeur de son contenu, recommande qu'avant publication, l'article soit d'abord développé et simplifié.
Entre 1825 et 1828, l'article prend une ampleur considérable, principalement par l'ajout de détails demandés par le comité ; mais il est aussi rendu beaucoup plus compréhensible et les particularités de la nouvelle méthode deviennent parfaitement apparentes.
En 1827, il présente une théorie selon laquelle une unique fonction unit mécanique, optique et mathématiques et qui aida à établir la théorie ondulatoire de la lumière. L'article est finalement nommé Theory of Systems of Rays (23 avril 1827, Théorie des systèmes de rayons) et la première partie est publiée en 1828 dans les Transactions of the Royal Irish Academy.
Le principe variationnel, aussi appelé principe de Hamilton, est l'élément essentiel de ces articles. Ce principe qui, reformulé par Jacobi, aboutit à une formulation alternative de la mécanique classique ; elle est actuellement connue sous le nom de mécanique hamiltonienne.
Cette formulation, comme la mécanique lagrangienne sur laquelle elle est fondée, est très mathématique et n'apporte rien de nouveau à la physique mais fournit une méthode plus puissante pour résoudre les équations du mouvement. Les mécaniques lagrangienne et hamiltonienne ont été développées pour décrire le mouvement de systèmes discrets ; elles furent étendus aux systèmes continus utilisant des champs. Sous cette forme, elles sont utilisées en électromagnétisme et en mécanique quantique ou relativité.
L'autre grande contribution de Hamilton, en mathématique pure cette fois, est l'invention des quaternions. Il les découvre en 1843 alors qu'il cherche une façon d'étendre les nombres complexes à des dimensions supérieurs à 2.
Il ne trouve rien en dimension 3, mais la dimension 4 le conduit aux quaternions. Selon l'histoire racontée par Hamilton lui-même, le 16 octobre, alors qu'il promène avec son épouse le long du Royal Canal à Dublin, la solution lui vint soudainement à l'esprit: i2 = j2 = k2 = ijk = − 1 ; il s'empresse alors de graver cette équation sur le Brougham Bridge (actuellement Broom Bridge).
Depuis 1989, la National University of Ireland de Maynooth organise un pèlerinage où des mathématiciens (notamment Murray Gell-Mann en 2002 et Andrew Wiles en 2003) parcourent le chemin depuis l'observatoire de Dunsink jusqu'au pont, où malheureusement on ne peut voir aucune trace de cette inscription.
L'introduction des quaternions a une conséquence, considérée comme essentielle à l'époque : l'abandon de la commutativité. Avec les quaternions, Hamilton invente aussi le mot vecteur : en effet, il décrit les quaternions comme une suite ordonnée de 4 nombres réels et appelle le premier la partie scalaire et les trois autres la partie vecteur.
Ses résultats sur les quaternions sont exposés dans Lectures on Quaternions (Dublin, 1852) mais Hamilton essaya aussi de populariser ceux-ci dans plusieurs ouvrages, dont le dernier, Elements of Quaternions, comporte 800 pages et fut publié peu après sa mort.
L'utilisation des quaternions fait l'objet de controverses.
Hamilton pensait que les quaternions auraient une grande influence comme instrument de recherche et Peter Guthrie Tait, parmi d'autres, plaide pour leur utilisation. Certains des partisans de Hamilton s'opposent à l'algèbre vectorielle, développée notamment par Oliver Heaviside et Willard Gibbs, car les quaternions, selon eux, offrent une meilleure notation. Même si cela est discutable pour la dimension 4, les quaternions ne peuvent être utilisés dans un nombre quelconque de dimensions (bien que des extensions, comme les octonions ou les algèbres de Clifford existent).
Aussi, bien que les quaternions permettent certaines démonstrations élégantes et concises, les quaternions sont rarement utilisés par les mathématiciens du XXIe siècle ; la notation vectorielle ayant remplacé les quaternions en sciences et en ingénierie durant la moitié du XXe siècle. Notons tout de même que les quaternions unitaires font l'objet d'un usage intensif dans des branches comme la synthèse d'image et l'animation, le traitement du signal et la mécanique orbitale, principalement dans la manipulation des rotations ou des orientations.