Vivement intéressé par la phrénologie, Wallace expérimenta très tôt l'hypnose, alors connue sous la forme du mesmérisme. Il fit participer, avec un succès considérable, certains de ses étudiants à Leicester comme sujets. Quand il commença ses expériences sur le mesmérisme, le thème était très controversé et les expérimentateurs de la première heure, tels que John Elliotson, avaient été durement critiqués par les institutions médicales et scientifiques. Wallace établit un lien entre ses expériences sur le mesmérisme et ses recherches ultérieures sur le spiritisme. Il écrivait en 1893 :
« J'ai ainsi appris ma première grande leçon dans l'enquête sur ces domaines obscurs du savoir, ne jamais accepter l'incrédulité de grands hommes ou leurs accusations d'imposture ou d'imbécillité, comme ayant du poids quand elles sont opposées à l'observation répétée de faits par d'autres hommes, de l'aveu de tous sains et honnêtes. L'histoire entière de la science nous montre que chaque fois que des hommes savants et instruits de tout âge ont nié les faits ou d'autres chercheurs pour raison a priori d'absurdité ou d'impossibilité, les négateurs ont toujours eu tort. »
Wallace commença à étudier le spiritisme durant l'été 1865, probablement suite à l'insistance de sa sœur aînée Fanny Sims qui s'y intéressait depuis un certain temps déjà. Après avoir examiné les écrits sur ce sujet et tenté d'évaluer les phénomènes dont il avait été le témoin pendant des séances, il en vint à accepter que la croyance était liée à une réalité naturelle. Il demeura convaincu tout au long de sa vie qu'au moins quelques séances étaient authentiques, peu importe le nombre d'accusations de fraudes de la part des sceptiques, ou le nombre de preuves de supercherie apportées. Un de ses biographes a suggéré que le choc émotionnel qu'il avait reçu quelques mois plus tôt, lorsque sa première fiancée avait rompu les fiançailles, avait contribué à le rendre réceptif au spiritisme. D'autres spécialistes ont plutôt préféré faire valoir le désir de Wallace de trouver des explications rationnelles et scientifiques à tous les phénomènes de la nature et la société humaine, qu'ils soient matériels ou immatériels.
Le spiritisme attirait beaucoup de personnes instruites de l'époque victorienne qui ne trouvaient plus acceptable la doctrine religieuse traditionnelle comme celle de l'Église d'Angleterre, et qui étaient insatisfaites par la vision entièrement matérialiste et mécanique du monde qui émergeait de plus en plus de la science du XIXe siècle. Certains universitaires qui ont étudié en profondeur les théories de Wallace pensent cependant que le spiritisme était plus pour lui une question de science et de philosophie qu'une question de croyance religieuse. Mis à part Wallace, d'autres grands intellectuels au XIXe siècle s'intéressèrent au spiritisme dont le réformateur social Robert Owen, l'une des premières idoles de Wallace, les physiciens William Crookes et Lord Rayleigh, le mathématicien Augustus De Morgan ou l'éditeur écossais Robert Chambers.
La grande publicité qu'il fit au spiritisme dans les années 1870 et la défense répétée de médiums contre des allégations de fraude endommagèrent sa réputation scientifique. Ses rapports avec ses anciens amis Henry Bates, Thomas Huxley et même Darwin qui pensait qu'il était excessivement crédule, s'en ressentirent. D'autres, tels que le physiologiste William Benjamin Carpenter et le zoologiste Edwin Ray Lankester firent ouvertement et publiquement preuve d'hostilité à son égard. Wallace ainsi que certains scientifiques qui défendaient le spiritisme, notamment William Crookes, furent l'objet de beaucoup de critiques de la part de la presse, The Lancet, principale revue médicale anglaise à l'époque, se montrant particulièrement virulent. La controverse mit à mal la perception qu'avait le public des travaux de Wallace pour le restant de ses jours. Lorsqu'en 1879, Darwin tenta de rallier du soutien parmi les naturalistes pour obtenir une pension à Wallace, Joseph Hooker répondit :
« Wallace a considérablement déchu, non seulement par son adhésion au spiritisme mais par le fait qu'il ait délibérément et contre l'avis unanime du comité de sa section de la British Association, provoqué une discussion sur le spiritisme à l'une des réunions de section. L'on dit qu'il l'a fait d'une manière sournoise, et je me rappelle fort bien l'indignation que cela a suscité au conseil du B.A. »
Hooker se laissa finalement fléchir et accepta de soutenir la demande de pension.