La maladie a été identifiée pour la première fois en Grande-Bretagne en 1986.
L’ESB affecte le cerveau et la moelle épinière des bovins. Elle provoque des lésions cérébrales qui se caractérisent par des altérations à allure spongieuse visibles au microscope optique, correspondant à des neurones qui se sont vacuolisés. Il y a une perte de neurones plus ou moins importante, et une multiplication des astrocytes, des cellules du cerveau à fonction immunitaire. Les agents pathogènes s'amassent pour former des plaques amyloïdes caractéristiques, quoique moins présentes que pour d'autres encéphalopathies spongiformes transmissibles. Les symptômes extérieurs apparaissent généralement 4 à 5 ans après la contamination, et toujours sur des animaux de plus de 2 ans (entre 3 et 7 ans généralement). Ils se manifestent au début par une modification du comportement de l'animal, qui peut parfois donner des coups de pied, manifester une appréhension et une hypersensibilité aux stimulations externes (bruit, toucher, éblouissement) et s'isoler du reste du troupeau. L'animal atteint voit généralement sa production laitière et son poids décroître, alors que son appétit ne diminue pas. L'évolution peut durer d'une semaine à un an, les différentes phases de la maladie étant d'une durée variée d'un animal à un autre. Au stade ultime d'évolution, l'animal a de véritables troubles de la locomotion. Il perd fréquemment l'équilibre, sans parvenir parfois à se relever. Du point de vue physiologique, on observe une tachycardie et une absence de fièvre. Cependant, l'apparition de ces symptômes ne permet pas à coup sûr de détecter un cas d'ESB. En effet, les troubles locomoteurs, comme par exemple la tétanie d'herbage, sont fréquents chez les bovins, et le diagnostic de la maladie est donc difficile.
La nature réelle de l'agent infectieux fait débat. La théorie maintenant largement admise par la communauté scientifique est celle du prion, une protéine qui, dans le cas de la maladie, adopte une conformation anormale pouvant se transmettre à d'autres protéines prions saines. Une théorie alternative est l'agent viral, qui expliquerait plus facilement la capacité de l’agent à générer de multiples souches. Le prion (PRoteinasceous Infectious ONly) est une sialoglycoprotéine de 253 acides aminés. Les sialoglycoprotéines interviennent dans l’adhésion cellulaire. C'est une forme dite résistante de cette protéine qui est responsable de la maladie. Cette forme diffère de la forme normale uniquement par sa conformation, qui la rend particulièrement hydrophobe, ce qui explique la formation des agrégats résistants aux protéases et l’accumulation de la protéine infectieuse dans la cellule. La protéine modifiée pénètre dans la cellule par endocytose ou par le biais du récepteur spécifique du prion normal, la protéine LRP (Laminin Receptor Protein), qui semble intervenir dans le processus puisque sa concentration augmente avec la contamination. Une fois la protéine anormale entrée dans la cellule, elle transforme les prions normaux en prions résistants. Les protéases n'étant plus capables de les détruire, ces protéines s'accumulent pour finir par provoquer la mort du neurone, et ainsi la formation de plaques amyloïdes. Comme le prion est une protéine, il n'a pas de métabolisme propre et il est donc résistant à la congélation, à la dessiccation et à la chaleur aux températures normales de cuisson, même celles atteintes pour la pasteurisation et la stérilisation En effet, le prion doit pour être détruit être chauffé à une température de 133 °C pendant 20 minutes à 3 bars de pression.
On ne sait pas réellement comment est apparu l'agent pathogène de l'ESB. Deux hypothèses sont largement soutenues. La première en date considère que la maladie provient d'une contamination interspécifique à partir d'une maladie proche, la tremblante du mouton. La possibilité de transmission interspécifique de la tremblante a été prouvée expérimentalement, mais les troubles cliniques et neuropathologiques associés à la maladie diffèrent de ceux de l'encéphalopathie spongiforme bovine. C'est ce constat qui a conduit à la formulation d'une seconde hypothèse, suivant laquelle la maladie est endémique à l'espèce bovine et très faiblement répandue avant qu'elle ne soit amplifiée au milieu des années 1980. La description dans une revue vétérinaire de 1883 d'un cas de tremblante chez un bovin est un argument utilisé par les défenseurs de cette seconde théorie, bien que ce cas puisse correspondre à une toute autre maladie neurologique. De nombreuses autres théories plus ou moins crédibles s'immiscent régulièrement dans le débat. Ainsi, pour le professeur Roger Morris de l’Université Massey à Palmerston North (Nouvelle-Zélande), c'est l'introduction d'antilopes contaminées par une maladie proche dans des parcs anglais qui serait à l'origine de la maladie. Ces antilopes auraient en effet été réduites en farines pour l'alimentation du bétail après leur mort. Pour le chercheur scientifique John Williams, une pollution chimique aurait engendré une dispersion importante de bromure de méthyle, un produit mutagène, en 1963 dans le Kent. Le mutagène aurait engendré l'apparition de la protéine anormale du prion chez une vache et ainsi serait née la maladie. Vraisemblablement, on ne saura jamais avec certitude comment est apparu l'agent pathogène responsable de la maladie.
L'épidémie de la maladie de la vache folle prend certainement ses racines dans le recyclage des carcasses d'animaux par les équarrisseurs. Les parties d'os et de viande non utilisées dans l'alimentation humaine et les animaux morts ramassés en ferme, qui constituent les principaux déchets de l'industrie de la viande bovine, sont séparés des graisses par cuisson avant d'être réduits en poudre. Avant l'apparition des cas d'ESB, les farines animales ainsi obtenues étaient largement utilisées dans l'alimentation du bétail. En effet, elles sont à la fois riches en énergie et en protéines, et sont très bien digérées par les ruminants. Elles étaient donc très utilisées chez les bovins, et plus particulièrement chez les vaches laitières. C'est la consommation par les bovins de farines animales issues de tissus calcinés provenant de bovins ou d'ovins (suivant l'hypothèse retenue), comme la cervelle et la moelle épinière, et contaminés par l'agent de l’ESB qui est responsable de l'apparition de l'épidémie.
Initialement, le processus de fabrication des farines utilisait des hautes températures de stérilisation et une étape d'extraction des graisses par solvants organiques qui permettaient, sans que personne ne le soupçonne, de détruire le prion. Mais en 1981, les températures de stérilisation ont été abaissées et l'étape d'extraction des graisses par solvants a été éliminée. Ces modifications dans le protocole avaient essentiellement vocation à améliorer la rentabilité économique, d'une part en préservant mieux les protéines contenues dans les farines, d'autre part en diminuant les coûts en matière de solvants et d'énergie utilisés, qui avaient très largement augmenté après les deux chocs pétroliers de 1973 et 1979. Par ailleurs, le changement de processus de fabrication avait été accéléré par un accident, lié à la manipulation du solvant par le personnel, survenu dans une des principales usines anglaises de fabrication de farines animales : cela avait entraîné un renforcement des mesures de sécurité dont le coût était élevé. Cette modification des pratiques semble être à l'origine de l'épidémie. Le prion était recyclé dans les farines animales avant qu'il soit distribué à grande échelle dans les aliments du bétail, et que les animaux contaminés ne soient à leur tour abattus et réduits en farines pour continuer à amplifier le phénomène.
On soupçonne également l'existence d'une voie de contamination mère-veau, qui pourrait représenter jusqu'à 10 % des contaminations.
Pour expliquer la rémanence de l'épidémie après que des mesures draconiennes sont prises, les scientifiques cherchent une éventuelle troisième voie de contamination qui n'est aujourd'hui toujours pas trouvée. Parmi les rares hypothèses crédibles on recense la contamination par le biais d'acariens du fourrage, phénomène qui été observé une fois pour la tremblante du mouton. Cette hypothèse, comme toutes celles qui mettent en jeu un agent de transmission extérieur, est peu vraisemblable car seul le système nerveux central est contaminant chez les bovins et le prion n’est pas excrété par les vaches malades. D’autres hypothèses ont fait état d’une contamination par l’eau polluée par les centres d’équarrissage ou par le sol où ont été épandues des matières fertilisantes à base de farines animales, sans preuve tangible.