Le matériau thermoélectrique le plus couramment utilisé aux basses températures (150 K-200 K), est formé sur la base de Bi1-xSbx (alliage de bismuth et d'antimoine) et ne présente malheureusement de bonnes propriétés thermoélectriques qu’en type n (conduction par les électrons), ce qui restreint le rendement de conversion du système puisque aucun matériau n'est efficace en type p dans cette gamme de température (rappelons qu'un système de conversion thermoélectrique est constitué à la fois de branches p et n). Curieusement, alors que ses propriétés sont relativement moyennes (ZT~0,6), l’application d’un champ magnétique permet de doubler le facteur de mérite qui dépasse alors l’unité. Ce matériau est donc généralement utilisé en association avec un aimant permanent.
Le matériau le plus étudié à l’heure actuelle est Bi2Te3 (alliage de bismuth et de tellure). Il est utilisé dans tous les dispositifs fonctionnant au voisinage de la température ambiante, ce qui inclut la plupart des dispositifs de réfrigération thermoélectrique. Les meilleures performances sont obtenues lorsqu’il est allié à Sb2Te3 (alliage d'antimoine et de tellure) qui possède la même structure cristalline. Des échantillons de type p comme de type n peuvent être obtenus par de petites variations de composition au voisinage de la stœchiométrie. Dans les deux cas, des valeurs du facteur de mérite ZT proches de 1 sont obtenues au voisinage de la température ambiante. Ces bonnes valeurs de ZT sont obtenues en partie grâce à la très faible conductivité thermique λ, proche de 1 W.m-1.K-1 dans les meilleurs matériaux.
Pour une utilisation à moyenne température (550 K-750 K environ), le matériau le plus utilisé est le tellure de plomb PbTe et ses alliages (PbSn)Te (tellure de plomb-étain). Les deux composés PbTe et SnTe peuvent former une solution solide complète ce qui permet d’optimiser le gap (bande interdite du semi-conducteur) à la valeur désirée. Les meilleurs matériaux obtenus ont des facteurs de mérite proches de l’unité autour de 700 K. Cependant, ces valeurs sont obtenues uniquement dans les matériaux de type n. PbTe ne peut donc pas à l’heure actuelle constituer à lui seul les deux branches d’un thermoélément. La branche p est donc généralement constituée d’un matériau de type TAGS (pour Tellure-Antimoine-Germanium-Argent), qui quant à lui permet d’obtenir des facteurs de mérite supérieurs à l’unité à 700 K uniquement en type p. Il apparait donc crucial de développer un nouveau matériau qui puisse être utilisé à la fois en type p et en type n dans cette gamme de température. Il est en effet plus facile industriellement d'utiliser le même type de matériau pour les deux branches (et cela permettrait de plus d’éliminer le tellure fortement toxique).
Les alliages à base de silicium et germanium possèdent de bonnes caractéristiques thermoélectriques aux hautes températures (au-dessus de 1 000 K) et sont notamment utilisés pour la génération d’électricité dans le domaine spatial. Ce sont notamment des alliages de ce type qui sont utilisés pour l'alimentation en électricité de la sonde Voyager.
L’expression du facteur de mérite ZT=(S2T)/(ρλ) résume à elle seule la difficulté à optimiser les propriétés de transport d’un matériau thermoélectrique. Intuitivement, il paraît difficile pour un matériau de posséder simultanément une bonne conductivité électrique et une mauvaise conductivité thermique, caractéristique des isolants. Idéalement, un bon matériau thermoélectrique devrait ainsi posséder tout à la fois la conductivité électrique d'un métal et la conductivité thermique d'un verre!
Le numérateur du facteur de mérite ZT, S2σ (σ est la conductivité électrique, inverse de la résistivité électrique : σ=1/ρ) est nommé facteur de puissance. En génération d’électricité par effet thermoélectrique, la puissance utile sera d’autant plus grande que le facteur de puissance sera grand. Malheureusement, le coefficient Seebeck et la conductivité électrique ne sont pas indépendants l’un de l’autre, et varient de manière opposée avec la concentration en porteurs de charge (concentration d'électrons ou de trous, voir semi-conducteur) : les meilleurs pouvoirs thermoélectriques seront obtenus dans des matériaux de faible concentration en porteurs tandis que les meilleures conductivités électriques le seront dans des matériaux à forte concentration de porteurs. Par compromis, les meilleurs matériaux thermoélectriques appartiendront donc à la classe des semi-conducteurs.
Le second facteur important dans l’expression du facteur de mérite ZT (en sus du facteur de puissance) est la conductivité thermique : un matériau aura des propriétés thermoélectriques optimales pour une faible conductivité thermique. En effet, de manière intuitive, une bonne conductivité thermique tendrait à s’opposer à l’établissement du gradient thermique : la chaleur traverserait le matériau sans rencontrer de résistance. L'optimisation des matériaux nécessitera donc de chercher à diminuer la conductivité thermique, sans dégrader la conductivité électrique. Seule la contribution des vibrations du réseau (voir conductivité thermique) devra donc être diminuée, et pas la contribution due aux porteurs de charge (électrons ou trous).