La première difficulté que présente ce système est la longueur et le nombre des clés nécessaires, avec le problème de leur transmission au correspondant, de leur stockage, de leur identification. On travaille en effet souvent avec plusieurs correspondants, ayant chacun plusieurs jeux de clés en commun.
Ensuite générer des clés réellement aléatoires nécessite des moyens complexes.
Enfin garantir l'utilisation unique de chaque clé, même à des années d'intervalle, pose des problèmes d'organisation importants : à défaut, la sécurité du système peut être compromise.
La seule méthode sûre pour transmettre les clés au correspondant est le transport physique, typiquement dans une valise diplomatique. Aucune transmission sur un réseau n'est acceptable, une interception ne pouvant jamais être totalement exclue. Et ce problème ne serait pas résolu en chiffrant préalablement la clé avec un système comme RSA, car ce dernier n'offre pas une sécurité théorique absolue, et le risque d'une cryptanalyse existe toujours.
Une solution très prometteuse au problème de la transmission de la clé a été apportée par les systèmes de cryptographie quantique. Celle-ci, quoique théoriquement parfaitement sûre, comporte encore des limites pratiques contraignantes, concernant la distance maximale (de l'ordre de la centaine de km) et le débit (de l'ordre de quelques bits à quelques kilobits par seconde).
Le fait que la clé soit constituée d'une suite de caractères (ou de bits) totalement aléatoires est une condition essentielle de la sécurité du chiffre de Vernam. Un défaut du masque sur ce point peut suffire pour que le cryptanalyste retrouve le clair.
Des clés parfaitement aléatoires ne peuvent pas être produites par un ordinateur : en effet ce dernier est une machine fondamentalement déterministe, dont le résultat est totalement prévisible quand on connaît les calculs programmés et leurs données initiales. Pourtant de nombreux algorithmes ont été proposés dans ce but : on les appelle des générateurs de nombres pseudo-aléatoires. Leur résultat est utile dans beaucoup de situations, mais il ne répond pas à la condition du parfait aléa, qui seul garantit la sécurité absolue démontrée par Claude Shannon.
Le moyen le plus sûr de respecter cette contrainte consiste donc à créer les clés en exploitant un phénomène physique dont la nature est strictement aléatoire. C'est le cas par exemple de la radioactivité, où l'instant de désintégration d'un atome est purement aléatoire. De tels générateurs existent, mais ils doivent comporter un traitement statistique complexe des données physiques brutes observées pour obtenir une suite de bits présentant les qualités requises, ne serait-ce que de produire en moyenne un nombre égal de 1 et de 0. Ils sont coûteux.
Le risque que fait courir la réutilisation d'une clé est facile à montrer.
Soit un message M1 masqué grâce à la clé K, nous obtenons le chiffré C1. Supposons qu'un autre message M2 soit chiffré avec le même masque K, fournissant le chiffré C2. Convenons que le symbole
Supposons qu'un adversaire applique l'opération XOR aux deux chiffrés C1 et C2, et réutilisons les propriétés vues ci-dessus :
On obtient le XOR des deux messages en clair. C'est très dangereux, car tout effet de masque de la clé K a disparu.
Si par exemple un adversaire connaît les deux messages chiffrés et l'un des messages en clair, il peut trouver instantanément le deuxième message en clair par le calcul :
En fait, même sans connaître l'un des clairs, des méthodes plus complexes permettent souvent de retrouver M1 et M2.
Pour garantir l'utilisation unique des clés, les agents du KGB utilisaient souvent des masques qui étaient imprimés sur un papier spécial, celui-ci brûlait presque instantanément et sans laisser de cendres.
En pratique l'utilisation sûre du masque jetable demande une organisation rigoureuse : chaque clé doit être précisément identifiée et soigneusement tracée, d'autant qu'elle est toujours fournie en deux exemplaires, à deux correspondants géographiquement distants. Imaginez qu'une chancellerie communique par cette méthode avec ses dizaines d'ambassades réparties dans des pays du monde, chacune d'elle envoyant et recevant plusieurs messages par jour, pouvant comporter un grand nombre de pages, et ceci pendant des années : il faut une logistique lourde pour garantir la sécurité absolue. Mais cette méthode a été et est encore largement utilisée par les États.