Méthode de l'entropie croisée - Définition

Source: Wikipédia sous licence CC-BY-SA 3.0.
La liste des auteurs de cet article est disponible ici.

Algorithme CE générique

  1. Choisir un vecteur des paramètres initial \mathbf{v}^{(0)} ; poser t = 1.
  2. Générer un échantillon de variables aléatoires \mathbf{X}_1,\dots,\mathbf{X}_N selon la densité f(\cdot;\mathbf{v}^{(t-1)})
  3. Calculer \mathbf{v}^{(t)} , où
    \mathbf{v}^{(t)} = \mathop{\textrm{argmax}}_{\mathbf{v}} \frac{1}{N} \sum_{i=1}^N H(\mathbf{X}_i)\frac{f(\mathbf{X}_i;\mathbf{u})}{f(\mathbf{X}_i;\mathbf{v}^{(t-1)})} \log f(\mathbf{X}_i;\mathbf{v})
  4. Si l'algorithme a convergé alors stopper; sinon, incrémenter t de 1 recommencer à l'étape 2.

Dans certains cas, la solution de l'étape 3 peut être trouvée analytiquement. Les situations où celà se produit sont

  • Quand f\, fait partie des fonctions de la  natural exponential family  ⇔  famille exponentielle
  • Quand f\, est discrète avec un support fini
  • Quand H(\mathbf{X}) = \mathrm{I}_{\{\mathbf{x}\in A\}} et f(\mathbf{X}_i;\mathbf{u}) = f(\mathbf{X}_i;\mathbf{v}^{(t-1)}) , alors \mathbf{v}^{(t)} correspond à l'estimateur du maximum de vraisemblance basé sur les \mathbf{X}_k \in A .

Méthodes liées

Page générée en 0.100 seconde(s) - site hébergé chez Contabo
Ce site fait l'objet d'une déclaration à la CNIL sous le numéro de dossier 1037632
A propos - Informations légales
Version anglaise | Version allemande | Version espagnole | Version portugaise