Divergence contrastive : comprendre l’entraînement des RBM
2025-05-15
Cet article explique clairement l’algorithme de divergence contrastive pour l’entraînement des Machines de Boltzmann Restreintes (RBM). En définissant la fonction d’énergie et la distribution jointe, il dérive la règle de mise à jour des poids et explique le rôle de l’échantillonnage de Gibbs dans les phases positives et négatives. Finalement, il montre comment la différence entre les espérances des données et du modèle est utilisée pour ajuster les poids et les biais du RBM, minimisant ainsi l’énergie des données d’entraînement.
Lire plus