Modèle de diffusion probabiliste PyTorch minimal : expériences sur des ensembles de données 2D
2025-06-15
Cet article détaille une implémentation minimale en PyTorch d’un modèle de diffusion probabiliste pour les ensembles de données 2D. L’auteur explore des hyperparamètres tels que le taux d’apprentissage, la taille du modèle, la durée du processus de diffusion et le codage des pas de temps au moyen de diverses expériences. Les résultats montrent qu’un taux d’apprentissage approprié est crucial, que des processus de diffusion plus longs génèrent des échantillons plus complets et que la capacité du modèle n’est pas le principal goulot d’étranglement. L’utilisation d’intégrations sinusoïdales pour le codage des entrées aide à apprendre des fonctions à haute fréquence dans les domaines à faible dimension.