Modelo de Difusión Probabilística PyTorch Mínimo: Experimentos con Conjuntos de Datos 2D

Esta publicación detalla una implementación mínima en PyTorch de un modelo de difusión probabilístico para conjuntos de datos 2D. El autor explora hiperparámetros como la tasa de aprendizaje, el tamaño del modelo, la longitud del proceso de difusión y la codificación de la etapa de tiempo a través de varios experimentos. Los resultados muestran que una tasa de aprendizaje adecuada es crucial, los procesos de difusión más largos generan muestras más completas y la capacidad del modelo no es el principal cuello de botella. El uso de incrustaciones sinusoidales para la codificación de entrada ayuda a aprender funciones de alta frecuencia en dominios de baja dimensionalidad.