Modelo de Difusão Probabilística PyTorch Minimal: Experimentos com Conjunto de Dados 2D

Esta publicação descreve uma implementação mínima em PyTorch de um modelo de difusão probabilístico para conjuntos de dados 2D. O autor explora hiperparâmetros como taxa de aprendizado, tamanho do modelo, comprimento do processo de difusão e codificação de etapa de tempo por meio de vários experimentos. Os resultados mostram que uma taxa de aprendizado adequada é crucial, processos de difusão mais longos geram amostras mais completas e a capacidade do modelo não é o principal gargalo. O uso de embeddings senoidais para codificação de entrada auxilia no aprendizado de funções de alta frequência em domínios de baixa dimensionalidade.