알고리즘 한계 돌파: 유도적 모멘트 매칭(IMM)을 통한 효율적인 생성적 사전 훈련
2025-03-12
Luma Labs는 생성적 사전 훈련에서 알고리즘 혁신의 정체를 해결하는 새로운 사전 훈련 기술인 유도적 모멘트 매칭(IMM)을 발표했습니다. IMM은 샘플 품질과 샘플링 효율성 모두에서 확산 모델을 크게 능가하며, 후자에서는 10배 이상의 향상을 달성합니다. 목표 시간 단계를 통합함으로써 IMM은 각 추론 반복의 유연성을 높이고 확산 모델의 선형 보간 한계를 극복합니다. 실험 결과 ImageNet과 CIFAR-10 데이터 세트에서 최첨단 FID 점수와 우수한 훈련 안정성을 보여줍니다. 이 연구는 생성적 사전 훈련 알고리즘의 중요한 발전을 나타내며, 다중 모드 기반 모델의 미래 발전을 위한 길을 열어줍니다.
더 보기