FastVideo: Open-Source-Framework beschleunigt große Video-Diffusionsmodelle
2024-12-17
FastVideo ist ein Open-Source-Framework, das entwickelt wurde, um die Inferenz und das Training großer Video-Diffusionsmodelle zu beschleunigen. Es unterstützt Modelle wie FastMochi und FastHunyuan und erreicht bis zu 8-mal schnellere Inferenzgeschwindigkeiten. Das Framework nutzt Techniken der Wissensdestillation und unterstützt die Destillation, das Feintuning und die Inferenz für Video-DiT-Modelle basierend auf PCM. Darüber hinaus bietet FastVideo skalierbare Trainingsfunktionen mit FSDP, Sequenzparallelität und selektivem Aktivierungsprüfpunkt, wodurch ein speichereffizientes Feintuning ermöglicht wird.