GPUメモリ最適化によるO(1)ストリーミングビデオ予測
2025-04-19
新しいビデオ予測モデルは、最適化されたGPUメモリレイアウトにより、O(1)のストリーミング計算量を実現します。このモデルは入力フレームをGPUメモリにエンコードし、重要度に基づいて異なるコンテキスト長(トークン数)をフレームに割り当てます。例えば、HunyuanVideoでは、異なるパッチ化カーネルを使用することで、480pフレームのトークン数を1536から192に調整できます。これにより、最も重要なフレーム(例えば、予測ターゲットに最も近いフレーム)がより多くのGPUリソースを利用できるようになり、効率の大幅な向上と、驚くべきことに複雑なアルゴリズム最適化なしでO(1)の計算量を実現します。