GPU 利用率是一个具有误导性的指标 (trainy.ai)

文章指出，GPU 利用率虽然是衡量 GPU 使用情况的常用指标，但它并不能完全反映 GPU 的实际性能。作者通过分析 GPU 架构和工作原理，解释了为什么 GPU 利用率高并不等同于 GPU 性能好。文章还介绍了 SM 利用率和 MFU 等更能反映 GPU 实际性能的指标，并提供了一些优化 GPU 性能的建议。