高通 Windows AI PC 的 NPU 基准测试 (github.com)

这篇文章是对高通 Windows AI PC 中 NPU 性能进行基准测试的代码示例介绍。测试结果显示，NPU 的性能远低于预期，仅达到了宣传的 45 万亿次/秒 的 1.3%。作者分析了可能的影响因素，包括计算绑定、电源设置、模型拓扑结构、配置错误和 Onnx 框架等，并希望通过软件改进或其他 API 来提升 NPU 的性能。