大型语言模型硬件加速：综述与比较
2024-09-07
这篇文章综述了利用硬件加速器加速大型语言模型Transformer网络的各种研究工作，对不同技术、平台(FPGA、ASIC、内存、GPU)以及加速效果、能效、性能(GOPs)和能效比(GOPs/W)进行了定性和定量比较。文章还通过将不同方案的结果外推到相同的工艺技术上，进行了更公平的理论和实践比较。
52
未分类
Transformer网络