Trillium TPU 正式发布

2024-12-11

谷歌宣布其第六代TPU——Trillium正式发布,并已用于训练Gemini 2.0。Trillium TPU作为AI Hypercomputer的关键组件,在训练、微调和推理方面性能显著提升,能效更高。与上一代相比,Trillium在训练性能、推理吞吐量、能效和每芯片峰值计算性能等方面均有大幅提升,并可扩展至数十万芯片。它在大型语言模型训练、推理、嵌入密集型模型等方面表现出色,并提供更高的性价比。

未分类