Etched | 全球首个Transformer专用AI芯片

2024-06-25

Etched公司获得1.2亿美元融资,用于构建全球首款Transformer专用ASIC芯片Sohu。通过将Transformer架构直接刻蚀到芯片中,Sohu运行AI模型的速度比GPU快一个数量级,成本也更低。Sohu能够实现实时语音代理、毫秒级处理数千字文本、更强大的代码树搜索、并行比较数百个响应、多播推测解码以及实时生成新内容等功能,为未来万亿级参数模型的运行提供了可能。

阅读更多
未分类 ASIC

Etched 公司押注 AI 未来,推出全球首款 Transformer 专用芯片 Sohu

2024-06-25

Etched 公司认为 Transformer 模型将主导 AI 未来,因此倾力打造了全球首款 Transformer 专用芯片 Sohu。Sohu 针对 Transformer 架构进行了深度优化,其速度远超英伟达 H100 等顶级 GPU,能够以更低的成本提供更高的推理性能。Etched 相信随着 AI 模型规模不断扩大,专用芯片将成为必然趋势,而 Sohu 将在这一领域占据领先地位。

阅读更多
未分类 AI芯片 Sohu