xAI的Grok 3：规模胜过技巧的AI竞赛
2025-02-20
xAI的Grok 3大型语言模型在基准测试中表现出色，甚至超越了OpenAI、谷歌DeepMind和Anthropic等老牌实验室的模型。这再次证明了“痛苦教训”（Bitter Lesson）——规模化训练胜过算法优化。文章以DeepSeek为例，说明即使在计算资源有限的情况下，通过优化也能取得不错的成绩，但这并不能否定规模化的重要性。Grok 3的成功在于其使用了拥有10万个H100 GPU的巨型计算集群，这表明在AI领域，拥有强大的计算能力至关重要。文章最后指出，未来AI竞争将更加激烈，拥有充足资金和计算资源的公司将占据优势。
AI
规模化训练