Epoch AIは、AIの経済的影響を探る統合評価モデルであるGATEを発表しました。このモデルは、自動化のフィードバックループに焦点を当てています。投資は計算能力を高め、より高度なAIシステムがタスクを自動化し、生産性を向上させ、さらにAI開発を促進します。インタラクティブなプレイグラウンドにより、ユーザーはパラメータを調整し、さまざまなシナリオにおけるモデルの挙動を観察できます。予測はEpoch AIによる将来予測ではなく、仮定に基づいた条件付き予測であり、主にAI自動化の定性的ダイナミクス分析に役立ちます。
続きを読む
一般的な見解では、AIの主要な経済効果はR&Dの自動化にあるとされています。しかし、この記事ではこの見解に異議を唱え、R&Dの経済的価値は過大評価されており、生産性向上への貢献は一般的に考えられているよりもはるかに小さいと主張しています。著者らは、AIの経済的価値は、主に広範な労働力自動化に由来し、生産性と生産量の著しい向上をもたらすと主張しています。これは、R&Dの進歩だけに限定されるものではありません。AIが最終的にR&Dを自動化するとしても、それはより広範な自動化の後、AIがより幅広いタスクを実行できるようになった後に起こるでしょう。
続きを読む
DeepSeek v3は、同等のモデルよりも大幅に少ない計算量で、ベンチマークにおいて最先端の性能を達成しています。これは、以下の重要なアーキテクチャ上の改良によるものです。多頭潜在的アテンション（MLA）メカニズムは、モデルの品質を犠牲にすることなく、KVキャッシュのサイズを大幅に削減します。改良された混合専門家（MoE）手法は、補助損失のない負荷バランスと共有専門家戦略によって、ルーティング崩壊の問題に対処します。そして、マルチトークンプレディクションは、トレーニング効率と推論速度を向上させます。これらの改良は、Transformerアーキテクチャに対するDeepSeekチームの深い理解を示しており、大規模言語モデルの発展の方向性を示しています。
続きを読む