LLMコスト幻想：スケーリングが固定価格サブスクリプションを殺した方法

多くのAI企業は、LLMのコストが毎年10倍下がるというトレンドに賭け、初期の損失は将来の高マージンで相殺されると仮定しました。しかし、現実は異なります。モデルのコストは下がっていますが、最高のモデルに対するユーザーの需要は増え続け、計算量の爆発的な増加につながっています。ChatGPTなどのモデルのレスポンスの長さは劇的に増加し、トークンの消費は指数関数的に増加しています。つまり、コスト削減があっても、総支出は予想をはるかに上回ります。この記事では、3つの対策戦略を分析しています。1日目からの利用ベースの価格設定、高いマージンを得るための非常に高い切り替えコストの作成、インフラストラクチャからの利益を得るための垂直統合です。著者は、固定価格のサブスクリプションモデルに固執することは、最終的に倒産につながると結論付けています。