LLMの運用コストは驚くほど安い

この記事は、大規模言語モデル（LLM）の運用コストが法外に高いという広く行き渡っている誤解に異議を唱えています。LLMのコストをウェブ検索エンジンと比較し、様々なLLM APIの価格を挙げることで、著者はLLMの推論コストが劇的に低下しており、一部の検索APIよりも桁違いに安いことを示しています。また、価格の補助金や高額な裏付けコストなど、LLMの価格設定戦略に対する一般的な異論にも反論し、真の費用対効果の問題は、AIと相互作用するバックエンドサービスであり、LLM自体ではないことを指摘しています。