Gemini APIにバッチモードが登場：高スループットワークロードに対応

GoogleのGemini APIにバッチモードが追加されました。これは、レイテンシがクリティカルでない高スループットタスクに最適な非同期エンドポイントです。大量のジョブを提出して処理をシステムに任せ、同期APIと比べて50%割引で24時間以内に結果を取得できます。事前に準備されたデータで即時レスポンスが不要なタスクに最適で、コスト削減、スループットの向上、API呼び出しの簡素化を実現します。Reforged Labsはこれを使用して大量の動画広告を処理し、効率の大幅な向上とコスト削減を実現しています。Google GenAI Python SDKを使用すれば簡単に始めることができます。