推論コスト(LLMのAPI費用)とは

すいろんこすと Inference Cost AI・SaaS

推論コストとは、学習済みのAIモデルを実際に動かして出力を得るためにかかる費用で、商用LLMでは入力と出力のトークン数に応じた従量課金として発生します。ユーザーが使うほど増える変動費であり、AIプロダクトの粗利率と、買収後に同じ収益を再現するためのコスト構造を決めます。

従来のSaaSは、ユーザーが増えてもサーバー費用はゆるやかにしか増えず、粗利率80%前後が当たり前でした。LLMを使うプロダクトは違います。1回の応答ごとにプロバイダへトークン単位の費用を払うため、使われるほどコストが増え、ヘビーユーザーほど赤字になることさえあります。「月間APIコストを知らずに買った」事業は、買収後の最初の請求書で価値が変わります。

推論コストを見る論点は、①単価——モデルごとに入力・出力トークンの単価が異なり、高性能モデルは軽量モデルの10倍以上のことがある。プロンプトキャッシュやバッチ処理で下がる場合もある。②使用量の分布——ユーザーあたりの平均ではなく、上位ユーザーの使用量と、それに対する課金が見合っているか。③単価の変動——プロバイダの値下げは頻繁で、逆にモデルの廃止で高い後継モデルへの移行を強いられることもある。④コスト統制——月次予算や日次上限、異常な使用を止める仕組みがあるか。無いプロダクトは、悪用や不具合で一晩で予算を溶かします。ユニットエコノミクス(顧客1人あたりの粗利)は、推論コストを含めて計算しなければ意味がありません。

RIKKA M&Aの出品フォームには、WEBサービス・SaaS、AIプロダクト、スマホアプリの「月間APIコスト(円)」と、月次収益履歴(直近12ヶ月)の月ごとの「コスト(円)」を入力する欄があり、案件詳細で買主が収益と並べて確認できます。当社自身のAI利用も、機能の系統ごとに1日の上限と直近30日の予算を持つ統制の下で動いており、予算に達するとその系統の機能を止める設計にしています。買主は、コストの推移が収益の伸びとどう連動しているかを見ることで、その事業が「使われるほど儲かる」のか「使われるほど損する」のかを判断できます。