LLM推論コストはいくら? 4シナリオで実際に計算してみた

LLM推論コストはいくら? 4シナリオで実際に計算してみた

2023年3月、GPT-4の入力トークンは100万トークンあたり30ドルでした。それから3年後、GPT-5.6は同じ100万トークンを10ドルで処理します。Claude Opus 4.5は15ドル。最安値は? 2セントです。同じ単位の作業に対して、最安と最高で1,500倍の価格差があります。LLM推論コストとは、学習済みモデルが入力を読み取って出力を生成するたびに発生する従量課金で、主要プロバイダーはすべて100万トークン単位で価格を設定しています。バジェットモデルは入力100万トークンあたり0.02ドル〜0.30ドル。フロンティアモデルは同じ量で15ドル〜75ドルを請求します。この差が重要なのは、実際にどのティアが必要かを決めるのは野心ではなくワークロードだからです。

主要ポイント:

• バジェットモデルは入力100万トークンあたり0.02ドル〜0.30ドル、フロンティアモデルは15ドル〜75ドル(2026年7月時点)。
• 出力トークンは入力トークンの3〜5倍高価。生成は並列ではなく逐次処理だからです。
• 月5万会話のサポートチャットボットは、モデルティアによって月額約9ドル〜420ドル。
• 推論価格は年あたり約10倍のペースで下落。Gartnerは2030年までに90%の低下を予測しています。

LLM推論コストは100万トークンあたりいくら?

2026年7月時点のLLM推論料金は3ティア構造です。Google(Gemini 2.5 Flash)やオープンソース(Llama 4、Qwen 3)などのバジェットモデルは入力100万トークンあたり0.02ドル〜0.30ドル。ミッドティアモデル(GPT-4.1、Claude Sonnet 4)は0.55ドル〜15ドル。フロンティア推論モデル(o3、Claude Opus 4.5)は15ドル〜75ドルです。各プロバイダーは公式料金ページ(OpenAI、Anthropic)でこれらのレートを公開しており、PricePerToken.comでは300以上のモデルをライブグリッドで追跡しています。

2026年7月現在、入力100万トークンをわずか2セントで処理できる一方、フロンティアモデルでは同じ100万トークンに75ドルかかります。

キャッシュ入力の割引を使うと、繰り返しプロンプトの請求額が50〜90%削減できます(プロンプトキャッシュで入力コストを削減で仕組みを解説)。全プロバイダーの最新レートを含む300モデルのライブグリッドは、トークン単価の完全比較表を参照してください。

LLM推論コストを構成する4つの要素

推論の請求額は4つのコストドライバーに分解できます。トークンあたりのGPU計算時間、モデルの重みとKVキャッシュのためのメモリ、生成を読み取りより高くする入出力の非対称性、そしてインフラのオーバーヘッド(電力、冷却、ネットワーク)です。どの要素がワークロードを支配しているかを理解すれば、最適化の投資対効果がわかります。

計算: トークンあたりのGPU時間

すべてのトークンはモデルの全層を通過します。70BパラメータのモデルをFP16で動かすと、トークンあたり約140 GFLOPsが必要です。INT4に量子化すると約35 GFLOPsまで下がります。NVIDIAの推論ベンチマークガイドでは、TCOの完全な計算式(ハードウェア償却費 + 電力 + 運用オーバーヘッドを提供トークン数で割る)が解説されています。

メモリ: モデルの重み + KVキャッシュ

70BモデルをFP16で動かすと、重みだけで約140 GBのVRAMを占有します。KVキャッシュはコンテキスト長と同時バッチサイズに比例して増大します。128Kコンテキストで32件の同時リクエストを処理すると、さらに80 GB消費する可能性があります。だからこそ、セルフホスティングの判断にはモデル別VRAM要件が極めて重要です。

入力と出力の非対称性

出力トークンは入力トークンの3〜5倍高価です。モデルは出力を1つずつ順番に生成するため、プロンプトの読み取りのように並列化できません。

平易に言うと、2,000トークンのプロンプトを読み取る「プリフィル」フェーズでは、全トークンをGPUコア全体で同時に処理します。一方、500トークンの出力を生成する「デコード」フェーズでは、1ステップに1トークンずつ、各トークンが直前に依存しながら生成されます。GPUはステップ間でメモリ帯域を待っている間、ほぼアイドル状態です。このアイドル時間に対して、入力レートの3〜5倍を支払っています。

インフラオーバーヘッド

電力、冷却、ネットワーク、そしてリクエスト間でアイドル状態のGPU。Hugging Faceの最適化ドキュメントでは、continuous batchingやspeculative decodingによって同じハードウェアからGPU時間あたりのトークン数を増やし、このオーバーヘッドの割合を直接削減する方法が解説されています。

4つの実ワークロードでLLM推論コストはいくらになる?

典型的なサポートチャットボットは月額9ドル〜420ドル、RAGパイプラインは月額168ドル〜3,360ドル、200人開発者のコードアシスタントは月額123ドル〜2,078ドル、文書の一括処理は月額240ドル〜6,400ドルです。この開きはほぼ完全にモデルティアの選択で決まります。以下の4シナリオは、クライアントのデプロイメント実績のトークン量を、2026年7月の公式料金ページで価格計算したものです。以下の金額はすべて再現可能です。記載のトークン前提に公開レートを掛けただけです。ベンダーの主張ではなく、私たちの分析です。

カスタマーサポートチャットボット: 月5万会話

平均的な会話: 入力800トークン(システムプロンプト + ユーザーメッセージ + 検索コンテキスト)、出力400トークン。月間処理量: 50,000会話 = 入力4,000万トークン、出力2,000万トークン。

• バジェット選択(Gemini 2.5 Flash): 4,000万 × $0.075/100万 + 2,000万 × $0.30/100万 = 月額9ドル。疑わしいほど安い。
• ミッド選択(Claude Sonnet 4): 4,000万 × $3/100万 + 2,000万 × $15/100万 = 月額420ドル。

ティア1チケットを処理するサポートボットなら、バジェットモデルで90%のクエリに十分対応できます。難しい10%は分類器でミッドティアにルーティングします。

RAGパイプライン: 1日1万クエリ

平均クエリ: 入力3,200トークン(検索チャンク + システムプロンプト + ユーザーの質問)、出力600トークン。月間: 30万クエリ = 入力9億6,000万トークン、出力1億8,000万トークン。

• バジェット選択(API経由のLlama 4 Scout): 9億6,000万 × $0.10/100万 + 1億8,000万 × $0.40/100万 = 月額168ドル。
• ミッド選択(GPT-4.1): 9億6,000万 × $2/100万 + 1億8,000万 × $8/100万 = 月額3,360ドル。

RAGワークロードは入力偏重型なので、キャッシュ入力の割引がここで大きく効きます。70%のプロンプトキャッシュ命中率なら、ミッドティアは月額約2,100ドルまで下がります。

コードアシスタント: 開発者200人

平均セッション: 入力4,500トークン(ファイルコンテキスト + 会話)、出力1,200トークン。開発者1人あたり1日15リクエスト、月22営業日と仮定 = 月66,000リクエスト = 入力2億9,700万、出力7,900万。

• バジェット選択(Qwen 3 32B): 2億9,700万 × $0.20/100万 + 7,900万 × $0.80/100万 = 月額123ドル。
• ミッド選択(Claude Sonnet 4): 2億9,700万 × $3/100万 + 7,900万 × $15/100万 = 月額2,078ドル。

開発者は品質の差にすぐ気づきます。コード用途では、ミッドティアが事実上の下限です。バジェットモデルはオートコンプリート的な提案には使えますが、複数ファイルにまたがるリファクタリングには苦戦します。

文書一括処理: 月100万文書

平均文書: 入力2,000トークン、出力300トークン(抽出、分類、要約)。月間: 入力20億、出力3億。

• バジェット選択(Gemini 2.5 Flash): 20億 × $0.075/100万 + 3億 × $0.30/100万 = 月額240ドル。
• ミッド選択(GPT-4.1): 20億 × $2/100万 + 3億 × $8/100万 = 月額6,400ドル。

この規模では、ティア間の27倍の価格差が月額6,160ドルの差になります。バジェットモデルは構造化抽出に十分対応できます。この量をセルフホスティングする場合のハードウェアサイジングは、モデル別VRAM要件を参照してください。

def monthly_cost(input_tokens, output_tokens, requests, price_in, price_out):
    """Estimate monthly LLM inference cost.
    
    Args:
        input_tokens: avg input tokens per request
        output_tokens: avg output tokens per request
        requests: monthly request volume
        price_in: $/M input tokens
        price_out: $/M output tokens
    """
    total_in = input_tokens * requests / 1_000_000
    total_out = output_tokens * requests / 1_000_000
    return (total_in * price_in) + (total_out * price_out)

# Example: support chatbot on Claude Sonnet 4
cost = monthly_cost(
    input_tokens=800,
    output_tokens=400,
    requests=50_000,
    price_in=3.00,
    price_out=15.00
)
print(f"${cost:,.2f}/month")  # $420.00/month

APIかセルフホスティングか: それぞれが勝つ条件

APIが勝つのは1日あたり約2万リクエスト以下、またはチームにMLインフラの経験がない場合です。セルフホスティングが勝つのは1日20万リクエストを超え、GPU稼働率が50%以上で持続する場合です。Introlの分析によると、70Bクラスのモデルを単一H100ノードで動かす場合、損益分岐点は1日あたり約5万〜8万リクエストです。この閾値を下回ると、APIプロバイダーのマルチテナント効率がシングルテナントの自社ハードウェアの計算を上回ります。

APIが勝つ場合

数週間ではなく数日でリリースできます。MLエンジニアの年収(18万ドル〜25万ドル)も、GPU障害のオンコール当番も、キャパシティプランニングも不要です。エンジニア50人以下のほとんどのチームにとって、APIが正しいデフォルトです。以上。

セルフホスティングが勝つ場合

1日20万リクエストを超え、ワークロードが予測可能で、すでにMLインフラの担当者を雇用している場合です。オープンソースモデル(Llama 4、Qwen 3、Mistral)を自社ハードウェアで動かせば、コストは電力費と償却費だけです。vLLM vs SGLangのベンチマークでは、ワークロードの形状によってスループットに15〜30%の差が出ており、この規模ではそれが重要になります。

損益分岐点の数字

セルフホスティングが有利になるのは、GPU稼働率が約50%以上で持続する場合のみです。それを下回ると、アイドルのシリコンに支払い続けることになります。隠れた人件費(MLエンジニアの工数、オンコール、モデル更新、セキュリティパッチ)こそが、GPUの計算上は有利に見えてもほとんどのチームがAPIにとどまる本当の理由です。セルフホスティングする場合でも、Modalでのモデルデプロイならインフラ管理の層を除去しつつ、トークン単価をAPIレート以下に抑えられます。

誰も予算に入れていない隠れコスト

生のトークン消費は実際の請求額の60〜80%にすぎません。残りは、料金計算機には決して表示されない6つの項目に隠れています。トークン見積もりに**20〜40%**を上乗せして予算を組んでください。

• モニタリングとオブザーバビリティツール: 月額200ドル〜1,500ドル。トークン使用量のダッシュボード、レイテンシ追跡、機能ごとのコスト配分。LLMオブザーバビリティスタックは、プロンプトの退行が予算を焼き尽くす前に検知できた時点で元が取れます。
• リトライと失敗の再実行: リクエストの3〜8%は失敗またはリトライが必要(タイムアウト、レート制限、不正な出力)。これはトークン請求額の3〜8%を何も生み出さずに消費することを意味します。
• プロンプトエンジニアリングの反復工数: 四半期あたり20〜60時間、エンジニアの loaded cost は時給100ドル〜200ドル。プロンプトを修正するたびにテストバッチを再実行します。
• 評価とリグレッションテスト: 自動評価スイートのトークン消費で月額100ドル〜800ドル。モデルに自己採点させているわけです。
• マルチリージョン冗長化: レイテンシやコンプライアンスのためにリージョン間のフェイルオーバーが必要なら、インフラコストは1.5〜2倍になります。
• コールドスタートのレイテンシペナルティ: サーバーレスGPUデプロイ(Modal、AWS Lambda)はアイドル時間に課金します。コールドスタートは2〜8秒を追加し、ウォームアップにも課金されます。

経験則: 生のトークン見積もりに1.3を掛ければ現実的な予算になります。コンプライアンスオーバーヘッドのある規制業界なら1.4を掛けてください。

LLM推論はなぜ安くなり続けるのか?

LLM推論価格は2023年以降、年あたり約10倍のペースで下落しています。 2024年に月額1,000ドルかかっていたワークロードは、現在では約100ドルです。これを駆動する力は3つあります。ハードウェアの進化(NVIDIA Blackwell FP4、Google TPU v6)、競争圧力(DeepSeekやオープンソースモデルが価格競争を強制)、そしてソフトウェアの最適化(speculative decoding、continuous batching、量子化)です。Gartnerは推論コストが2030年までにさらに90%下がると予測していますが、これは予測であって保証ではありません。

Epoch AIの価格追跡は、この下落を実データで記録しています。a16zの「LLMflation」分析はこの用語を生み出し、経済的な含意を整理しました。推論は過去のどの計算カテゴリよりも速くデフレしています。

学習コストと推論コスト

フロンティアモデルの学習には5,000万ドル〜2億ドル(一回限り)かかります。同じモデルの推論は、全ユーザー合わせて年間500万ドル〜5,000万ドルで、規模に依存します。ほとんどのチームにとって、比率は10〜100倍です。学習コストは推論の年間コストの10〜100倍です。ただし学習は一回限りの資本的支出です。推論はユーザーの成長とともに複利的に膨らむ経常的な運用コストです。基盤モデルを構築しない限り、学習に支払うことはありません。推論には毎日支払います。

電力の項目

NVIDIA H100は負荷時に約700Wを消費します。電力単価0.10ドル/kWh(米国平均)なら、GPU時間あたり0.07ドルです。単一H100上の70Bモデルは、バッチ処理で秒あたり約2,000出力トークンを生成します。1時間では720万トークン。出力100万トークンあたりの電力コストは約0.01ドルです。これは私たちの計算であり、その旨明記します。電力はAPI請求額の1〜3%ですが、セルフホスティングTCOの8〜15%を占めます。電力コストの高い地域(ドイツの0.30ドル/kWhならこの数字は3倍)で自社GPUを運用している場合、影響はより大きくなります。

実務的な要点: 価格は十分に速く下落しているため、特定のモデルティアへの12か月コミットメントはリスクがあります。四半期ごとに再評価してください。LLM請求額を削減する12の方法では、マクロトレンドが大きな仕事をしてくれる間に、今すぐ打てる戦術的な手を解説しています。

自分の推論コストをどう見積もるか?

月額のLLM推論コストは4ステップで見積もれます。リクエストあたりのトークン数を数え、月間処理量を掛け、ティアの料金を適用し、20〜40%のオーバーヘッドを加算します。クライアントの推論予算をサイジングしてきた経験では、ほとんどのチームがステップ4を飛ばし、実際の請求額が見積もりを3割上回る理由がわからないと言います。以下が私たちが使っているプロセスです。

1. リクエストあたりのトークン数を数える。 100件以上の実際のリクエストについて、平均入力トークン(システムプロンプト + コンテキスト + ユーザーメッセージ)と出力トークン(モデルの応答)をログから取得します。推測ではなく、計測してください。
2. 月間処理量を掛ける。 1日のリクエスト数 × 30 = 月間リクエスト数。これにリクエストあたりのトークン数を掛けます。
3. ティアの料金を適用する。 総入力トークンにモデルの入力 $/100万レートを掛けます。出力も同様。合計します。
4. 20〜40%のオーバーヘッドを加算する。 リトライ、評価、プロンプト反復、モニタリング。予算に入れるのはステップ3ではなく、この数字です。

def estimate_monthly_budget(avg_input_tokens, avg_output_tokens,
                            requests_per_day, price_in, price_out,
                            overhead_pct=0.30):
    """Full monthly budget estimate with overhead."""
    monthly_requests = requests_per_day * 30
    raw_cost = monthly_cost(
        avg_input_tokens, avg_output_tokens,
        monthly_requests, price_in, price_out
    )
    return raw_cost * (1 + overhead_pct)

# RAG pipeline: 10K queries/day on GPT-4.1
budget = estimate_monthly_budget(
    avg_input_tokens=3200,
    avg_output_tokens=600,
    requests_per_day=10_000,
    price_in=2.00,
    price_out=8.00,
    overhead_pct=0.30
)
print(f"${budget:,.0f}/month")  # $4,368/month

自分の数字がわかったら、LLMゲートウェイツールで品質基準を満たす最安モデルにトラフィックをルーティングできます。リクエストごとのモデル選択ができるゲートウェイなら、プロンプトに一切触れずにブレンドコストを30〜50%削減できます。

著者について

Mert BaturはTechsy.ioの共同創業者です。チームはB2Bクライアント向けにAIエージェント、自動化システム、音声/SDRパイプラインを提供しています。Techsyチームが本番環境で実際に使っているLLMツールスタックについて執筆しています。LinkedInでつながる。

よくある質問

LLM推論は高価ですか?

規模とモデルの選択によります。入力100万トークンのコストはGemini 2.5 Flashで0.02ドル、フロンティア推論モデルで75ドルです。1日1万リクエストを処理する小規模アプリなら、月額50ドル〜400ドルを見込んでください。1日100万リクエスト以上のエンタープライズワークロードでは、月額5,000ドル〜40,000ドルの予算になります。単位あたりのコストは低いですが、量が積み上がります。

LLMの100万トークンはどれくらいの量ですか?

100万トークンは約75万語、長編小説約10冊分に相当します。2026年7月時点では、入力100万トークンの処理コストは0.02ドル(バジェットティア)から75ドル(フロンティアティア)です。同じ量の出力トークンは0.06ドルから300ドルです。ほとんどの本番ワークロードはミッドティアに収まります。入力100万トークンあたり2ドル〜15ドルです。

AI推論はなぜそんなに高価なのですか?

推論では、すべてのトークンを1台25,000ドル〜40,000ドルのGPU上の数十億のパラメータに通す必要があります。デコードフェーズではトークンを逐次的に生成するため、ステップ間でGPUコアがアイドルになります。専用ハードウェア、電力、冷却、そして24時間365日サービングスタックを維持するプロバイダーのエンジニアリングチームに対して支払っているのです。

AI推論コストは下がっていますか?

はい、2023年以降、年あたり約10倍のペースで下落しています。GPT-4は入力/出力100万トークンあたり30ドル/60ドルでリリースされました。同等の機能は今や2ドル〜10ドルです。Epoch AIのデータは、全プロバイダーにわたってこの軌道を確認しています。Gartnerはハードウェアの進化とオープンソースモデルの競争圧力により、2030年までにさらに90%の低下を予測しています。

2026年のLLM推論コストはいくらですか?

バジェットモデル: 入力100万トークンあたり0.02ドル〜0.30ドル。ミッドティア: 0.55ドル〜15ドル。フロンティア: 15ドル〜75ドル。典型的な本番ワークロード(サポートチャットボット、RAGパイプライン、コードアシスタント)は、ミッドティアモデルで月額150ドル〜4,000ドルです。バジェットモデルなら、大量・低複雑度のタスクを10〜30倍安く処理できます。

学習コストと推論コストの違いは何ですか?

学習はモデルをゼロから学習させる一回限りの費用です。フロンティアモデルでは5,000万ドル〜2億ドルかかり、数千のGPUを数か月間使用します。推論はその学習済みモデルを使うための経常コストです。入力を通って出力を得るたびに、トークン単位で課金されます。ほとんどのチームにとって、推論だけが支払う請求書です。学習は基盤モデルを構築する企業のためのものです。

自分のアプリのLLM推論コストをどう計算しますか?

リクエストあたりの平均入力トークンに月間リクエスト数を掛け、さらにモデルの入力 $/100万レートを掛けます。出力トークンも同様に計算し、両方を合計します。リトライ、評価、モニタリングのオーバーヘッドとして30%を加算します。この記事のPythonスニペットがこの計算を自動化します。推測ではなく実際のトークン数を計測してください。100件以上のリクエストのログから信頼できる平均値が得られます。

出力トークンは入力トークンより高価ですか?

はい、通常3〜5倍高価です。入力処理(プリフィル)は全トークンを同時に並列化し、GPUコアをフル活用します。出力生成(デコード)は1つずつトークンを生成し、各トークンが直前に依存します。GPUはステップ間でメモリ帯域を待ちます。プロバイダーはこのハードウェア効率の低さを反映して出力を高く価格設定しています。

セルフホスティングの推論はAPIより安いですか?

1日あたり約20万リクエストを超え、GPU稼働率が50%以上で持続する場合のみです。それを下回ると、APIプロバイダーのマルチテナント効率がシングルテナントの自社ハードウェアを上回ります。セルフホスティングには隠れコストも加わります。MLエンジニアの年収(18万ドル〜25万ドル)、オンコール当番、モデル更新、セキュリティパッチです。エンジニア50人以下のほとんどのチームはAPIにとどまるべきです。

LLM推論は大量のエネルギーを消費しますか?

H100 GPUは負荷時に約700Wを消費します。電力単価0.10ドル/kWhなら、GPU時間あたり0.07ドルで、70Bモデルの出力100万トークンあたり約0.01ドルに換算されます。電力はAPI請求額の1〜3%ですが、セルフホスティングTCOの8〜15%です。電力コストの高い地域(ドイツの0.30ドル/kWh)では、電力の割合が3倍になり、セルフホスティングの経済性に実質的な影響を与えます。

まとめ

覚えておくべき4つの数字: 0.02ドル(入力100万トークンあたりのバジェット下限)、3〜5倍(入出力に対する出力のプレミアム)、20〜40%(生のトークン計算に加算すべきオーバーヘッド)、そして10倍(2023年以降の年間価格下落率)。実際の請求額は、処理量、モデルティア、そしてキャッシュ・バッチ・トラフィックルーティングをどれだけ積極的にやるかで決まります。

Techsyでは、私たちのチームが本番LLMワークロードを運用するB2Bクライアントの推論予算をサイジングし、モデルティアを選定しています。コストモデルにセカンドオピニオンが欲しければ、無料相談をご利用ください。