Chain of Thought（思考の連鎖、以下CoT）プロンプティングには、主要なガイドが見過ごしている2026年特有の問題があります。2022年にモデルをより賢くした同じ手法が、今日では推論モデルの性能を静かに低下させることがあるのです。Weiらによって2022年に導入されたこの手法は、モデルに推論過程を示させることで、複雑な数学や論理問題における精度を向上させました。ただし、落とし穴がありました。これはモデルがおよそ1000億パラメータを超えた時点で初めて効果を発揮するものでした。現在、oシリーズやGPT-5などの推論モデルはこの思考プロセスを内部で行うため、「段階的に考えて」と指示しても、単にトークンを消費するだけになることがよくあります。いつCoTを使用し、いつ省略すべきなのでしょうか？
主なポイント：
- Chain of Thoughtプロンプティングはモデルの推論過程を表示し、複数ステップの数学、論理、コード生成における精度を向上させます。
- これは創発的な能力であり、小規模モデルにはほとんど効果がなく、推論モデルは既に内部でこれを実行しています。
- oシリーズ、GPT-5推論、およびClaudeの拡張思考（Extended Thinking）において、手動での「段階的に考えて」という指示はしばしば冗長です。
- 非推論モデルやローカルのオープンソースモデル、あるいは監査可能な推論経路が必要な場合には、引き続き手動CoTを使用してください。
Chain of Thoughtプロンプティングとは？
Chain of Thought（CoT）プロンプティングは、言語モデルに最終的な答えを出す前に、明示的な中間ステップを通じて問題を解決させる手法です。Weiらによって2022年に導入され、複数ステップの数学、論理、常識タスクにおける精度を向上させ、モデルの推論過程を可視化します。
普通のモデルにいきなり文章題を出すと、間違った数値を即座に出力することがよくあります。しかし、まず推論させるよう求めると、正解率は跳ね上がります。「棚には7冊入りの本が3箱あります。5冊取り除きました。残りは何冊ですか？」という問題に対し、小規模モデルは冷たい状態（事前の文脈なし）で「21」と答えるかもしれません。「段階的に考えましょう」と加えると、3 x 7 = 21、次に 21 - 5 = 16 と記述します。同じモデルでも回答が改善され、もしミスがあったとしてもどこで間違えたかを確認できます。CoTは私たちのプロンプトエンジニアリングガイドにある幅広いツールキットの中の1つの道具ですが、この記事ではそれに焦点を当てて深く掘り下げます。
仕組み（そしてなぜ大規模化して初めて機能したのか）
CoTは、モデルがトークンごとに自然言語の推論経路を生成することで機能し、各中間結論が次のステップの条件となります。Weiら（2022年）は、これが創発的な能力であることを発見しました。小規模モデルにはほとんど役立たず、モデルがおよそ1000億パラメータを超えて初めて大きな精度向上をもたらすのです。
これを数学の授業での「計算過程の記述」のようなものだと考えてください。モデルは一度に1トークンを予測し、書き出した各単語が次の単語の入力の一部となります。「21」という中間結果を書き出すと、その「21」が文脈中に存在することになり、最終ステップを「16」へと導きます。ステップを省略すると、モデルは何の支えもなく直接答えへ飛びつかなければなりません。奇妙なことに、この利点は規模が大きくなって初めて現れます。創始論文で、Weiのチームは微小なモデルではほとんど向上が見られず、場合によっては性能が低下することも発見しました。これが、7Bのローカルモデルでは失敗する同じプロンプトが、最先端モデルでは変革をもたらす理由です。
3つの種類：ゼロショット、フューショット、そして自己整合性
主に3つのCoT変種があります。ゼロショットCoTは単に「段階的に考えましょう」（Kojimaら、2022年）を追加するだけです。フューショットCoTは、事前に解決済みの推論例を示します。自己整合性（Self-consistency）（Wangら、2022年）は複数の推論経路をサンプリングし、回答の多数決を取ります。これは3つの中で最も信頼性が高く、また最もコストがかかります。
ゼロショットは怠惰な魔法のトリックです。1文を追加するだけで、モデルは例なしで推論を行います。Kojimaらは、「段階的に考えましょう」 alone で大規模モデルをまともなゼロショット推論者に変えることを示しました。
# Zero-shot CoT: append the trigger phrase. Best on non-reasoning models.
# Model names change fast, so treat the string below as a placeholder.
from openai import OpenAI
client = OpenAI()
prompt = (
"Q: A shelf holds 3 boxes. Each box has 7 books. "
"I remove 5 books. How many are left?\n"
"A: Let's think step by step."
)
resp = client.chat.completions.create(
model="your-non-reasoning-model",
messages=[{"role": "user", "content": prompt}],
)
print(resp.choices[0].message.content)フューショットCoTはさらに進んで、モデルに2〜3の解決例を手渡すことで、あなたのドメインにおける推論パターンをコピーさせます。自己整合性は精度調整のダイヤルです。1つの連鎖を信頼するのではなく、より高い温度設定で5つをサンプリングし、投票させます。Wangらは、個々の連鎖が逸脱した場合でも、多数決による回答は通常正しいことを発見しました。
# Self-consistency: sample N reasoning paths, majority-vote the answer.
# More accurate, more expensive. Wang et al., 2022.
from collections import Counter
def self_consistency(prompt, n=5, temperature=0.7):
answers = []
for _ in range(n):
resp = client.chat.completions.create(
model="your-non-reasoning-model",
messages=[{"role": "user", "content": prompt}],
temperature=temperature, # diversity across paths
)
answers.append(extract_final_answer(resp.choices[0].message.content))
return Counter(answers).most_common(1)[0][0] # majority vote自由なテキストではなく、クリーンなJSONとしてその推論を得たいですか？下流のステップで解析できるように、CoTを私たちの構造化出力ガイドのパターンと組み合わせてください。
2026年のシフト：推論モデルがルールを変えた
推論モデル、つまりOpenAIのoシリーズとGPT-5推論、Claudeの拡張思考、そしてDeepSeek R1は、回答する前に内部でChain of Thoughtを実行します。OpenAI自身のガイダンスは、これらのモデルに「段階的に考えて」と明示的に指示することは不要であり、推論モデルにより多くの推論を要求することは実際にはパフォーマンスを損なう可能性があると明言しています。足場はすでに組み込まれているのです。
これは古いガイドが無視している部分です。推論モデルは答えを表示する前にプライベートな思考の連鎖を生成するため、以前は手動で記述していたステップバイステップのプロセスは現在、裏側で行われています。OpenAIの推論ベストプラクティスは率直に述べています。「Chain-of-thoughtプロンプトを避けること：これらのモデルは内部で推論を実行するため、『段階的に考えて』や『推論を説明して』とプロンプトすることは不要です。」彼らのo3/o4-miniプロンプティングガイドはさらに一歩進んで、「推論モデルにより多くの推論を要求することは、実際にはパフォーマンスを損なう可能性があります」と述べています。
Anthropicの拡張思考も同じアイデアを製品化したものです。ステップバイステップのスクリプトではなく、Claudeに思考予算を与え、最新のモデルは独自にどの程度深く考えるかを決定します。このクラスのモデルでは、文言ではなくreasoning_effortまたは思考予算を調整します。DeepSeek R1を含むオープンな推論モデル側については、私たちのQwen vs DeepSeek vs GLMの分析をご覧ください。
手動CoTが依然として役立つ時 vs 逆効果になる時
手動CoTは、非推論モデルや小規模・ローカルのオープンソースモデル、あるいは特定の推論構造や監査可能な痕跡が必要な場合には依然として役立ちます。一方、ネイティブな推論モデル（冗長で遅くなる）、単純なワンステップタスク、そしてレイテンシやコストに敏感なパスでは逆効果となり、精度向上なしにトークンを浪費するだけです。
| 手動CoTが依然として役立つ場合 | 手動CoTが逆効果になる場合 |
|---|---|
| 非推論モデルを使用している場合（古いGPT、ベースLlama） | 推論モデルを使用している場合（oシリーズ、GPT-5推論、Claude思考） |
| 小規模またはローカルのオープンソースモデルを実行している場合 | タスクがワンステップの参照、分類、またはフォーマット変更である場合 |
| 固定された監査可能な推論構造が必要な場合 | レイテンシに敏感なリアルタイムパスである場合 |
| タスクが複数ステップの数学、論理、または計画である場合 | 高ボリューム、コストに敏感なエンドポイントである場合 |
| 検査またはgrep可能な可視的な痕跡が必要な場合 | モデルが既に内部で推論しており、ステップが単に繰り返される場合 |
这是我们自社での実際の例です。この投稿を作成した12エージェントのパイプラインはClaudeモデル上で動作しており、私たちは意図的にそれらのエージェントに「段階的に考えて」と指示しません。モデルは既に内部で推論を行っており、指示するとノイズが増えるだけだからです。私たちが手書きするのは、 rigid で grep 可能な推論の足場です。私たちのバリデーターエージェントは、固定された100点の評価基準（品質50点、SEO50点）に加え、8つの順次ゲートチェックを実行します。翻訳者は設定されたチェックリストに従います：ソースのH2見出し数を一致させる、ダイアクリティカルマークのgrepがゼロより多い結果を返すこと、そして行数を80〜120パーセントの帯域内に収めることです。パブリッシャーは、公開前後のゲートでpublishedAtの日時を正規表現チェックし、CMSにクエリを送って本文が空でないことを確認します。
これらはすべて「より多くの思考」に関するものではありません。これは検査およびgrep可能な固定された監査可能な経路であり、まさに「手動CoTが依然として役立つ」ケースです。私たちがこれらのゲートを追加した理由があります：日付だけのpublishedAt値がかつてブログインデックスから投稿全体を静かに隠してしまったため、モデルが検証をスキップしないようにするために rigid なステップシーケンスが存在します。正直な注意点として、これは運用上の観察であり、ベンチマークではありません。「段階的に考えて」と指示した場合としなかった場合の制御された精度A/Bテストは実行していないため、これは数値の主張ではなく、構造と監査可能性に関する教訓として捉えてください。
手動CoTがまだ報われるローカルモデルを実行していますか？私たちの2026年のベストオープンソースLLM roundup が分野をカバーしています。また、モデルのChain of Thoughtをユーザーに表示する場合は、それを信頼できない出力として扱ってください。その理由については、私たちのプロンプトインジェクション防止ガイドで説明しています。
隠れたコスト：トークン、レイテンシ、そして請求書
CoTは無料ではありません。すべての推論ステップはあなたが支払う出力トークンであり、長い生成はレイテンシを増加させます。推論モデルは、表示される答えに加えて、隠れた推論トークンに対して課金します。高ボリュームまたはリアルタイムのエンドポイントでは、ステップバイステップの出力を強制するとコストが静かに倍増する可能性があるため、予算を組むか、reasoning_effortで制限してください。
モデルが書く「ステップ1、ステップ2、ステップ3」のすべてが出力トークンであり、出力トークンは高額な種類です。 bare な答えよりも5倍長い連鎖は、その呼び出しでおおよそ5倍のコストがかかり、ストリームバックも遅くなります。推論モデルには捻りがあります：あなたが見ることのない内部思考に対して推論トークンが課金されるため、短い最終回答の背後に長く有料の連鎖が隠れている可能性があります。低ボリュームのエンドポイントではそれはノイズですが、高トラフィックのものではすぐに積み上がります。2つの習慣がこれを健全に保ちます。コンテキストの安定した部分をキャッシュし、再読み込み against 支払わないようにします（私たちのプロンプトキャッシングガイドが方法を示しています）。そして、CoTを everywhere にロールアウトする前に、追加のトークンが実際に精度を購入しているかどうかを測定します。私たちのLLM評価ガイドはその測定をカバーしており、スコアを動かさない推論に対して支払わないようにします。
2026年にCoTを使用する方法：決定チェックリスト
まず、モデルクラスを特定してください。推論モデルの場合、手動CoTをスキップし、代わりにreasoning_effortまたは思考予算を調整してください。非推論モデルまたはローカルモデルの場合、ゼロショットの「段階的に考えましょう」を追加し、ドメインタスクにはフューショットにアップグレードし、精度がトークンコストよりも重要な場合にのみ自己整合性を追加してください。
这里是5ステップでの完全な決定プロセス：
- モデルクラスを特定します。推論モデルですか？そうでないですか？その単一の事実が以下のすべてを決定します。
- 推論モデルの場合、CoTを手書きしないでください。代わりに
reasoning_effortまたは思考予算を調整し、モデルに内部で推論させます。 - 非推論モデルまたはローカルモデルの場合、ゼロショットの「段階的に考えましょう」を追加します。これは1行で、試すのに無料です。
- ドメイン固有のタスクの場合、2〜3の解決例を用いたフューショットCoTにアップグレードします。精度がトークンコストを上回る場合にのみ自己整合性を追加します。
- 推論を公開する場合、評価で測定し、可視的な連鎖を信頼できない出力として扱います。
トリガーフレーズ自体は通常、システムプロンプト内に存在します。私たちのシステムプロンプト例は、それがどこに行き、どのように表現されるかを示しています。
# On a reasoning model, don't hand-write CoT. Tune the effort instead.
# Param names and levels change per provider and version, so check current docs.
resp = client.responses.create(
model="your-reasoning-model",
reasoning={"effort": "medium"}, # e.g. low | medium | high
input="Prove that the square root of 2 is irrational.",
)
# Anthropic equivalent: an extended-thinking budget.
# budget_tokens MUST be less than max_tokens.
# thinking = {"type": "enabled", "budget_tokens": 4000}これをプロダクションスタックに配線することは、ブログの例が見せるよりも面倒です。推論予算と評価ハーネスを自分で調整したくない場合は、私たちのチームがこれらのパイプラインをエンドツーエンドで構築します。AI統合を見るか、お問い合わせください。
著者について
Mert Batur Gurbuz はTechsy.ioの共同創設者であり、同社チームはB2Bクライアント向けにAIエージェント、自動化システム、および音声/SDRパイプラインを提供しています。彼はバーミンガム大学で学び、Techsyチームが実際にプロダクションで使用しているLLMツールスタックについて執筆しています。
共同創設者、Techsy.io、バーミンガム大学。LinkedInでつながる。
よくある質問
Chain of Thoughtプロンプティングは2026年でも依然として関連性がありますか？
はい、しかしその役割は縮小しました。非推論モデルおよび小規模またはローカルのオープンソースモデルでは、手動CoTは依然として複数ステップタスクの精度を向上させます。推論モデルでは、それはほとんど冗長です。残っている最も強力な用途は、検査可能な固定された監査可能な推論経路を強制することです。
Chain of ThoughtプロンプティングはGPT-5、o3、またはClaudeなどの推論モデルで機能しますか？
これらのモデルは既に内部で推論を行っているため、手動CoTは通常冗長であり、場合によっては有害です。OpenAIのドキュメントは、それらに「段階的に考えて」とプロンプトすることは不要であり、より多くの推論を要求することは「実際にはパフォーマンスを損なう可能性がある」と述べています。ステップを書く代わりに推論努力を調整してください。
ゼロショットChain of Thoughtプロンプティングとは何ですか？
ゼロショットCoTは、事前に解決例を与えずに、通常「段階的に考えましょう」というトリガーフレーズを追加することを意味します。Kojimaら（2022年）は、これ alone で大規模モデルをまともな推論者に変えることを示しました。これは最も安価なCoT変種です：1行、例のキュレーションなし、テストが迅速です。
Chain of Thoughtプロンプティングにおける自己整合性とは何ですか？
Wangら（2022年）による自己整合性は、より高い温度でいくつかの独立した推論連鎖をサンプリングし、最終的な回答の多数決を取ります。間違った連鎖が稀に同意するため、これは最も正確なCoT変種ですが、サンプリングされたすべての経路に対して支払う必要があるため、最も高価でもあります。
Chain of Thoughtとフューショットプロンプティングの違いは何ですか？
フューショットプロンプティングは、モデルに入力-出力の例のペアを示します。Chain of Thoughtは入力と出力の間の推論に焦点を当てます。これらはうまく組み合わせることができます：フューショットCoTは推論ステップを含む解決例を提供するため、モデルは回答形式だけでなく推論パターンをコピーします。
Chain of Thought vs プロンプトチェーン vs Tree of Thought：違いは何ですか？
Chain of Thoughtは1つのプロンプト内で推論します。プロンプトチェーンはタスクをいくつかの別々のモデル呼び出しに分割し、出力を前方に渡します。Tree of Thoughtは複数の推論ブランチを探求し、弱いものを剪定します。CoTは単一の線形経路です；他の2つはモデルの周りに外部構造を追加します。
Chain of Thoughtプロンプティングを発明したのは誰ですか？
Chain of Thoughtプロンプティングは、Jason WeiおよびGoogleの同僚によって、2022年の論文「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」で紹介されました。Kojimaらは後にゼロショットCoTを追加し、Wangらは自己整合性を追加しました。どちらも2022年です。
Chain of Thoughtプロンプティングはコード生成に機能しますか？
はい、非推論モデルでは機能します。コードを書く前にロジックを計画するようにモデルに求めることは、複雑なタスクにおけるエッジケースを捕捉し、バグを減らします。推論モデルでは計画は内部で行われるため、手書きの「段階的に推論する」プレフィックスよりも/plain/な指示の方が通常うまく機能します。