У промптингу з ланцюжком міркувань (chain of thought) у 2026 році є проблема, яку оминають найкращі гайди: той самий прийом, який робив моделі розумнішими у 2022-му, сьогодні може тихо погіршити роботу моделі міркування. Вей та ін. запропонували його у 2022 році, і він підвищував точність у складних математичних і логічних задачах, змушуючи моделі показувати кроки міркування. Але був нюанс. Він починав працювати лише тоді, коли моделі долали позначку приблизно у 100 мільярдів параметрів. Сьогодні моделі міркування o-series та GPT-5 виконують це мислення внутрішньо, тож вказівка «думай крок за кроком» часто просто витрачає токени. Коли варто використовувати цей прийом, а коли — ні?
Ключові висновки:
- Промптинг із ланцюжком міркувань показує кроки міркування моделі та підвищує точність у багатокрокових математичних, логічних задачах і задачах із кодом.
- Це емерджентна здатність: вона майже не допомагає малим моделям, а моделі міркування вже роблять це внутрішньо.
- Для o-series, GPT-5 reasoning та Claude extended thinking ручне «думай крок за кроком» часто є зайвим.
- Використовуйте ручний CoT для моделей без міркування та локальних моделей з відкритим кодом, або коли вам потрібен аудитований ланцюжок міркувань.
Що таке Chain of Thought Prompting?
Chain of thought (CoT) prompting — це техніка, яка пропонує мовній моделі розв'язати задачу через явні проміжні кроки, перш ніж дати остаточну відповідь. Запропонована Wei et al. у 2022 році, вона підвищує точність у багатокрокових математичних, логічних та здоровосенсових задачах, а також робить міркування моделі видимими.
Попросіть звичайну модель розв'язати текстову задачу з ходу, і вона часто випалить неправильне число. Попросіть її спершу поміркувати — і шанси на правильну відповідь зростають. Візьмімо задачу: «На полиці стоїть 3 коробки по 7 книжок; я забираю 5. Скільки залишилося?» З ходу невелика модель може відповісти «21». Додайте «Давай думати крок за кроком» — і вона напише: 3 x 7 = 21, потім 21 - 5 = 16. Та сама модель, краща відповідь, і ви бачите, де вона схибила, якщо таке станеться. CoT — це один із інструментів у ширшому арсеналі з нашого посібника з prompt engineering; ця стаття зосереджується саме на ньому.
Як це працює (і чому це дало ефект лише на великому масштабі)
CoT працює завдяки тому, що модель генерує шлях міркування природною мовою токен за токеном, тож кожен проміжний висновок зумовлює наступний. Вей та ін. (2022) виявили, що це емерджентна здатність: вона майже не допомагає малим моделям і дає суттєвий приріст точності лише тоді, коли моделі долають рубіж приблизно у 100 мільярдів параметрів.
Уявіть це як запис розв'язання на уроці математики. Модель передбачає один токен за раз, і кожне слово, яке вона записує, стає частиною вхідних даних для наступного слова. Коли вона записує «21» як проміжний результат, це «21» тепер перебуває в контексті, спрямовуючи останній крок до «16». Пропустіть кроки — і моделі доведеться стрибати одразу до відповіді, не маючи на що опертися. Дивно те, що ця перевага з'являється лише на великому масштабі. У фундаментальній статті команда Вея виявила, що крихітні моделі майже не отримували приросту, а іноді працювали навіть гірше. Ось чому той самий промпт, який провалюється на локальній моделі з 7B параметрів, може перетворити передову модель.
Три різновиди: Zero-Shot, Few-Shot та Self-Consistency
Існує три основні варіанти CoT. Zero-Shot CoT просто додає фразу «Давайте міркувати крок за кроком» (Kojima et al., 2022). Few-Shot CoT спершу показує приклади готових міркувань. Self-Consistency (Wang et al., 2022) генерує кілька шляхів міркування й обирає відповідь за більшістю голосів — це найнадійніший і найдорожчий із трьох методів.
Zero-Shot — це лінивий магічний трюк. Ви додаєте одне речення, і модель міркує без жодних прикладів. Kojima et al. показали, що сама лише фраза «Давайте міркувати крок за кроком» перетворює велику модель на непоганого Zero-Shot-міркувальника.
# Zero-shot CoT: додайте тригерну фразу. Найкраще працює на моделях без міркування.
# Назви моделей швидко змінюються, тож сприймайте рядок нижче як заповнювач.
from openai import OpenAI
client = OpenAI()
prompt = (
"Q: A shelf holds 3 boxes. Each box has 7 books. "
"I remove 5 books. How many are left?\n"
"A: Let's think step by step."
)
resp = client.chat.completions.create(
model="your-non-reasoning-model",
messages=[{"role": "user", "content": prompt}],
)
print(resp.choices[0].message.content)Few-shot CoT goes further: you hand the model two or three worked examples so it copies the reasoning pattern for your domain. Self-consistency is the accuracy dial. Instead of trusting one chain, you sample five at a higher temperature and let them vote. Wang et al. found the majority answer is usually right even when individual chains wander off.
# Самосумісність: згенеруйте N шляхів міркування та визначте відповідь голосуванням більшості.
# More accurate, more expensive. Wang et al., 2022.
from collections import Counter
def self_consistency(prompt, n=5, temperature=0.7):
answers = []
for _ in range(n):
resp = client.chat.completions.create(
model="your-non-reasoning-model",
messages=[{"role": "user", "content": prompt}],
temperature=temperature, # diversity across paths
)
answers.append(extract_final_answer(resp.choices[0].message.content))
return Counter(answers).most_common(1)[0][0] # majority voteХочете отримати таке міркування у вигляді чистого JSON замість вільного тексту? Поєднайте CoT із шаблонами з нашого посібника зі структурованих виводів, щоб наступний крок міг його розпарсити.
Зсув 2026 року: моделі міркування змінили правила
Моделі міркування — серія o від OpenAI та режим міркування GPT-5, розширене мислення (extended thinking) від Claude, а також DeepSeek R1 — виконують ланцюжок міркувань внутрішньо, перш ніж відповісти. Власні рекомендації OpenAI прямо кажуть, що вказувати цим моделям «думай крок за кроком» непотрібно, а прохання до моделі міркування міркувати більше може навіть зашкодити якості. Уся підготовка вже вбудована всередину.
Саме цю частину старіші посібники вдають, ніби її не існує. Модель міркування створює приватний ланцюжок міркувань ще до того, як покаже вам відповідь, тож той покроковий розбір, який ви раніше писали вручну, тепер відбувається «під капотом». Найкращі практики міркування OpenAI кажуть це прямо: «Уникайте промптів із ланцюжком міркувань: оскільки ці моделі виконують міркування внутрішньо, спонукати їх "думати крок за кроком" або "поясни свої міркування" немає потреби». Їхній посібник із промптингу o3/o4-mini іде ще далі: «Прохання до моделі міркування міркувати більше може насправді зашкодити якості.»
Розширене мислення від Anthropic — це та сама ідея, втілена у продукті. Ви задаєте Claude бюджет мислення замість покрокового скрипту, а найновіші моделі самі вирішують, наскільки глибоко думати. Для цього класу моделей ви налаштовуєте reasoning_effort або бюджет мислення, а не формулювання. Щодо відкритого боку моделей міркування, зокрема DeepSeek R1, дивіться наш розбір Qwen проти DeepSeek проти GLM.
Коли ручний CoT досі допомагає, а коли шкодить
Ручний CoT досі допомагає на моделях без міркування, на невеликих або локальних моделях з відкритим кодом, чи коли вам потрібна одна конкретна структура міркування або аудитований слід. Він шкодить на нативних моделях міркування (стає зайвим і повільнішим), на простих одноетапних завданнях і на шляхах, чутливих до затримки чи вартості, де він лише спалює токени без жодного приросту точності.
| Ручний CoT досі допомагає, коли | Ручний CoT шкодить, коли |
|---|---|
| Ви на моделі без міркування (старіші GPT, базова Llama) | Ви на моделі міркування (o-series, GPT-5 reasoning, Claude thinking) |
| Ви запускаєте невелику або локальну модель з відкритим кодом | Завдання — одноетапний пошук, класифікація чи зміна формату |
| Вам потрібна одна фіксована, аудитована структура міркування | Ви на чутливому до затримки шляху реального часу |
| Завдання — багатокрокова математика, логіка чи планування | Ви на високонавантаженому, чутливому до вартості ендпоінті |
| Ви хочете бачити видимий слід, який можна інспектувати чи гребати | Модель уже міркує внутрішньо, тож кроки лише повторюються |
Ось реальний приклад із нашої власної майстерні. Конвеєр із 12 агентів, що написав цей допис, працює на моделях Claude, і ми свідомо ніколи не кажемо цим агентам «думай крок за кроком», бо моделі й так міркують внутрішньо, а це лише додало б шуму. Те, що ми пишемо вручну, — це жорсткі, гребовані каркаси міркування. Наш агент-валідатор виконує фіксований 100-бальний рубрикатор (50 за якість, 50 за SEO) плюс вісім послідовних перевірних гейтів. Перекладач дотримується заданого чеклиста: збіг кількості H2 із джерелом, запуск гребання на діакритику, що має повернути більше нуля, і тримання в діапазоні від 80 до 120 відсотків кількості рядків. Видавець виконує гейти до та після публікації, які через регулярний вираз перевіряють дату й час publishedAt, а потім опитують CMS, щоб підтвердити, що тіло не порожнє.
Нічого з цього не про більше міркування. Це фіксований, аудитований шлях, який ми можемо інспектувати й гребати, — а це саме той випадок, коли «ручний CoT досі допомагає». Ми додали ці гейти не дарма: одного разу значення publishedAt лише з датою тихо сховало цілий допис із нашого індексу блогу, тож жорстка послідовність кроків тепер існує, щоб модель не пропускала верифікацію. Одне чесне застереження: це операційне спостереження, а не бенчмарк. Ми не проводили контрольованого A/B за точністю між «думай крок за кроком» і без інструкції, тож сприймайте це як урок про структуру й аудитованість, а не як числове твердження.
Запускаєте локальні моделі, де ручний CoT досі виправдовує себе? Наш огляд найкращих LLM з відкритим кодом 2026 року охоплює всю галузь. А якщо ви коли-небудь показуєте ланцюжок міркувань моделі користувачам, ставтеся до нього як до ненадійного виводу; наш посібник із запобігання промпт-ін'єкціям пояснює чому.
Прихована ціна: токени, затримка та ваш рахунок
CoT не є безкоштовним. Кожен крок міркування — це вихідні токени, за які ви платите, а довші генерації підвищують затримку. Моделі міркування нараховують плату за приховані токени міркування понад видиму відповідь. На високонавантажених або реальних часах кінцевих точках примусове покрокове виведення може непомітно примножити витрати, тому закладайте це в бюджет або обмежуйте за допомогою reasoning_effort.
Кожен «крок 1, крок 2, крок 3», який пише модель, — це вихідні токени, а вихідні токени — це дорогий різновид. Ланцюжок, уп'ятеро довший за саму відповідь, коштує приблизно вп'ятеро більше для цього виклику і повертається повільніше. Моделі міркування додають нюанс: вони нараховують токени міркування за внутрішнє обдумування, якого ви ніколи не бачите, тож коротка фінальна відповідь може приховувати довгий ланцюжок, за який ви заплатили. На низьконавантаженій кінцевій точці це дрібниця; на високонавантаженій — витрати швидко зростають. Дві звички допоможуть тримати це під контролем. Кешуйте стабільні частини вашого контексту, щоб не платити за їх повторне читання (наш посібник із кешування промптів показує, як це зробити), і вимірюйте, чи справді додаткові токени купують точність, перш ніж впроваджувати CoT усюди. Наш посібник з оцінювання LLM охоплює це вимірювання, щоб ви не платили за міркування, яке не покращує результат.
Як використовувати CoT у 2026 році: контрольний перелік для ухвалення рішень
Спершу визначте клас вашої моделі. Якщо це модель з міркуванням, пропустіть ручний CoT і натомість налаштуйте reasoning_effort або бюджет мислення. Якщо це модель без міркування або локальна модель, додайте нульовий CoT «Let's think step by step», перейдіть на few-shot для доменних завдань і додайте самосумісність лише тоді, коли точність важливіша за вартість токенів.
Ось усе рішення у п'яти кроках:
- Визначте клас вашої моделі. Модель з міркуванням чи ні? Саме цей факт визначає все подальше.
- На моделі з міркуванням не прописуйте CoT вручну. Натомість налаштуйте
reasoning_effortабо бюджет мислення й дозвольте моделі міркувати внутрішньо. - На моделі без міркування або локальній моделі додайте нульовий CoT «Let's think step by step». Це один рядок, і спробувати нічого не коштує.
- Для доменних завдань перейдіть на few-shot CoT із двома-трьома розв'язаними прикладами. Додавайте самосумісність лише тоді, коли точність переважає вартість токенів.
- Якщо ви відкриваєте міркування назовні, вимірюйте його за допомогою оцінок (evals) і ставтеся до видимого ланцюжка як до недовіреного виводу.
Сама тригерна фраза зазвичай міститься у вашому системному промпті. Наші приклади системних промптів показують, де вона розташовується і як її сформулювати.
# У міркуючій моделі не пишіть CoT вручну. Натомість налаштуйте рівень зусиль.
# Назви параметрів і рівні змінюються залежно від провайдера та версії, тому перевіряйте актуальну документацію.
resp = client.responses.create(
model="your-reasoning-model",
reasoning={"effort": "medium"}, # напр. low | medium | high
input="Prove that the square root of 2 is irrational.",
)
# Еквівалент Anthropic: бюджет розширеного мислення.
# budget_tokens має бути меншим за max_tokens.
# thinking = {"type": "enabled", "budget_tokens": 4000}Інтеграція цього у робочий стек потребує більше копіткої роботи, ніж це виглядає у прикладах із блогів. Якщо ви не хочете самостійно налаштовувати бюджети міркувань та системи оцінювання, наша команда створює такі пайплайни під ключ. Дивіться Інтеграція ШІ або зв'яжіться з нами.
Про автора
Мерт Батур Гюрбюз — співзасновник Techsy.io, де команда створює AI-агентів, системи автоматизації та голосові/SDR-конвеєри для B2B-клієнтів. Він навчається в Бірмінгемському університеті й пише про стек інструментів для LLM, який команда Techsy фактично використовує в продакшені.
Співзасновник Techsy.io, Бірмінгемський університет. Зв'язатися в LinkedIn.
Поширені запитання
Чи залишається промптинг із ланцюжком міркувань актуальним у 2026 році?
Так, але його роль звузилася. На моделях без міркування та на невеликих або локальних моделях із відкритим кодом ручний CoT досі підвищує точність у багатокрокових завданнях. На моделях із міркуванням він здебільшого надлишковий. Найвагоміше застосування, що залишилося, — примусово задавати один фіксований, аудитований шлях міркування, який можна перевірити.
Чи працює техніка ланцюжка міркувань (chain of thought) з моделями міркування, як-от GPT-5, o3 або Claude?
Ці моделі вже міркують внутрішньо, тож ручне застосування CoT зазвичай є зайвим, а іноді навіть шкідливим. У документації OpenAI зазначено, що прохання «думати покроково» є непотрібним, а прохання міркувати більше «може насправді погіршити результати». Натість налаштовуйте рівень зусиль на міркування, а не прописуйте кроки.
Що таке zero-shot chain of thought prompting?
Zero-shot CoT означає додавання тригерної фрази, зазвичай «Let's think step by step», без попереднього наведення розв'язаних прикладів. Kojima et al. (2022) показали, що лише це перетворює велику модель на непоганого «мислителя». Це найдешевший варіант CoT: один рядок, без підбору прикладів, швидко перевірити.
Що таке самосумісність у підказуванні з ланцюжком міркувань?
Самосумісність, за Вангом та ін. (2022), генерує кілька незалежних ланцюжків міркувань за вищої температури, а потім визначає остаточну відповідь шляхом голосування більшістю. Це найточніший варіант CoT, оскільки помилкові ланцюжки рідко узгоджуються між собою, але ви платите за кожен згенерований шлях, тому він також є найдорожчим.
Чим відрізняється chain of thought від few-shot prompting?
Few-shot prompting показує моделі приклади пар «вхід–вихід». Chain of thought зосереджується на міркуванні між входом і виходом. Вони добре поєднуються: few-shot CoT надає розгорнуті приклади, що містять кроки міркування, тож модель копіює вашу схему міркування, а не лише формат відповіді.
Ланцюжок міркувань проти послідовного зчеплення промптів проти дерева міркувань: у чому різниця?
Ланцюжок міркувань (chain of thought) виконує міркування в межах одного промпта. Зчеплення промптів (prompt chaining) розбиває завдання на кілька окремих викликів моделі, передаючи результати далі. Дерево міркувань (tree of thought) досліджує кілька гілок міркувань і відсікає слабкі. CoT — це один лінійний шлях; інші два додають зовнішню структуру навколо моделі.
Хто винайшов промптинг ланцюжка міркувань?
Промптинг ланцюжка міркувань запропонували Джейсон Вей та колеги з Google у статті 2022 року «Chain-of-Thought Prompting Elicits Reasoning in Large Language Models». Пізніше Кодзіма та співавтори додали zero-shot CoT, а Ван та співавтори — self-consistency, обидва також у 2022 році.
Чи працює промптінг із ланцюжком міркувань для генерації коду?
Так, на моделях без міркування. Якщо попросити модель спочатку спланувати логіку, а вже потім писати код, це допомагає врахувати крайні випадки та зменшити кількість багів у складних задачах. У моделях із міркуванням планування відбувається внутрішньо, тож зазвичай звичайна інструкція працює краще, ніж власноруч дописаний префікс «міркуй крок за кроком».