Почему короткий ответ нейросети обходится дорого: reasoning-токены и счёт API

Короткий ответ не означает маленький расход: reasoning-модель может потратить токены на рассуждение до выдачи текста. У OpenAI они оплачиваются как выходные и уже входят в output_tokens. В учебном примере ответ на 200 видимых токенов стоит 0,90 ₽ вместо 0,18 ₽ из-за 1 800 токенов рассуждения. Ниже — как прочитать usage и ограничить расход.

В матовом стеклянном кубе много фиолетовых блоков; лишь несколько выходят на белый лист рядом с монетами

Reasoning-модель может выдать две строки текста и при этом потратить тысячи токенов на подготовку ответа. Поэтому оценка по числу букв на экране не объясняет счёт. У OpenAI токены рассуждения оплачиваются как выходные; это описано в документации reasoning-моделей.

Ниже разбираем учёт OpenAI Responses API и учебный расчёт в рублях. Количество токенов зададим для расчёта. Тариф взят из каталога на 8 октября 2026 года и сверён со страницей провайдера 9 октября.

Какие токены попадают в счёт

Для расчёта полезно разделить три величины:

Величина Что она показывает
Входные токены Инструкции, вопрос, переданная история и другие входные данные
Видимый ответ Текст, который получает пользователь
Оплачиваемый выход Общий счётчик генерации; у reasoning-модели он включает рассуждение

Последние две строки не равны друг другу. Счётчик выхода может включать и другие невидимые служебные токены, поэтому разность между общим выходом и рассуждением не стоит использовать как точный токенизатор текста ответа. Правила подсчёта выхода.

Кэш — отдельная часть расчёта входа. Если провайдер применяет скидку, кэшированный вход нужно считать по его тарифу. Кэш не делает новые токены рассуждения бесплатными.

Как прочитать usage и не посчитать расход дважды

В Responses API поле output_tokens_details.reasoning_tokens показывает токены рассуждения внутри общего output_tokens. Формат описан в документации OpenAI.

Учебный пример ответа:

{
  "usage": {
    "input_tokens": 2000,
    "input_tokens_details": { "cached_tokens": 0 },
    "output_tokens": 2000,
    "output_tokens_details": { "reasoning_tokens": 1800 },
    "total_tokens": 4000
  }
}

Для оплаты выхода здесь берём 2 000 токенов. Ошибка — взять 2 000 + 1 800 и оплатить 3 800: одни и те же токены будут посчитаны повторно.

Другой API может возвращать completion_tokens, собственные поля детализации или сразу стоимость запроса. Не переносите формулу между форматами по похожему названию. Проверьте, включает ли общий счётчик рассуждение и где отражено фактическое списание.

Пример в рублях: короткий ответ становится в пять раз дороже

Для иллюстрации используем GPT-5 Mini у AITUNNEL: 50 ₽ за 1 млн входных и 400 ₽ за 1 млн выходных токенов, базовые значения. Источник тарифа.

Допустим, вход составляет 2 000 токенов, видимый ответ — 200, а рассуждение — 1 800. Другие категории выхода в этом упрощённом примере отсутствуют.

Стоимость = (2 000 × 50 + 2 000 × 400) ÷ 1 000 000 = 0,90 ₽.

Если ошибочно учитывать только 200 видимых токенов, получится 0,18 ₽. Разница — 0,72 ₽ на вызов, или 7 200 ₽ на 10 000 таких вызовов.

Задано токенов рассуждения Общий выход при 200 видимых токенах Расчётная цена вызова
0 200 0,18 ₽
800 1 000 0,50 ₽
1 800 2 000 0,90 ₽
4 800 5 000 2,10 ₽

Строка с нулём — арифметическая база для сравнения, а не обещание отключить рассуждение у GPT-5 Mini. Поддержка режимов зависит от модели. Таблица также не показывает качество ответов: для него нужен отдельный тест на ваших заданиях.

Почему «ответь одним словом» не задаёт бюджет

Инструкция о длине ответа описывает итоговый текст. Она не устанавливает технический предел на вычисления модели.

Для классификации заявки иногда достаточно модели без сложного рассуждения. Для задачи с несколькими ограничениями или поиском ошибки дополнительная работа может быть полезной. Чтобы выбрать режим, сравнивайте долю правильных результатов и общую стоимость на одинаковом наборе примеров.

Простые и прямые инструкции — хорошая отправная точка. OpenAI отдельно рекомендует не добавлять reasoning-моделям просьбы вроде «думай шаг за шагом» без необходимости. Рекомендации по промптам.

Как ограничивать расходы

У поддерживаемых моделей параметр reasoning.effort управляет усилием рассуждения. Допустимые значения нужно проверять для конкретной модели и версии API. Начните с меньшего усилия и повышайте его на заданиях, где качество результата этого требует.

Лимит max_output_tokens в Responses API охватывает общий выход, включая невидимые токены. Правила ограничения выхода. Если лимит заканчивается во время рассуждения, ответ может иметь статус incomplete. Слишком маленький лимит способен привести к оплаченному запросу без результата. Обработка незавершённого ответа.

В приложении стоит ограничивать и число вызовов. Агент с небольшим лимитом на каждый ответ может потратить много денег, если разрешить ему бесконечно повторять шаги.

Разделите два вида ограничений:

  • На вызов: размер входа, усилие рассуждения, общий лимит выхода.
  • На задачу: число шагов, повторы, суммарный денежный бюджет.

Считайте стоимость уже выполненных шагов даже при неуспешном результате. Для задач без строгого срока можно отправить неудачные случаи на отложенную обработку вместо немедленного цикла повторов.

Стоимость успешной задачи важнее цены одного запроса

Предположим, на 100 задач потрачено 50 ₽ и принято 80 результатов. Цена принятого результата — 50 ÷ 80 = 0,625 ₽. Другой режим потратил 70 ₽ и дал 98 принятых результатов: 70 ÷ 98 ≈ 0,714 ₽.

Первый дешевле по этой метрике, но оставляет 20 задач на повтор или ручную работу. При выборе добавьте стоимость этой доработки.

Сохраняйте для каждой задачи модель, режим, число вызовов, общий вход и выход, детализацию рассуждения, стоимость и отметку «принято / требуется исправление». Сырые запросы с данными клиентов для финансового учёта не обязательны.

Как заложить reasoning в месячный бюджет

Если ожидается 10 000 вызовов, похожих на наш основной пример, месячный объём — 20 млн входных и 20 млн выходных токенов. При тарифе 50 / 400 ₽ это 9 000 ₽. Расчёт только по видимому тексту дал бы 1 800 ₽.

В подборе API вводите общий оплачиваемый выход. Если считаете только видимые ответы, отдельно добавьте оценку рассуждения; если берёте output_tokens из Responses API, повторно прибавлять её не нужно.

Для нового продукта сначала получите распределение расхода на типичных заданиях. Среднее пригодится для месячной сметы, а дорогие и неуспешные случаи — для настройки лимитов и выбора модели.

Частые вопросы

Что такое reasoning-токены?

Это токены, которые модель использует для рассуждения при подготовке ответа. Их число может отличаться от длины видимого текста. У reasoning-моделей OpenAI они тарифицируются как выходные токены.

Нужно ли прибавлять reasoning_tokens к output_tokens?

В OpenAI Responses API не нужно: reasoning_tokens — детализация общего output_tokens, а не дополнительный объём поверх него. Для API посредника проверьте названия и смысл его счётчиков.

Почему модель списала деньги, но вернула пустой ответ?

Если лимит генерации закончился во время рассуждения, модель может завершиться до появления видимого ответа. Уже обработанный вход и сгенерированные токены могут оставаться оплачиваемыми.

Помогает ли просьба отвечать кратко?

Она может сократить видимый текст, но не задаёт бюджет внутреннего рассуждения. Для управления расходом нужны поддерживаемые моделью настройки усилия, лимит генерации и проверка фактического usage.

Читайте также