Длинный диалог дорожает, когда модель получает предыдущие вопросы и ответы заново при каждом обращении. Новый вопрос может занимать одну строку, но оплачиваемый вход включает всю переданную историю.
OpenAI подтверждает: даже при продолжении через previous_response_id предыдущие входные токены цепочки оплачиваются. Хранение состояния на сервере экономит передачу данных в коде клиента, но не отменяет их тарификацию. Документация состояния диалога.
Для расчётов используем рублёвый тариф из каталога на 8 октября, сверенный со страницей провайдера. Длины сообщений зададим в условиях расчёта.
Что входит в следующий запрос
В простом чате вход складывается из системной инструкции, текущего вопроса и сохранённых сообщений. К ним могут добавиться документы, определения инструментов и результаты их работы.
После первого ответа история содержит и вопрос пользователя, и ответ модели. На следующем шаге этот ответ становится частью входа. Поэтому выходные токены оплачиваются при создании ответа, а его переданный текст затем оплачивается по ставке входа.
Считать только новый вопрос удобно для короткой сметы, но такой расчёт пропускает историю. Для агента дополнительно учитывайте контекст инструментов и правила передачи результатов их вызовов.
Формула цены полной истории
Обозначим системную инструкцию как S токенов, каждый новый вопрос как U, каждый видимый ответ как A. Перед ответом с номером n модель получает:
Вход запроса n = S + n × U + (n − 1) × A.
Если длины постоянны и история не сокращается, за N ответов вход составит:
Общий вход = N × S + U × N × (N + 1) ÷ 2 + A × N × (N − 1) ÷ 2.
Общий видимый выход равен N × A. Сумму входа и выхода умножьте на соответствующие ставки за миллион токенов и разделите на миллион.
Формула описывает заданную текстовую историю. Для реального счёта используйте полные категории usage: служебное оформление сообщений, дополнительные оплачиваемые reasoning-токены, кеш и платные инструменты могут изменить расход.
Сколько стоят 10, 50 и 100 ответов
Возьмём GPT-5 Mini по базовым ставкам AITUNNEL: 50 ₽ за миллион входных и 400 ₽ за миллион выходных токенов. На странице указаны варианты тарифов; здесь используем нижние базовые значения. Источник цены.
Зададим системную инструкцию в 1 000 токенов, вопрос в 100 и видимый ответ в 200. В расчёте нет кеша, дополнительных reasoning-токенов, инструментов и служебной обвязки. Один шаг означает один вопрос и один ответ.
| Ответов в диалоге | Общий вход | Общий выход | Расход по заданному тарифу |
|---|---|---|---|
| 10 | 24 500 токенов | 2 000 токенов | 2,03 ₽ |
| 50 | 422 500 токенов | 10 000 токенов | 25,13 ₽ |
| 100 | 1 595 000 токенов | 20 000 токенов | 87,75 ₽ |
Суммы в таблице округлены до копеек. Например, для 100 ответов: (1 595 000 × 50 + 20 000 × 400) ÷ 1 000 000 = 87,75 ₽.
Последний, сотый запрос получает 30 800 входных токенов. С ответом в 200 токенов он стоит 1,62 ₽. Первый стоит 0,135 ₽. Новый вопрос имеет ту же длину, а цена шага в этом сценарии выросла в 12 раз.
Для 100 изолированных вопросов без истории вход составил бы 110 000 токенов, а сумма была бы 13,50 ₽. Но такой бот не помнил бы прежние ответы и условия пользователя. Это другой режим работы, пригодный только для независимых задач.
Сколько экономит окно последних сообщений
Оставим ту же системную инструкцию и текущий вопрос, но передадим не более 5 предыдущих пар «вопрос и ответ». Длинный диалог перестанет увеличивать вход после заполнения окна.
В заданной серии из 100 ответов суммарный вход будет 255 500 токенов, выход останется 20 000. Расход составит 20,78 ₽ после округления вместо 87,75 ₽ с полной историей.
Это арифметическая экономия при сохранении одинаковой длины ответов. Она не доказывает, что качество сохранится: модель перестанет видеть ранние договорённости. Перед применением проверьте задания, в которых пользователь возвращается к старой детали.
Окно лучше ограничивать и по объёму токенов. Последние сообщения могут содержать большой документ, поэтому фиксированное число сообщений само по себе не задаёт предел входа.
Для диалога с инструментами сохраняйте связанные элементы вместе: вызов и результат должны образовывать допустимую для API последовательность. Обрезание произвольных сообщений способно нарушить этот формат. Работа с вызовами функций.
Когда пересказ истории окупается
Пересказ занимает место во входе, а его создание расходует отдельные входные и выходные токены. Считайте обе части.
Экономия = сэкономленная стоимость входа следующих запросов − стоимость создания и обновления пересказа.
Учебный пример: заменили 20 000 токенов старой истории пересказом в 2 000. При ставке входа 50 ₽ разница на следующем запросе составляет 18 000 × 50 ÷ 1 000 000 = 0,90 ₽. Если создание пересказа стоило 3 ₽ и его не нужно обновлять, после 4 последующих запросов экономия составит 4 × 0,90 − 3 = 0,60 ₽. Длины и цена пересказа здесь заданы для проверки порога.
Если пересказ обновляется на каждом шаге, добавьте каждый такой вызов. Сохраняйте в нём проверяемые факты: выбранный товар, ограничения, решения и незавершённые задачи. Проверяйте, не исчезли ли важные детали при сокращении.
Что дают кеш и отдельное хранение фактов
Кеш снижает ставку подходящего повторяющегося входа при соблюдении условий API. Он не сокращает саму историю. Для прогноза нужны фактические попадания, ставка чтения и возможная цена записи. Эти условия разобраны в статье про кеширование промптов.
Сведения, которые нужны надолго, можно хранить как структурированные поля приложения. Тогда в запрос попадут выбранные факты и короткое окно диалога. Для большой базы документов подходит поиск релевантных фрагментов; в его смету входят поиск, индексация и переданный контекст. Расходы RAG.
Сначала определите, какую память требует задача. Боту для независимой классификации история не нужна. Помощнику, который уточняет заказ, нужны сохранённые параметры заказа. Агенту по документам могут понадобиться исходные фрагменты, даже если есть пересказ.
Как проверить расход своего чата
- Сохраните полные счётчики входа и выхода для каждой завершённой попытки.
- Отдельно отметьте чтение и запись кеша, reasoning-токены и платные операции.
- Сопоставьте размер нового вопроса с размером переданного контекста.
- Сравните полную историю, окно и пересказ на одинаковых заданиях.
- Проверьте ответы, которые зависят от ранних деталей, и сверяйте сумму со списаниями.
Методика стоимости принятого результата поможет учесть исправления после сокращения истории. В каталоге API выберите ставки модели, а через подбор под бюджет оцените расход с уже рассчитанным общим входом. Умножение цены первого ответа на число сообщений для длинного диалога даст заниженную смету.
