Контроль расходов API требует проверки до запроса, общего учёта выполняющихся задач и сверки после ответа. Один лимит длины генерации не ограничивает весь расход приложения.
Уведомление и запрет запросов работают по-разному
Настройка с названием «бюджет» может только отправлять уведомление. Например, OpenAI прямо описывает месячный бюджет проекта как мягкий порог: после превышения запросы продолжают выполняться. Правила проектов OpenAI.
AITUNNEL документирует другое поведение бюджета ключа: после исчерпания запросы этого ключа отклоняются, даже если у аккаунта остаются средства. Правила ключей AITUNNEL. Это заявленное поведение сервиса; оно не заменяет проверку ваших параллельных сценариев.
| Механизм | Что он решает |
|---|---|
| Уведомление о пороге | Позволяет узнать о расходе |
| Бюджет ключа с отклонением | Ограничивает новые запросы этого ключа по правилам провайдера |
| Баланс и автопополнение | Определяют доступные деньги; автопополнение нужно учитывать отдельно |
| Учёт в приложении | Делит бюджет между проектами, клиентами и задачами |
| Ограничение шагов агента | Сдерживает повторы и работу внутри одной задачи |
Перед использованием проверьте момент остановки, период сброса, уже выполняющиеся запросы и настройку автоматического пополнения.
Какие бюджеты нужны приложению
Задайте общий предел проекта и распределите его между клиентами. Внутри клиента ограничьте пользователя и отдельную задачу. Одновременно должны выполняться все применимые ограничения.
Вымышленный пример: проект получает 10 000 ₽ в месяц, клиент — 2 000 ₽, пользователь — 200 ₽ в день, задача — 10 ₽. Числа иллюстрируют структуру; они не являются рекомендуемыми лимитами для любого продукта.
Смена пользователя или создание нового ключа не должны обходить бюджет клиента. Для денежного учёта храните небольшую точную единицу суммы; избегайте накопления ошибок двоичной арифметики с плавающей точкой.
Как оценить расход до запуска
Оценка включает вход, максимальный оплачиваемый выход, разрешённые платные инструменты и все шаги задачи. Если тариф меняется после определённой длины контекста, используйте подходящую ставку.
Для верхней оценки не полагайтесь на будущее попадание в кеш. Если маршрут берёт за запись кеша больше, чем за обычный вход, резервируйте потенциально записываемые токены по этой повышенной ставке. Пример такого тарифа у OpenAI. Чтение кеша учитывайте после выполнения. Если API тарифицирует невидимое рассуждение внутри выхода, лимит должен охватывать именно общий оплачиваемый выход.
Учебный расчёт на базовом тарифе GPT-5 Mini у AITUNNEL: 50 / 400 ₽ за миллион входных / выходных токенов. Источник ставки.
Зададим предел 10 000 входных и 1 000 общих выходных токенов на каждый из восьми вызовов. Поиск, кеш и другие услуги отсутствуют.
Резерв модели = 8 × (10 000 × 50 + 1 000 × 400) ÷ 1 000 000 = 7,20 ₽.
Внутри учебного бюджета 10 ₽ остаётся 2,80 ₽. Это верхняя оценка только при соблюдении заданных границ на каждом шаге. Растущую историю необходимо ограничить или пересчитать до очередного вызова.
Почему параллельным запросам нужен общий резерв
Предположим, остаток равен 5 ₽, а два запроса оцениваются по 4 ₽. Если каждый отдельно прочитает остаток до списания второго, оба могут пройти проверку.
Доступную сумму удобно считать так:
Доступно = установленный бюджет − подтверждённый расход − резервы выполняющихся запросов.
Проверку и создание резерва выполняйте атомарно для всех применимых бюджетов. Иначе строка «проверили баланс» не защищает от одновременного старта.
Порядок обработки:
- Определить проект, клиента, пользователя и идентификатор задачи на сервере.
- Проверить разрешённую модель и оценить максимальный расход.
- Атомарно проверить бюджеты и создать резерв.
- Выполнить запрос с техническими пределами.
- Получить фактическое списание и зафиксировать его один раз.
- Освободить подтверждённую неиспользованную часть резерва.
- Сверить общий учёт с кабинетом провайдера.
Это схема, которую нужно адаптировать к вашему хранилищу и API. Для агента можно резервировать весь известный максимум задачи или очередной шаг в рамках оставшегося бюджета.
Что делать с тайм-аутом и неизвестным расходом
Тайм-аут на вашей стороне не подтверждает прекращение обработки у поставщика. Не освобождайте резерв автоматически только потому, что клиент перестал ждать.
Сохраните задачу в состоянии «расход уточняется», проверьте статус по доступному идентификатору и сверяйтесь со статистикой провайдера. Если API не позволяет подтвердить итог, остановите автоматические повторы и предусмотрите разбор неопределённых списаний.
Финальное событие или повторная обработка результата не должны списывать одну операцию дважды. Используйте собственные идентификаторы и переходы состояний; поддержку ключа идемпотентности у провайдера проверяйте отдельно.
Как ограничить повторы и платные инструменты
Установите предел попыток, шагов, размера входа и общего оплачиваемого выхода. Для поиска задайте число операций и объём результатов с учётом поддержки конкретного маршрута.
Перед каждым продолжением пересчитайте доступный бюджет. Даже дешёвые вызовы способны накопить большой расход при бесконечном цикле.
Не повторяйте без изменения запрос, который отклонён из-за бюджета, неверной схемы или запрещённой модели. Для временных ошибок разрешайте ограниченное число попыток. Неизвестный итог предыдущей попытки сначала сверяйте, чтобы повтор не создал платный дубль.
Как разделить ключи и проверить остановку
Держите секретные ключи на сервере или в предназначенном для них хранилище. Не включайте их в публичный клиентский код, журналы или статьи. Разделите рабочее приложение, разработку и редактор кода; при поддержке провайдера используйте отдельные ключи для клиентов.
Проверьте остановку на вымышленной задаче с небольшим лимитом: последовательные вызовы, одновременный старт, повтор, тайм-аут, потоковый ответ и смена периода. Цель — убедиться, что учёт не теряет расход и не освобождает неизвестные суммы.
Плановый объём токенов оцените в подборе API. После подключения сравнивайте его с реальными списаниями и расходом на reasoning, поиск и MCP-инструменты.
