Как ограничить расходы на API: бюджет проекта, клиента и пользователя

Чтобы контролировать расходы API, проверяйте бюджет до запуска запроса и сверяйте его с фактическим списанием после ответа. Уведомление о расходе само по себе не останавливает вызовы. Для параллельных задач нужен общий резерв, а для агента — предел на всю задачу, включая инструменты и повторы.

Прозрачные ёмкости с монетами и фиолетовая перегородка у входа

Контроль расходов API требует проверки до запроса, общего учёта выполняющихся задач и сверки после ответа. Один лимит длины генерации не ограничивает весь расход приложения.

Уведомление и запрет запросов работают по-разному

Настройка с названием «бюджет» может только отправлять уведомление. Например, OpenAI прямо описывает месячный бюджет проекта как мягкий порог: после превышения запросы продолжают выполняться. Правила проектов OpenAI.

AITUNNEL документирует другое поведение бюджета ключа: после исчерпания запросы этого ключа отклоняются, даже если у аккаунта остаются средства. Правила ключей AITUNNEL. Это заявленное поведение сервиса; оно не заменяет проверку ваших параллельных сценариев.

Механизм Что он решает
Уведомление о пороге Позволяет узнать о расходе
Бюджет ключа с отклонением Ограничивает новые запросы этого ключа по правилам провайдера
Баланс и автопополнение Определяют доступные деньги; автопополнение нужно учитывать отдельно
Учёт в приложении Делит бюджет между проектами, клиентами и задачами
Ограничение шагов агента Сдерживает повторы и работу внутри одной задачи

Перед использованием проверьте момент остановки, период сброса, уже выполняющиеся запросы и настройку автоматического пополнения.

Какие бюджеты нужны приложению

Задайте общий предел проекта и распределите его между клиентами. Внутри клиента ограничьте пользователя и отдельную задачу. Одновременно должны выполняться все применимые ограничения.

Вымышленный пример: проект получает 10 000 ₽ в месяц, клиент — 2 000 ₽, пользователь — 200 ₽ в день, задача — 10 ₽. Числа иллюстрируют структуру; они не являются рекомендуемыми лимитами для любого продукта.

Смена пользователя или создание нового ключа не должны обходить бюджет клиента. Для денежного учёта храните небольшую точную единицу суммы; избегайте накопления ошибок двоичной арифметики с плавающей точкой.

Как оценить расход до запуска

Оценка включает вход, максимальный оплачиваемый выход, разрешённые платные инструменты и все шаги задачи. Если тариф меняется после определённой длины контекста, используйте подходящую ставку.

Для верхней оценки не полагайтесь на будущее попадание в кеш. Если маршрут берёт за запись кеша больше, чем за обычный вход, резервируйте потенциально записываемые токены по этой повышенной ставке. Пример такого тарифа у OpenAI. Чтение кеша учитывайте после выполнения. Если API тарифицирует невидимое рассуждение внутри выхода, лимит должен охватывать именно общий оплачиваемый выход.

Учебный расчёт на базовом тарифе GPT-5 Mini у AITUNNEL: 50 / 400 ₽ за миллион входных / выходных токенов. Источник ставки.

Зададим предел 10 000 входных и 1 000 общих выходных токенов на каждый из восьми вызовов. Поиск, кеш и другие услуги отсутствуют.

Резерв модели = 8 × (10 000 × 50 + 1 000 × 400) ÷ 1 000 000 = 7,20 ₽.

Внутри учебного бюджета 10 ₽ остаётся 2,80 ₽. Это верхняя оценка только при соблюдении заданных границ на каждом шаге. Растущую историю необходимо ограничить или пересчитать до очередного вызова.

Почему параллельным запросам нужен общий резерв

Предположим, остаток равен 5 ₽, а два запроса оцениваются по 4 ₽. Если каждый отдельно прочитает остаток до списания второго, оба могут пройти проверку.

Доступную сумму удобно считать так:

Доступно = установленный бюджет − подтверждённый расход − резервы выполняющихся запросов.

Проверку и создание резерва выполняйте атомарно для всех применимых бюджетов. Иначе строка «проверили баланс» не защищает от одновременного старта.

Порядок обработки:

  1. Определить проект, клиента, пользователя и идентификатор задачи на сервере.
  2. Проверить разрешённую модель и оценить максимальный расход.
  3. Атомарно проверить бюджеты и создать резерв.
  4. Выполнить запрос с техническими пределами.
  5. Получить фактическое списание и зафиксировать его один раз.
  6. Освободить подтверждённую неиспользованную часть резерва.
  7. Сверить общий учёт с кабинетом провайдера.

Это схема, которую нужно адаптировать к вашему хранилищу и API. Для агента можно резервировать весь известный максимум задачи или очередной шаг в рамках оставшегося бюджета.

Что делать с тайм-аутом и неизвестным расходом

Тайм-аут на вашей стороне не подтверждает прекращение обработки у поставщика. Не освобождайте резерв автоматически только потому, что клиент перестал ждать.

Сохраните задачу в состоянии «расход уточняется», проверьте статус по доступному идентификатору и сверяйтесь со статистикой провайдера. Если API не позволяет подтвердить итог, остановите автоматические повторы и предусмотрите разбор неопределённых списаний.

Финальное событие или повторная обработка результата не должны списывать одну операцию дважды. Используйте собственные идентификаторы и переходы состояний; поддержку ключа идемпотентности у провайдера проверяйте отдельно.

Как ограничить повторы и платные инструменты

Установите предел попыток, шагов, размера входа и общего оплачиваемого выхода. Для поиска задайте число операций и объём результатов с учётом поддержки конкретного маршрута.

Перед каждым продолжением пересчитайте доступный бюджет. Даже дешёвые вызовы способны накопить большой расход при бесконечном цикле.

Не повторяйте без изменения запрос, который отклонён из-за бюджета, неверной схемы или запрещённой модели. Для временных ошибок разрешайте ограниченное число попыток. Неизвестный итог предыдущей попытки сначала сверяйте, чтобы повтор не создал платный дубль.

Как разделить ключи и проверить остановку

Держите секретные ключи на сервере или в предназначенном для них хранилище. Не включайте их в публичный клиентский код, журналы или статьи. Разделите рабочее приложение, разработку и редактор кода; при поддержке провайдера используйте отдельные ключи для клиентов.

Проверьте остановку на вымышленной задаче с небольшим лимитом: последовательные вызовы, одновременный старт, повтор, тайм-аут, потоковый ответ и смена периода. Цель — убедиться, что учёт не теряет расход и не освобождает неизвестные суммы.

Плановый объём токенов оцените в подборе API. После подключения сравнивайте его с реальными списаниями и расходом на reasoning, поиск и MCP-инструменты.

Частые вопросы

Достаточно ли поставить месячный бюджет у провайдера?

Сначала выясните, останавливает ли настройка запросы или только отправляет уведомление. Добавьте ограничения приложения для клиентов, пользователей и задач.

Почему max_tokens не задаёт денежный бюджет?

Лимит генерации не ограничивает вход, платные инструменты и общее число шагов. Значение и смысл параметра также зависят от API.

Можно ли вернуть резерв после тайм-аута?

Тайм-аут клиента не подтверждает, что провайдер прекратил работу. Сохраните неопределённый расход до проверки статуса и сверки списаний.

Как ограничить параллельные запросы?

Атомарно резервируйте оценку каждого запроса в общем бюджете. Независимые проверки одного остатка могут пропустить несколько задач сверх лимита.

Читайте также