Контроль расходов

Один счёт — и непонятно, чья это команда потратила

Бюджет на AI чаще обнаруживают, чем планируют: приходит счёт, кто-то спрашивает, кто потратил, и ответ занимает неделю раскопок. У себя мы держим обратную схему — стоимость пишется на каждый вызов, а суточный лимит отказывает в следующем, — и покажем, докуда этого хватает.

Признаки, что это про вас

  • Финансы спрашивают, какое направление дало прошлый месяц трат, и инженеры не могут ответить уверенно.
  • Цикл ретраев или сорвавшийся агент способен сжечь заметную долю месяца, пока никто не смотрит.
  • Каждый сценарий зовёт самую сильную модель — включая те, что классифицируют короткие строки.
  • Никто не знает, сколько фича стоит на пользователя, поэтому её нельзя корректно оценить.

Что у нас работает, а чего нет

У каждого пункта на этой странице стоит реальный статус: работающий код, работа внутри пилота или проект, который ещё не построен.

Суточный лимит, который реально отказывает

Работает сегодня

Роутер перед каждым вызовом суммирует записанные за день траты и, дойдя до заданного лимита в долларах, поднимает ошибку вместо вызова. На это поведение есть тест — бюджетный ограничитель без теста является украшением.

Стоимость на вызов, а не на счёт

Работает сегодня

Каждый вызов пишет провайдера, модель, операцию, токены, задержку и оценку стоимости в долларах. Атрибуция начинается со строки в таблице, а не со сверки в конце месяца.

Выбор провайдера под операцию

Работает сегодня

Роутер выбирает провайдера и модель под операцию среди нескольких вендоров, так что дешёвой работе не обязательно идти на дорогую модель. Выбор фиксируется вместе с вызовом.

Разбивка по командам и лимиты на поток

Проектное решение

Разложить траты по командам и проектам и ограничить конкретный поток — это замысел. Ни полей, ни мультиарендного шлюза нет: сегодня лимит один и относится к нашему собственному роутеру.

Как проходит разговор

1. Вы описываете текущую схему

Работает сегодня

Провайдеры, примерные месячные траты, подозрительные сценарии. Догадка обычно уже есть — и обычно она интересно ошибается.

2. Мы показываем, что даёт форма записи

Работает сегодня

На что отвечает строка со стоимостью вызова и на что она не ответит без полей команды и проекта.

3. Решаете, стоит ли что-то менять

Объём пилота

Если траты небольшие или ваш стек уже показывает стоимость по фичам, мы так и скажем. Продавать control plane команде с одним сценарием бессмысленно.

Что работает сегодня

  • Настраиваемый суточный лимит в долларах, проверяемый перед каждым вызовом модели, с тестами — на нашем собственном роутере.
  • Записи на вызов: провайдер, модель, операция, токены, задержка и оценка стоимости.
  • Маршрутизация между несколькими провайдерами с фиксацией выбранной модели.

Чего мы не обещаем

  • Мы не публикуем процент экономии. Любая цифра зависела бы от вашего трафика, а вендор, называющий её для вашего аккаунта, её выдумал.
  • Это продукт про контроль расходов. Никаких утверждений про выручку, доходность и прибыль — ни сейчас, ни потом.
  • Сегодня нет мультиарендного шлюза, через который можно пустить боевой трафик.
  • Разбивки по командам и проектам пока нет; существующий лимит один и общий для одного роутера.
  • Дешёвые модели экономят деньги и могут стоить качества. Мы делаем размен видимым, а не автоматическим.

Вопросы, которые задают на самом деле

Можно сегодня пустить трафик через Tvijo?

Нет. Такой продукт есть у Portkey и LiteLLM, у нас его нет. У нас есть роутер с работающим лимитом и записями стоимости, который мы используем сами, и разговор о пилоте — как применить ту же схему к вашим потокам.

Не замедлит ли шлюз запросы?

Любой промежуточный узел добавляет задержку; честный вопрос — сколько это на фоне времени модели и стоит ли контроль того для этого потока. Некоторые потоки не надо брать под управление вовсе, и мы это скажем.

Можно остаться на своих ключах провайдеров?

BYOK — это предполагаемая схема, и хранилища ключей в продукте сегодня нет. Пока ваши отношения с провайдером и счёт просто остаются там же, где были.

А если у нас маленькие траты?

Тогда важнее атрибуция, чем лимиты, и, возможно, мы вам пока не нужны. Лучше сказать это, чем продать план.

Узнать, что реально покажет атрибуция

Опишите схему — скажем, на что вам ответит запись со стоимостью вызова и стоит ли что-то менять на вашем масштабе.

Хотите сначала проверить нас — структура записей расписана по полям на странице доказательств, а внешняя проверка отдаёт отчёт целиком без почты.

Запросить разбор расходов

Достаточно почты или Telegram. Отвечает человек, автоматической воронки писем нет.

Тоже полезно

Другие задачи