Лимиты и баланс
Скорость запросов, размеры, денежные лимиты и как резервируется баланс.
Ограничения бывают трёх видов: скорость запросов, размер запроса и деньги. Скорость и размеры задаёт платформа, денежные лимиты задаёте вы.
Скорость
| Что | Значение |
|---|---|
| Запросов в минуту | 120 на ключ по умолчанию |
| Токенов в минуту | 200 000 на ключ по умолчанию |
Превышение даёт 429 rate_limit_exceeded и заголовок Retry-After в секундах. Повторите запрос после этой паузы. Это значения по умолчанию для нового ключа; для вашей организации они могут отличаться.
Размеры
| Что | Значение |
|---|---|
| Тело запроса | 32 МиБ |
| Запрос распознавания речи | 26 МиБ |
| Картинок в одном запросе | от 1 до 10 (n) |
| Время генерации видео | не больше часа, потом задача получает failed с кодом timeout |
Баланс и резерв
Перед каждым запросом к модели на балансе резервируется максимально возможная сумма, после ответа списывается фактическая, остаток возвращается. Для текста резерв считается по размеру входа и max_tokens. Если max_tokens не передан, берётся потолок ответа модели: у флагманских моделей это 128 000 токенов, и резерв на запрос получается заметно больше фактической стоимости. При небольшом балансе это даёт 402 insufficient_funds, хотя сам ответ стоил бы копейки. Передавайте max_tokens (в /v1/responses это max_output_tokens).
Для картинок резерв равен числу картинок, умноженному на цену одной, для видео это секунды, умноженные на цену секунды в выбранном разрешении. У видео резерв живёт до двух часов.
- Ошибки 400, 401, 403 и 404 не резервируют деньги.
- Запрос, оборванный клиентом, списывается по фактически полученному.
- Видео со статусом
failedне стоит ничего.
Денежные лимиты
Лимиты задаются в рублях и считаются по московскому времени.
| Лимит | Где задаётся | Ошибка |
|---|---|---|
| День и месяц на ключ | при создании и редактировании ключа | 402 key_limit_exceeded |
| День и месяц на сотрудника, команду, организацию | в настройках организации | 402 spend_limit_exceeded |
Запрос отклоняется, если вместе с ним расход за период превысил бы лимит. Ключи и их лимиты: Ключи и доступ. Список кодов: Ошибки.
Пространство
Заголовок X-Morphogen-Space: spc_… относит расход запроса к пространству. Формат: spc_ и от 8 до 64 символов 0-9a-z. Заголовок с другим значением игнорируется без ошибки. Право на пространство проверяет платформа.