Провайдеры: кто отвечает на запрос
Одну модель обслуживают разные провайдеры: у каждого своя цена и правила хранения запросов. Как выбрать провайдера и сколько это стоит.
Обновлено:
Каждую модель запускают на своих серверах одна или несколько компаний — провайдеры. Модель та же, а цена, скорость и правила хранения запросов у каждого свои. Провайдеры модели — в поле providers списка моделей и на странице модели на сайте. Каждый провайдер назван постоянным кодом: id вроде p95bccf и имя «Провайдер 95BCCF» — у провайдера они одни на всех моделях.
Без выбора
Если в запросе нет поля provider, запрос идёт по цене модели — pricing_rub. Он попадает к самому дешёвому провайдеру, а у моделей с routing: "fastest" — к самому быстрому из тех, что не дороже этой цены. Не ответил — к следующему такому же. Дороже цены модели запрос не обойдётся.
Как выбрать провайдера
Поле provider в теле POST https://veselo.ai/v1/chat/completions — объект с пожеланиями ниже. В нём — id провайдеров из providers[].id, регистр не важен.
| Поле | Что делает |
|---|---|
order | массив id: пробовать этих провайдеров первыми, в этом порядке |
only | массив id: только эти провайдеры |
ignore | массив id: все, кроме этих |
allow_fallbacks | false — не уходить к другим провайдерам, если выбранные не ответили. По умолчанию true |
zdr | true — только провайдеры, которые не хранят ни запрос, ни ответ (zero data retention). То же — data_collection: "deny" |
sort | "price" — сначала самые дешёвые из подходящих |
curl
curl https://veselo.ai/v1/chat/completions \
-H "Authorization: Bearer $VESELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek/deepseek-v4.1-flash-abliterated",
"messages": [{"role": "user", "content": "Привет!"}],
"provider": {"order": ["p21b172"], "allow_fallbacks": false}
}'Python
from openai import OpenAI # pip install openai
client = OpenAI(base_url="https://veselo.ai/v1", api_key="sk-vsl-ТВОЙ_КЛЮЧ")
r = client.chat.completions.create(
model="deepseek/deepseek-v4.1-flash-abliterated",
messages=[{"role": "user", "content": "Привет!"}],
# только провайдеры, которые не хранят запросы; сначала самые дешёвые из них
extra_body={"provider": {"zdr": True, "sort": "price"}},
)
print(r.provider, r.usage.cost_rub) # кто ответил и цена в рубляхJavaScript
import OpenAI from 'openai'; // npm i openai
const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: process.env.VESELO_API_KEY });
const r = await client.chat.completions.create({
model: 'deepseek/deepseek-v4.1-flash-abliterated',
messages: [{ role: 'user', content: 'Привет!' }],
provider: { ignore: ['p1ba80e'] }, // всех, кроме одного
});
console.log(r.provider, r.usage.cost_rub);Коды в примерах — настоящие на момент написания; какие провайдеры у модели сейчас — смотри в providers или запросом ниже.
Сколько стоит
Выбрал провайдера сам — запрос стоит столько, сколько берёт тот, кто ответил: его цена — в providers[].pricing_rub. Провайдеры дороже цены модели помечены default: false — к ним запрос попадает, только если их выбрать. Удержание считается по самому дорогому из подходящих провайдеров, списание — по факту. Кто ответил, видно в поле provider ответа, цена — в usage.cost_rub.
Провайдеры модели
Все провайдеры есть в GET https://veselo.ai/v1/models (поле providers). Одной модели — отдельным запросом, без ключа:
curl
curl -s https://veselo.ai/v1/models/deepseek/deepseek-v4.1-flash-abliterated/endpointsОтвет
{
"data": {
"id": "deepseek/deepseek-v4.1-flash-abliterated",
"name": "DeepSeek V4.1 Flash 1017 Abliterated",
"routing": "cheapest",
"endpoints": [
{
"id": "p95bccf",
"name": "Провайдер 95BCCF",
"pricing_rub": { "input_per_1m": 13.41, "output_per_1m": 50.28, "cached_input_per_1m": 2.8 },
"context_length": 1048576,
"max_output_tokens": 1000000,
"input_modalities": ["text", "image"],
"zdr": true,
"quantization": "fp8",
"default": true
}
]
}
}| Поле | Что это |
|---|---|
id | код провайдера — что писать в order, only и ignore |
name | имя провайдера из его кода — так же он назван в поле provider ответа |
pricing_rub | цены в рублях за 1 млн токенов: вход, выход, вход из кэша |
context_length, max_output_tokens | у провайдера они бывают меньше, чем у модели |
input_modalities | что принимает: не все провайдеры читают картинки |
zdr | true — не хранит запросы и ответы |
quantization | точность весов на его серверах: fp8, fp4 и т. п.; null — провайдер не сообщает |
default | true — не дороже цены модели: к нему может попасть запрос без provider |
Ошибки
Неизвестный id провайдера или условия, под которые не подходит ни один из них, — ошибка invalid_request с param: "provider" и списком провайдеров модели. Деньги не списываются. У модели без списка провайдеров поле provider не действует: запрос идёт как обычно.