Весело
Весело

Провайдеры: кто отвечает на запрос

Одну модель обслуживают разные провайдеры: у каждого своя цена и правила хранения запросов. Как выбрать провайдера и сколько это стоит.

Обновлено:

Каждую модель запускают на своих серверах одна или несколько компаний — провайдеры. Модель та же, а цена, скорость и правила хранения запросов у каждого свои. Провайдеры модели — в поле providers списка моделей и на странице модели на сайте. Каждый провайдер назван постоянным кодом: id вроде p95bccf и имя «Провайдер 95BCCF» — у провайдера они одни на всех моделях.

Без выбора

Если в запросе нет поля provider, запрос идёт по цене модели — pricing_rub. Он попадает к самому дешёвому провайдеру, а у моделей с routing: "fastest" — к самому быстрому из тех, что не дороже этой цены. Не ответил — к следующему такому же. Дороже цены модели запрос не обойдётся.

Как выбрать провайдера

Поле provider в теле POST https://veselo.ai/v1/chat/completions — объект с пожеланиями ниже. В нём — id провайдеров из providers[].id, регистр не важен.

ПолеЧто делает
orderмассив id: пробовать этих провайдеров первыми, в этом порядке
onlyмассив id: только эти провайдеры
ignoreмассив id: все, кроме этих
allow_fallbacksfalse — не уходить к другим провайдерам, если выбранные не ответили. По умолчанию true
zdrtrue — только провайдеры, которые не хранят ни запрос, ни ответ (zero data retention). То же — data_collection: "deny"
sort"price" — сначала самые дешёвые из подходящих

curl

curl https://veselo.ai/v1/chat/completions \
  -H "Authorization: Bearer $VESELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek/deepseek-v4.1-flash-abliterated",
    "messages": [{"role": "user", "content": "Привет!"}],
    "provider": {"order": ["p21b172"], "allow_fallbacks": false}
  }'

Python

from openai import OpenAI  # pip install openai

client = OpenAI(base_url="https://veselo.ai/v1", api_key="sk-vsl-ТВОЙ_КЛЮЧ")

r = client.chat.completions.create(
    model="deepseek/deepseek-v4.1-flash-abliterated",
    messages=[{"role": "user", "content": "Привет!"}],
    # только провайдеры, которые не хранят запросы; сначала самые дешёвые из них
    extra_body={"provider": {"zdr": True, "sort": "price"}},
)
print(r.provider, r.usage.cost_rub)  # кто ответил и цена в рублях

JavaScript

import OpenAI from 'openai'; // npm i openai

const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: process.env.VESELO_API_KEY });

const r = await client.chat.completions.create({
  model: 'deepseek/deepseek-v4.1-flash-abliterated',
  messages: [{ role: 'user', content: 'Привет!' }],
  provider: { ignore: ['p1ba80e'] }, // всех, кроме одного
});
console.log(r.provider, r.usage.cost_rub);

Коды в примерах — настоящие на момент написания; какие провайдеры у модели сейчас — смотри в providers или запросом ниже.

Сколько стоит

Выбрал провайдера сам — запрос стоит столько, сколько берёт тот, кто ответил: его цена — в providers[].pricing_rub. Провайдеры дороже цены модели помечены default: false — к ним запрос попадает, только если их выбрать. Удержание считается по самому дорогому из подходящих провайдеров, списание — по факту. Кто ответил, видно в поле provider ответа, цена — в usage.cost_rub.

Провайдеры модели

Все провайдеры есть в GET https://veselo.ai/v1/models (поле providers). Одной модели — отдельным запросом, без ключа:

curl

curl -s https://veselo.ai/v1/models/deepseek/deepseek-v4.1-flash-abliterated/endpoints

Ответ

{
  "data": {
    "id": "deepseek/deepseek-v4.1-flash-abliterated",
    "name": "DeepSeek V4.1 Flash 1017 Abliterated",
    "routing": "cheapest",
    "endpoints": [
      {
        "id": "p95bccf",
        "name": "Провайдер 95BCCF",
        "pricing_rub": { "input_per_1m": 13.41, "output_per_1m": 50.28, "cached_input_per_1m": 2.8 },
        "context_length": 1048576,
        "max_output_tokens": 1000000,
        "input_modalities": ["text", "image"],
        "zdr": true,
        "quantization": "fp8",
        "default": true
      }
    ]
  }
}
ПолеЧто это
idкод провайдера — что писать в order, only и ignore
nameимя провайдера из его кода — так же он назван в поле provider ответа
pricing_rubцены в рублях за 1 млн токенов: вход, выход, вход из кэша
context_length, max_output_tokensу провайдера они бывают меньше, чем у модели
input_modalitiesчто принимает: не все провайдеры читают картинки
zdrtrue — не хранит запросы и ответы
quantizationточность весов на его серверах: fp8, fp4 и т. п.; null — провайдер не сообщает
defaulttrue — не дороже цены модели: к нему может попасть запрос без provider

Ошибки

Неизвестный id провайдера или условия, под которые не подходит ни один из них, — ошибка invalid_request с param: "provider" и списком провайдеров модели. Деньги не списываются. У модели без списка провайдеров поле provider не действует: запрос идёт как обычно.

← Ответ в JSON · Без цензуры →

Вся документация одним текстом · Все модели и цены