Весело
Весело

Эмбеддинги и переранжирование по API

Эмбеддинг модель превращает текст в вектор — ряд чисел, у которого близкие по смыслу фразы оказываются рядом. На этом держатся поиск по смыслу, RAG и рекомендации. По API у нас Cohere Embed v4 и Embed Multilingual v3, а для второго прохода поиска — Rerank v5. Запрос эмбеддингов — в формате OpenAI, оплата в рублях за токены входа.

  • 7 моделей
  • от 2,12 ₽ за 1 млн токенов

Обновлено:

Получить ключ Документация

Модели и цены

Эмбеддинги

Эмбеддинги: цена в рублях за 1 млн токенов
МодельВендорРазмер вектораЦена
Cohere Embed v4Cohere1 53612,71 ₽ за 1 млн токенов
Cohere Embed Multilingual v3Cohere1 02410,60 ₽ за 1 млн токенов
Cohere Embed English v3Cohere1 02410,60 ₽ за 1 млн токенов

Переранжирование

Переранжирование: цена в рублях
МодельВендорДокументов за разЦена
Cohere Rerank v5 ProCohereдо 1 0005,30 ₽ за 1 млн токенов
Cohere Rerank v4 FastCohereдо 1 000211,81 ₽ за 1000 поисков
Cohere Rerank v4 ProCohereдо 1 000264,76 ₽ за 1000 поисков
Cohere Rerank v5 FastCohereдо 1 0002,12 ₽ за 1 млн токенов

Сейчас недоступны

Запросы к этим моделям сейчас не проходят и денег не стоят. Цены — последние известные.

  • Command A+ — 84,73 ₽ / 338,89 ₽ за 1 млн токенов

Как выбрать

Эмбеддинг простыми словами — адрес текста на карте смыслов. «Вернуть деньги за заказ» и «оформить возврат средств» живут в одном районе, а «погода в Сочи» — на другом конце города. Поиск по таким адресам находит ответ, даже если в вопросе нет ни одного слова из документа.

Какую embedding модель взять, зависит от базы и языков, но сначала об устройстве: обычно поиск идёт в два прохода. Векторы отбирают десятки похожих кусков, а rerank читает каждый кусок вместе с вопросом и расставляет их по порядку. Первый проход широкий, второй — точный.

  • Длина куска. Cohere Embed v4 принимает до 128 тысяч токенов на строку, Embed Multilingual v3 — до 512. Для v3 базу режут на абзацы; для v4 можно брать раздел целиком, хотя для точного поиска короткие куски всё равно удобнее.
  • Языки. У Multilingual v3 больше 100 языков, русский в списке. Для Embed v4 Cohere языки на странице модели не перечисляет: если база на русском, проверь поиск на своих примерах, прежде чем считать векторы для всей базы.
  • Размер вектора. У Embed v4 вектор из 1536 чисел, у Multilingual v3 — из 1024. Чем больше чисел, тем больше места в базе и памяти у сервера поиска. Через наш API размер вектора не меняется.
  • Тип текста. Cohere просит указывать, что ты кодируешь: для документов базы нужен search_document, для вопросов людей — search_query, для классификации и кластеров — classification и clustering. Если поле не передать, мы ставим search_document. В SDK OpenAI поле input_type передают через extra_body.
  • Rerank: Pro или Fast. У Cohere Rerank v5 Pro около 2 млрд параметров, она для сложных вопросов и длинных документов. У Rerank v5 Fast около 500 млн, она для потока, где важна задержка. У обеих 32 768 токенов на пару «вопрос + документ» и больше 100 языков, причём русский входит в число тех, на которые Cohere делала упор. Каждый документ получает оценку от 0 до 1.
  • Чего нет. Эмбеддингов OpenAI и Google мы не продаём. Картинки в эмбеддинги через наш API тоже не принимаем, только текст, хотя сам Embed v4 у Cohere их понимает.

Шпаргалка по случаям:

  • база знаний на русском и английском — Embed Multilingual v3 и Rerank v5 Pro;
  • длинные документы, которые не хочется резать, — Embed v4, после проверки на своих текстах;
  • поиск по ключевым словам уже работает — добавь поверх Rerank v5, переиндексировать базу не нужно;
  • ответ человеку по найденным кускам — чат-модель: Command A+ от того же Cohere или любая из языковых моделей по API.

Популярные задачи

База знаний поддержки и RAG

Статьи помощи режут на куски по абзацу-два и считают векторы с input_type search_document. Вопрос клиента кодируют с search_query, достают из базы 20–30 ближайших кусков, Rerank v5 Pro оставляет из них пять самых подходящих, и уже их получает чат-модель с указанием отвечать только по ним. Если даже у первого куска низкая оценка, бот честно говорит «не знаю» и зовёт оператора: такой приём с порогом оценки Cohere описывает прямо в документации rerank.

Пример запроса: «Можно ли вернуть обувь без чека?» и 30 кусков из правил возврата.

Поиск по каталогу своими словами

Покупатель пишет «куртка, чтобы не продувало на остановке», а в карточке — «ветрозащитная парка». Поиск по словам их не сведёт, а эмбеддинги сведут. Если каталог на нескольких языках, начни с Embed Multilingual v3 и проверь, находит ли запрос по-русски товар с английским описанием. Если поиск по словам уже есть, не выбрасывай его: Rerank v5 переупорядочит его выдачу по смыслу без переиндексации.

Пример запроса: «куртка, чтобы не продувало на остановке» и 50 карточек из первой выдачи.

Дубли и похожие обращения

В поддержку пишут об одном и том же разными словами. Векторы с input_type clustering собирают такие обращения в группы, и становится видно, если десятки людей жалуются на одну поломку. Так же ищут дубли вопросов в базе знаний и повторы отзывов. Порог похожести подбирают на своих данных: возьми сотню пар, размеченных вручную, и посмотри, где проходит граница между «то же самое» и «другое».

Разбор отзывов и заявок по темам

Векторы с input_type classification — сырьё для простого классификатора: «доставка», «качество», «возврат», «вопрос по оплате». Начни с нескольких сотен размеченных примеров и логистической регрессии поверх векторов, и чат-модель для каждого отзыва звать не придётся. Новый отзыв тогда стоит один вектор, а не целый ответ языковой модели.

Рекомендации похожих статей и товаров

Векторы всех статей считают один раз и хранят у себя. Блок «Похожие статьи» — это пять ближайших векторов к текущей статье, и для него не нужен новый запрос к API. Пересчитывать придётся только новые и изменённые тексты, а старые векторы служат, пока не сменишь модель.

Как подключить

Вместо sk-vsl-ТВОЙ_КЛЮЧ — ключ из кабинета. Ответ придёт в формате OpenAI. Пример — с моделью Cohere Embed v4: у других моделей меняется только model.

curl

curl https://veselo.ai/v1/embeddings \
  -H "Authorization: Bearer sk-vsl-ТВОЙ_КЛЮЧ" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cohere/embed-v4.0",
    "input": ["Как вернуть деньги за заказ?", "Доставка по Москве занимает 1–2 дня."]
  }'

Python

from openai import OpenAI  # pip install openai

client = OpenAI(base_url="https://veselo.ai/v1", api_key="sk-vsl-ТВОЙ_КЛЮЧ")

r = client.embeddings.create(
    model="cohere/embed-v4.0",
    input=["Как вернуть деньги за заказ?", "Доставка по Москве занимает 1–2 дня."],
)
print(len(r.data), len(r.data[0].embedding))  # сколько векторов и их длина

JavaScript

import OpenAI from 'openai'; // npm i openai

const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: 'sk-vsl-ТВОЙ_КЛЮЧ' });

const r = await client.embeddings.create({
  model: 'cohere/embed-v4.0',
  input: ['Как вернуть деньги за заказ?', 'Доставка по Москве занимает 1–2 дня.'],
});
console.log(r.data.length, r.data[0].embedding.length); // сколько векторов и их длина

В программах: тем же ключом и по тому же адресу, что остальные модели, — из любого HTTP-клиента или библиотеки openai. Библиотеки и программы

Cohere Embed v4 · Документация раздела

Вопросы и ответы

Что такое эмбеддинг простыми словами?
Это ряд чисел, которым модель описывает смысл текста. Похожие по смыслу фразы получают похожие ряды, поэтому программа ищет тексты по смыслу, а не по совпадению слов. Векторный эмбеддинг и вектор эмбеддинга — два названия одного и того же числового ряда.
Можно ли уменьшить вектор Embed v4?
Через наш API — нет: вектор Embed v4 всегда из 1536 чисел. Поле dimensions можно передать, только если оно равно этой длине, а запрос с другим размером вернёт ошибку 400. Если места в базе жалко, возьми Multilingual v3 с вектором из 1024 чисел: она к тому же понимает русский.
Есть ли эмбеддинги OpenAI и Google?
Нет: эти компании не работают с Россией, и эмбеддинги у нас только от Cohere. Если база уже посчитана чужой моделью, её придётся пересчитать: векторы разных моделей между собой не сравнивают.
Как получить эмбеддинги на Python?
Через официальный SDK openai с адресом https://veselo.ai/v1: client.embeddings.create(model="cohere/embed-v4.0", input=[…]). Поле input_type передай в extra_body: search_document для текстов базы и search_query для вопросов. Строк в одном запросе может быть до 96.
Где хранить векторы?
У себя: в PostgreSQL с pgvector, в Qdrant, Elasticsearch или другой векторной базе. Мы векторы не храним: API считает их и сразу отдаёт в ответе вместе с ценой запроса в usage.cost_rub.
Сколько стоит проиндексировать базу знаний?
Эмбеддинги считаются только за вход, за 1 млн токенов. Прикинь объём: в русском тексте токен — примерно 2–4 знака, так что база на 10 млн знаков — это 2,5–5 млн токенов. Умножь на цену из таблицы. Дальше платишь только за новые и изменённые куски и за вопросы людей.
Сколько документов отправлять в rerank за раз?
Cohere советует не больше 1000 в одном запросе. В цену rerank идут токены и вопроса, и документов, поэтому чем короче куски, тем дешевле второй проход. Для начала отправляй в rerank 20–50 кандидатов из первого прохода и смотри, меняется ли порядок.
Нужны ли VPN и зарубежная карта?
Нет. Запросы идут на https://veselo.ai/v1, а API-счёт пополняется в рублях — картой российского банка или по СБП.
Сколько стоит запрос, который закончился ошибкой?
Нисколько: ошибка нейросети денег не стоит, удержание на время запроса снимается целиком.

Ещё по теме

Факты сверены 16 ноября 2026 по документации: docs.cohere.com