Эмбеддинги и переранжирование по API
Эмбеддинг модель превращает текст в вектор — ряд чисел, у которого близкие по смыслу фразы оказываются рядом. На этом держатся поиск по смыслу, RAG и рекомендации. По API у нас Cohere Embed v4 и Embed Multilingual v3, а для второго прохода поиска — Rerank v5. Запрос эмбеддингов — в формате OpenAI, оплата в рублях за токены входа.
- 7 моделей
- от 2,12 ₽ за 1 млн токенов
Обновлено:
Модели и цены
Эмбеддинги
| Модель | Вендор | Размер вектора | Цена |
|---|---|---|---|
| Cohere Embed v4 | Cohere | 1 536 | 12,71 ₽ за 1 млн токенов |
| Cohere Embed Multilingual v3 | Cohere | 1 024 | 10,60 ₽ за 1 млн токенов |
| Cohere Embed English v3 | Cohere | 1 024 | 10,60 ₽ за 1 млн токенов |
Переранжирование
| Модель | Вендор | Документов за раз | Цена |
|---|---|---|---|
| Cohere Rerank v5 Pro | Cohere | до 1 000 | 5,30 ₽ за 1 млн токенов |
| Cohere Rerank v4 Fast | Cohere | до 1 000 | 211,81 ₽ за 1000 поисков |
| Cohere Rerank v4 Pro | Cohere | до 1 000 | 264,76 ₽ за 1000 поисков |
| Cohere Rerank v5 Fast | Cohere | до 1 000 | 2,12 ₽ за 1 млн токенов |
Сейчас недоступны
Запросы к этим моделям сейчас не проходят и денег не стоят. Цены — последние известные.
- Command A+ — 84,73 ₽ / 338,89 ₽ за 1 млн токенов
Как выбрать
Эмбеддинг простыми словами — адрес текста на карте смыслов. «Вернуть деньги за заказ» и «оформить возврат средств» живут в одном районе, а «погода в Сочи» — на другом конце города. Поиск по таким адресам находит ответ, даже если в вопросе нет ни одного слова из документа.
Какую embedding модель взять, зависит от базы и языков, но сначала об устройстве: обычно поиск идёт в два прохода. Векторы отбирают десятки похожих кусков, а rerank читает каждый кусок вместе с вопросом и расставляет их по порядку. Первый проход широкий, второй — точный.
- Длина куска. Cohere Embed v4 принимает до 128 тысяч токенов на строку, Embed Multilingual v3 — до 512. Для v3 базу режут на абзацы; для v4 можно брать раздел целиком, хотя для точного поиска короткие куски всё равно удобнее.
- Языки. У Multilingual v3 больше 100 языков, русский в списке. Для Embed v4 Cohere языки на странице модели не перечисляет: если база на русском, проверь поиск на своих примерах, прежде чем считать векторы для всей базы.
- Размер вектора. У Embed v4 вектор из 1536 чисел, у Multilingual v3 — из 1024. Чем больше чисел, тем больше места в базе и памяти у сервера поиска. Через наш API размер вектора не меняется.
- Тип текста. Cohere просит указывать, что ты кодируешь: для документов базы нужен
search_document, для вопросов людей —search_query, для классификации и кластеров —classificationиclustering. Если поле не передать, мы ставимsearch_document. В SDK OpenAI полеinput_typeпередают черезextra_body. - Rerank: Pro или Fast. У Cohere Rerank v5 Pro около 2 млрд параметров, она для сложных вопросов и длинных документов. У Rerank v5 Fast около 500 млн, она для потока, где важна задержка. У обеих 32 768 токенов на пару «вопрос + документ» и больше 100 языков, причём русский входит в число тех, на которые Cohere делала упор. Каждый документ получает оценку от 0 до 1.
- Чего нет. Эмбеддингов OpenAI и Google мы не продаём. Картинки в эмбеддинги через наш API тоже не принимаем, только текст, хотя сам Embed v4 у Cohere их понимает.
Шпаргалка по случаям:
- база знаний на русском и английском — Embed Multilingual v3 и Rerank v5 Pro;
- длинные документы, которые не хочется резать, — Embed v4, после проверки на своих текстах;
- поиск по ключевым словам уже работает — добавь поверх Rerank v5, переиндексировать базу не нужно;
- ответ человеку по найденным кускам — чат-модель: Command A+ от того же Cohere или любая из языковых моделей по API.
Популярные задачи
База знаний поддержки и RAG
Статьи помощи режут на куски по абзацу-два и считают векторы с input_type search_document. Вопрос клиента кодируют с search_query, достают из базы 20–30 ближайших кусков, Rerank v5 Pro оставляет из них пять самых подходящих, и уже их получает чат-модель с указанием отвечать только по ним. Если даже у первого куска низкая оценка, бот честно говорит «не знаю» и зовёт оператора: такой приём с порогом оценки Cohere описывает прямо в документации rerank.
Пример запроса: «Можно ли вернуть обувь без чека?» и 30 кусков из правил возврата.
Поиск по каталогу своими словами
Покупатель пишет «куртка, чтобы не продувало на остановке», а в карточке — «ветрозащитная парка». Поиск по словам их не сведёт, а эмбеддинги сведут. Если каталог на нескольких языках, начни с Embed Multilingual v3 и проверь, находит ли запрос по-русски товар с английским описанием. Если поиск по словам уже есть, не выбрасывай его: Rerank v5 переупорядочит его выдачу по смыслу без переиндексации.
Пример запроса: «куртка, чтобы не продувало на остановке» и 50 карточек из первой выдачи.
Дубли и похожие обращения
В поддержку пишут об одном и том же разными словами. Векторы с input_type clustering собирают такие обращения в группы, и становится видно, если десятки людей жалуются на одну поломку. Так же ищут дубли вопросов в базе знаний и повторы отзывов. Порог похожести подбирают на своих данных: возьми сотню пар, размеченных вручную, и посмотри, где проходит граница между «то же самое» и «другое».
Разбор отзывов и заявок по темам
Векторы с input_type classification — сырьё для простого классификатора: «доставка», «качество», «возврат», «вопрос по оплате». Начни с нескольких сотен размеченных примеров и логистической регрессии поверх векторов, и чат-модель для каждого отзыва звать не придётся. Новый отзыв тогда стоит один вектор, а не целый ответ языковой модели.
Рекомендации похожих статей и товаров
Векторы всех статей считают один раз и хранят у себя. Блок «Похожие статьи» — это пять ближайших векторов к текущей статье, и для него не нужен новый запрос к API. Пересчитывать придётся только новые и изменённые тексты, а старые векторы служат, пока не сменишь модель.
Как подключить
Вместо sk-vsl-ТВОЙ_КЛЮЧ — ключ из кабинета. Ответ придёт в формате OpenAI. Пример — с моделью Cohere Embed v4: у других моделей меняется только model.
curl
curl https://veselo.ai/v1/embeddings \
-H "Authorization: Bearer sk-vsl-ТВОЙ_КЛЮЧ" \
-H "Content-Type: application/json" \
-d '{
"model": "cohere/embed-v4.0",
"input": ["Как вернуть деньги за заказ?", "Доставка по Москве занимает 1–2 дня."]
}'Python
from openai import OpenAI # pip install openai
client = OpenAI(base_url="https://veselo.ai/v1", api_key="sk-vsl-ТВОЙ_КЛЮЧ")
r = client.embeddings.create(
model="cohere/embed-v4.0",
input=["Как вернуть деньги за заказ?", "Доставка по Москве занимает 1–2 дня."],
)
print(len(r.data), len(r.data[0].embedding)) # сколько векторов и их длинаJavaScript
import OpenAI from 'openai'; // npm i openai
const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: 'sk-vsl-ТВОЙ_КЛЮЧ' });
const r = await client.embeddings.create({
model: 'cohere/embed-v4.0',
input: ['Как вернуть деньги за заказ?', 'Доставка по Москве занимает 1–2 дня.'],
});
console.log(r.data.length, r.data[0].embedding.length); // сколько векторов и их длинаВ программах: тем же ключом и по тому же адресу, что остальные модели, — из любого HTTP-клиента или библиотеки openai. Библиотеки и программы
Вопросы и ответы
- Что такое эмбеддинг простыми словами?
- Это ряд чисел, которым модель описывает смысл текста. Похожие по смыслу фразы получают похожие ряды, поэтому программа ищет тексты по смыслу, а не по совпадению слов. Векторный эмбеддинг и вектор эмбеддинга — два названия одного и того же числового ряда.
- Можно ли уменьшить вектор Embed v4?
- Через наш API — нет: вектор Embed v4 всегда из 1536 чисел. Поле
dimensionsможно передать, только если оно равно этой длине, а запрос с другим размером вернёт ошибку 400. Если места в базе жалко, возьми Multilingual v3 с вектором из 1024 чисел: она к тому же понимает русский. - Есть ли эмбеддинги OpenAI и Google?
- Нет: эти компании не работают с Россией, и эмбеддинги у нас только от Cohere. Если база уже посчитана чужой моделью, её придётся пересчитать: векторы разных моделей между собой не сравнивают.
- Как получить эмбеддинги на Python?
- Через официальный SDK openai с адресом
https://veselo.ai/v1:client.embeddings.create(model="cohere/embed-v4.0", input=[…]). Полеinput_typeпередай вextra_body:search_documentдля текстов базы иsearch_queryдля вопросов. Строк в одном запросе может быть до 96. - Где хранить векторы?
- У себя: в PostgreSQL с pgvector, в Qdrant, Elasticsearch или другой векторной базе. Мы векторы не храним: API считает их и сразу отдаёт в ответе вместе с ценой запроса в
usage.cost_rub. - Сколько стоит проиндексировать базу знаний?
- Эмбеддинги считаются только за вход, за 1 млн токенов. Прикинь объём: в русском тексте токен — примерно 2–4 знака, так что база на 10 млн знаков — это 2,5–5 млн токенов. Умножь на цену из таблицы. Дальше платишь только за новые и изменённые куски и за вопросы людей.
- Сколько документов отправлять в rerank за раз?
- Cohere советует не больше 1000 в одном запросе. В цену rerank идут токены и вопроса, и документов, поэтому чем короче куски, тем дешевле второй проход. Для начала отправляй в rerank 20–50 кандидатов из первого прохода и смотри, меняется ли порядок.
- Нужны ли VPN и зарубежная карта?
- Нет. Запросы идут на https://veselo.ai/v1, а API-счёт пополняется в рублях — картой российского банка или по СБП.
- Сколько стоит запрос, который закончился ошибкой?
- Нисколько: ошибка нейросети денег не стоит, удержание на время запроса снимается целиком.
Ещё по теме
Факты сверены 16 ноября 2026 по документации: docs.cohere.com