Llama API: модели Meta
Llama — открытые модели Meta, и у нас есть три из них: Llama 4 Maverick, Llama 4 Scout и Llama 3.3 70B. У обеих Llama 4 по 17 млрд активных параметров и картинки на входе, а Scout, по данным Meta, держит до 10 млн токенов контекста. Скачивать веса и искать сервер не нужно: модели работают по нашему ключу, оплата в рублях.
- 3 модели
- от 21,19 ₽ за 1 млн токенов входа
- текст
Обновлено:
Модели и цены
| Модель | Контекст | Вход | Выход |
|---|---|---|---|
| Llama 4 Maverick | 1 млн | 26,48 ₽ | 105,91 ₽ |
| Llama 3.3 70B | 128 тыс. | 75,19 ₽ | 75,19 ₽ |
| Llama 4 Scout | 10 млн | 21,19 ₽ | 82,61 ₽ |
Как выбрать
Три модели Llama различаются не только размером, но и тем, что они видят и сколько помнят.
- Llama 4 Maverick — 400 млрд параметров, 17 млрд активных, 128 экспертов, контекст 1 млн токенов. На входе текст и до пяти картинок, на выходе текст. Наша версия с весами FP8: Meta выпустила Maverick сразу в двух видах, BF16 и FP8, и пишет, что сжатые веса сохраняют качество.
- Llama 4 Scout — 109 млрд параметров, те же 17 млрд активных и 16 экспертов. Контекст, по данным Meta, до 10 млн токенов. Картинки тоже понимает.
- Llama 3.3 70B — модель от 6 декабря 2024 года на 70 млрд параметров: только текст, контекст 128 тысяч, вызов инструментов.
Главное, что нужно знать до выбора, — языки. В официальном списке Llama 4 двенадцать языков: арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский. У Llama 3.3 их восемь. Русского нет ни там, ни там, а понимание картинок Meta заявляет только для английского. Ответить по-русски модель может, но Meta такое качество не обещает. Если основной язык проекта русский, сравни Llama с другими языковыми моделями на своих запросах.
Ещё одна деталь — свежесть знаний. Обучающие данные Llama 4 заканчиваются августом 2024 года, Llama 3.3 — декабрём 2023-го. О событиях позже модель знает только то, что ты передашь в запросе.
Если выбирать по задаче: фото товаров и длинные переписки на английском — Maverick; огромные выгрузки, где важнее объём, чем глубина, — Scout; старый бот на Llama 3 с вызовом функций — Llama 3.3 70B.
Популярные задачи
Тексты и ответы на английском
Английский у Llama в официальном списке, поэтому её удобно брать для писем зарубежным клиентам, описаний товаров для иностранных площадок и ответов в англоязычной поддержке. Maverick справится с длинной перепиской целиком, а для коротких писем хватит и Llama 3.3 70B. Задание тоже пиши на английском: так весь запрос остаётся на языке из официального списка Meta.
Описания к фото товаров
Покажи Maverick до пяти фото одного товара и попроси описание для карточки: материал, цвет, назначение, три коротких преимущества. Учти, что Meta заявляет понимание картинок только на английском, так что и описание проси на английском. Как прикрепить картинки к сообщению, написано в разделе картинки во входе.
Огромные журналы и выгрузки
Scout по документации Meta держит до 10 млн токенов. Это тот случай, когда в один запрос помещается выгрузка за долгий срок, а не отдельный кусок. Сколько контекста модель принимает у нас, видно в её карточке, в поле context_length: вход вместе с ответом должен уложиться в него.
Переезд с локальной Llama на API
Если модель сейчас крутится на своём сервере и программа на Python ходит к ней по адресу в формате OpenAI, переезд обычно сводится к двум строкам: новый адрес и ключ. Роли сообщений, параметры и описание функций остаются прежними. Сервер с видеокартой можно выключить и платить только за токены.
Вызов функций в старом коде на Llama 3
Llama 3.3 70B поддерживает вызов инструментов, а по линейке Llama 3 это самая поздняя модель у нас. Если бот или агент собран на Llama 3, переход на 3.3 70B проходит без смены формата: описание функций передаётся полем tools (вызов инструментов).
Как получить ключ Llama API в России
- На veselo.ai открой кабинет API и выпусти ключ. Скопируй его сразу и положи в переменную окружения, а не в код.
- Деньги на запросы лежат на отдельном API-счёте: открой кошелёк кабинета и заплати картой российского банка или по СБП.
- В SDK OpenAI для Python задай
base_url="https://veselo.ai/v1", ключ и модель, напримерmeta-llama/llama-3.3-70b-instruct. Больше ничего менять не нужно.
Запросы с картинками для Llama 4 отправляются так же, как в API OpenAI: картинка лежит в сообщении рядом с текстом.
Как подключить
Вместо sk-vsl-ТВОЙ_КЛЮЧ — ключ из кабинета. Ответ придёт в формате OpenAI. Пример — с моделью Llama 4 Maverick: у других моделей меняется только model.
curl
curl https://veselo.ai/v1/chat/completions \
-H "Authorization: Bearer sk-vsl-ТВОЙ_КЛЮЧ" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/llama-4-maverick-17b-128e-instruct-fp8",
"messages": [{"role": "user", "content": "Привет! Объясни в двух предложениях, что такое API."}]
}'Python
from openai import OpenAI # pip install openai
client = OpenAI(base_url="https://veselo.ai/v1", api_key="sk-vsl-ТВОЙ_КЛЮЧ")
r = client.chat.completions.create(
model="meta-llama/llama-4-maverick-17b-128e-instruct-fp8",
messages=[{"role": "user", "content": "Привет! Объясни в двух предложениях, что такое API."}],
)
print(r.choices[0].message.content)JavaScript
import OpenAI from 'openai'; // npm i openai
const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: 'sk-vsl-ТВОЙ_КЛЮЧ' });
const r = await client.chat.completions.create({
model: 'meta-llama/llama-4-maverick-17b-128e-instruct-fp8',
messages: [{ role: 'user', content: 'Привет! Объясни в двух предложениях, что такое API.' }],
});
console.log(r.choices[0].message.content);В программах: OpenAI SDK, Cursor и n8n — по адресу и ключу, Claude Code — через формат Anthropic, Claude и ChatGPT — через MCP. Библиотеки и программы · Claude Code · MCP
Версии и отличия
- Llama 4 и Llama 3.3. Llama 4 — смеси экспертов с картинками на входе и длинным контекстом. Llama 3.3 70B работает только с текстом, зато её поведение хорошо знакомо тем, кто уже строил ботов на Llama 3.
- Maverick и Scout. У Maverick 128 экспертов и миллион токенов контекста, у Scout 16 экспертов и до 10 млн токенов.
- Что значит FP8 в id. Это сжатые веса Maverick, которые Meta выпустила вместе с обычными BF16.
- Чего у нас нет. Llama 3.1, Llama 3.2 и Code Llama в каталоге не продаются.
Вопросы и ответы
- Можно ли писать Llama по-русски?
- В официальных списках Meta русского нет: у Llama 4 двенадцать языков, у Llama 3.3 восемь. Модель может ответить по-русски, но Meta за качество такого ответа не ручается. Для проекта на русском сравни Llama с другими моделями на своих запросах.
- Есть ли Llama 3.1 и 3.2?
- Нет. Из линейки Llama 3 у нас есть Llama 3.3 70B, более поздняя версия. Код под Llama 3.1 обычно переносится на неё заменой имени модели.
- Сколько картинок принимает Llama 4?
- По таблице Meta — до пяти картинок в одном запросе, на выходе только текст. Понимание картинок Meta заявляет на английском.
- Можно ли использовать Llama в коммерческом продукте?
- У Llama свои лицензии: Llama 4 Community License Agreement и Llama 3.3 Community License Agreement. Meta называет их отдельными коммерческими лицензиями со своими условиями, прочитай их на странице модели до запуска.
- Какой контекст у Llama 4 Scout на самом деле?
- Meta указывает до 10 млн токенов. У нас же действует предел, записанный в карточке модели: всё отправленное плюс ответ должны в него уложиться. Для длинных запросов ставь
max_tokens, чтобы удержание на счёте не выросло. - Maverick или Scout: что взять для чат-бота?
- Maverick крупнее: 400 млрд параметров и 128 экспертов против 109 млрд и 16 у Scout. Зато Scout по данным Meta принимает в десять раз больше контекста. Для бота с обычными вопросами начни с Maverick, а Scout бери, когда в каждый запрос уходят огромные документы.
- Зачем API, если веса Llama можно скачать?
- Maverick весит 400 млрд параметров, и даже в сжатом виде ей нужен сервер с несколькими видеокартами. По API модель отвечает сразу, без железа и настройки, а платишь за токены.
- Нужны ли VPN и зарубежная карта?
- Нет. Запросы идут на https://veselo.ai/v1, а API-счёт пополняется в рублях — картой российского банка или по СБП.
- Сколько стоит запрос, который закончился ошибкой?
- Нисколько: ошибка нейросети денег не стоит, удержание на время запроса снимается целиком.
Ещё по теме
Факты сверены 16 ноября 2026 по документации: dev.meta.ai, huggingface.co