Вызов функций (tools)
Function calling через OpenAI-совместимый API: как описать функции, получить вызов от модели, вернуть результат и ответ. Примеры на Python и JS.
Обновлено:
Модель может попросить твою программу выполнить функцию — найти заказ, посчитать, сходить в базу — и ответить с учётом результата. Сама модель ничего не выполняет: она возвращает имя функции и аргументы, а вызывает функцию твоя программа.
- Опиши функции в
tools: имя, описание и параметры в JSON Schema. - Если модель решила вызвать функцию, в ответе будет
finish_reason: "tool_calls"и списокmessage.tool_calls. Аргументы — JSON-строка вfunction.arguments. - Выполни функции. Добавь в
messagesответ модели сtool_calls, а за ним на каждый вызов сообщение{"role": "tool", "tool_call_id": …, "content": …}с результатом. - Отправь запрос ещё раз — модель ответит текстом или попросит новые вызовы.
Python
import json
import os
from openai import OpenAI
client = OpenAI(base_url="https://veselo.ai/v1", api_key=os.environ["VESELO_API_KEY"])
def get_weather(city):
# здесь твой настоящий код: запрос в сервис погоды, в базу и т. п.
return {"city": city, "temp_c": 7, "sky": "облачно"}
FUNCTIONS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Погода в городе сейчас",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string", "description": "Город, например Казань"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "Какая сейчас погода в Казани?"}]
for _ in range(5): # не больше 5 кругов
r = client.chat.completions.create(model="deepseek/deepseek-v4.1-flash-ultrafast", messages=messages, tools=tools, max_tokens=500)
msg = r.choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append({
"role": "assistant",
"content": msg.content or "",
"tool_calls": [
{"id": c.id, "type": "function", "function": {"name": c.function.name, "arguments": c.function.arguments}}
for c in msg.tool_calls
],
})
for c in msg.tool_calls:
args = json.loads(c.function.arguments or "{}")
result = FUNCTIONS[c.function.name](**args)
messages.append({"role": "tool", "tool_call_id": c.id, "content": json.dumps(result, ensure_ascii=False)})JavaScript
import OpenAI from 'openai';
const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: process.env.VESELO_API_KEY });
// здесь твой настоящий код: запрос в сервис погоды, в базу и т. п.
const functions = {
get_weather: ({ city }) => ({ city, temp_c: 7, sky: 'облачно' }),
};
const tools = [{
type: 'function',
function: {
name: 'get_weather',
description: 'Погода в городе сейчас',
parameters: {
type: 'object',
properties: { city: { type: 'string', description: 'Город, например Казань' } },
required: ['city'],
},
},
}];
const messages = [{ role: 'user', content: 'Какая сейчас погода в Казани?' }];
for (let round = 0; round < 5; round++) { // не больше 5 кругов
const r = await client.chat.completions.create({ model: 'deepseek/deepseek-v4.1-flash-ultrafast', messages, tools, max_tokens: 500 });
const msg = r.choices[0].message;
if (!msg.tool_calls?.length) {
console.log(msg.content);
break;
}
messages.push({ role: 'assistant', content: msg.content ?? '', tool_calls: msg.tool_calls });
for (const call of msg.tool_calls) {
const args = JSON.parse(call.function.arguments || '{}');
const result = functions[call.function.name](args);
messages.push({ role: 'tool', tool_call_id: call.id, content: JSON.stringify(result) });
}
}Ответ с вызовом
{
"id": "chatcmpl-req_0c4f6e2a9b1d4e8f8a7b6c5d4e3f2a1b",
"object": "chat.completion",
"model": "deepseek/deepseek-v4.1-flash-ultrafast",
"choices": [
{
"index": 0,
"finish_reason": "tool_calls",
"message": {
"role": "assistant",
"content": "",
"tool_calls": [
{
"id": "call_0_7c1d2e3f",
"type": "function",
"function": { "name": "get_weather", "arguments": "{\"city\": \"Казань\"}" }
}
]
}
}
],
"usage": { "prompt_tokens": 151, "completion_tokens": 19, "total_tokens": 170, "cost_rub": 0.01 }
}Параметры
| Параметр | Что делает |
|---|---|
tools | список функций: {"type": "function", "function": {"name", "description", "parameters"}} |
tool_choice | auto — модель решает сама (по умолчанию), none — без вызовов, required — вызвать обязательно, {"type": "function", "function": {"name": "…"}} — вызвать эту функцию |
parallel_tool_calls | false — не больше одного вызова за раз |
Что важно
- Функции понимают не все модели: нужно
toolsвsupported_parametersмодели. - Каждый круг — отдельный платный запрос, и описание функций каждый раз входит во вход. Описывай функции коротко.
- Проверяй аргументы: модель может прислать неверный JSON или выдумать значение.
- Ограничивай число кругов, чтобы программа не зациклилась.
- Старые поля
functionsиfunction_callне поддерживаются — толькоtools. - В потоке вызовы приходят частями в
delta.tool_calls: склеивайfunction.argumentsпо полюindex.