Весело
Весело

Вызов функций (tools)

Function calling через OpenAI-совместимый API: как описать функции, получить вызов от модели, вернуть результат и ответ. Примеры на Python и JS.

Обновлено:

Модель может попросить твою программу выполнить функцию — найти заказ, посчитать, сходить в базу — и ответить с учётом результата. Сама модель ничего не выполняет: она возвращает имя функции и аргументы, а вызывает функцию твоя программа.

  1. Опиши функции в tools: имя, описание и параметры в JSON Schema.
  2. Если модель решила вызвать функцию, в ответе будет finish_reason: "tool_calls" и список message.tool_calls. Аргументы — JSON-строка в function.arguments.
  3. Выполни функции. Добавь в messages ответ модели с tool_calls, а за ним на каждый вызов сообщение {"role": "tool", "tool_call_id": …, "content": …} с результатом.
  4. Отправь запрос ещё раз — модель ответит текстом или попросит новые вызовы.

Python

import json
import os
from openai import OpenAI

client = OpenAI(base_url="https://veselo.ai/v1", api_key=os.environ["VESELO_API_KEY"])


def get_weather(city):
    # здесь твой настоящий код: запрос в сервис погоды, в базу и т. п.
    return {"city": city, "temp_c": 7, "sky": "облачно"}


FUNCTIONS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Погода в городе сейчас",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string", "description": "Город, например Казань"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "Какая сейчас погода в Казани?"}]

for _ in range(5):  # не больше 5 кругов
    r = client.chat.completions.create(model="deepseek/deepseek-v4.1-flash-ultrafast", messages=messages, tools=tools, max_tokens=500)
    msg = r.choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append({
        "role": "assistant",
        "content": msg.content or "",
        "tool_calls": [
            {"id": c.id, "type": "function", "function": {"name": c.function.name, "arguments": c.function.arguments}}
            for c in msg.tool_calls
        ],
    })
    for c in msg.tool_calls:
        args = json.loads(c.function.arguments or "{}")
        result = FUNCTIONS[c.function.name](**args)
        messages.append({"role": "tool", "tool_call_id": c.id, "content": json.dumps(result, ensure_ascii=False)})

JavaScript

import OpenAI from 'openai';

const client = new OpenAI({ baseURL: 'https://veselo.ai/v1', apiKey: process.env.VESELO_API_KEY });

// здесь твой настоящий код: запрос в сервис погоды, в базу и т. п.
const functions = {
  get_weather: ({ city }) => ({ city, temp_c: 7, sky: 'облачно' }),
};
const tools = [{
  type: 'function',
  function: {
    name: 'get_weather',
    description: 'Погода в городе сейчас',
    parameters: {
      type: 'object',
      properties: { city: { type: 'string', description: 'Город, например Казань' } },
      required: ['city'],
    },
  },
}];
const messages = [{ role: 'user', content: 'Какая сейчас погода в Казани?' }];

for (let round = 0; round < 5; round++) { // не больше 5 кругов
  const r = await client.chat.completions.create({ model: 'deepseek/deepseek-v4.1-flash-ultrafast', messages, tools, max_tokens: 500 });
  const msg = r.choices[0].message;
  if (!msg.tool_calls?.length) {
    console.log(msg.content);
    break;
  }
  messages.push({ role: 'assistant', content: msg.content ?? '', tool_calls: msg.tool_calls });
  for (const call of msg.tool_calls) {
    const args = JSON.parse(call.function.arguments || '{}');
    const result = functions[call.function.name](args);
    messages.push({ role: 'tool', tool_call_id: call.id, content: JSON.stringify(result) });
  }
}

Ответ с вызовом

{
  "id": "chatcmpl-req_0c4f6e2a9b1d4e8f8a7b6c5d4e3f2a1b",
  "object": "chat.completion",
  "model": "deepseek/deepseek-v4.1-flash-ultrafast",
  "choices": [
    {
      "index": 0,
      "finish_reason": "tool_calls",
      "message": {
        "role": "assistant",
        "content": "",
        "tool_calls": [
          {
            "id": "call_0_7c1d2e3f",
            "type": "function",
            "function": { "name": "get_weather", "arguments": "{\"city\": \"Казань\"}" }
          }
        ]
      }
    }
  ],
  "usage": { "prompt_tokens": 151, "completion_tokens": 19, "total_tokens": 170, "cost_rub": 0.01 }
}

Параметры

ПараметрЧто делает
toolsсписок функций: {"type": "function", "function": {"name", "description", "parameters"}}
tool_choiceauto — модель решает сама (по умолчанию), none — без вызовов, required — вызвать обязательно, {"type": "function", "function": {"name": "…"}} — вызвать эту функцию
parallel_tool_callsfalse — не больше одного вызова за раз

Что важно

  • Функции понимают не все модели: нужно tools в supported_parameters модели.
  • Каждый круг — отдельный платный запрос, и описание функций каждый раз входит во вход. Описывай функции коротко.
  • Проверяй аргументы: модель может прислать неверный JSON или выдумать значение.
  • Ограничивай число кругов, чтобы программа не зациклилась.
  • Старые поля functions и function_call не поддерживаются — только tools.
  • В потоке вызовы приходят частями в delta.tool_calls: склеивай function.arguments по полю index.

← Стриминг · Ответ в JSON →

Вся документация одним текстом · Все модели и цены