함수 호출

함수 호출을 이용하면 모델이 애플리케이션이 실행할 수 있는 구조화된 도구 호출을 선택할 수 있습니다. 모델 자체가 함수를 실행하지는 않습니다. 함수 이름과 인수를 반환하면, 여러분의 코드가 함수를 실행하고 그 결과를 모델에 돌려 보냅니다. 모델이 실시간 데이터, 애플리케이션 동작, 데이터베이스 조회 또는 결정적인 계산을 필요로 할 때 함수 호출을 사용하세요.

기본 도구 정의

OpenAI 호환 tools 배열로 도구를 정의합니다:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the current weather in a location",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "City and state, such as San Francisco, CA",
                    }
                },
                "required": ["location"],
            },
        },
    }
]

response = client.chat.completions.create(
    model="zai-org-glm-5",
    messages=[{"role": "user", "content": "What is the weather in San Francisco?"}],
    tools=tools,
)

print(response.choices[0].message.tool_calls)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.VENICE_API_KEY,
  baseURL: "https://api.venice.ai/api/v1",
});

const tools = [
  {
    type: "function",
    function: {
      name: "get_weather",
      description: "Get the current weather in a location",
      parameters: {
        type: "object",
        properties: {
          location: {
            type: "string",
            description: "City and state, such as San Francisco, CA",
          },
        },
        required: ["location"],
      },
    },
  },
];

const response = await client.chat.completions.create({
  model: "zai-org-glm-5",
  messages: [{ role: "user", content: "What is the weather in San Francisco?" }],
  tools,
});

console.log(response.choices[0].message.tool_calls);

curl https://api.venice.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "zai-org-glm-5",
    "messages": [
      {"role": "user", "content": "What is the weather in San Francisco?"}
    ],
    "tools": [
      {
        "type": "function",
        "function": {
          "name": "get_weather",
          "description": "Get the current weather in a location",
          "parameters": {
            "type": "object",
            "properties": {
              "location": {
                "type": "string",
                "description": "City and state, such as San Francisco, CA"
              }
            },
            "required": ["location"]
          }
        }
      }
    ]
  }'

도구 실행하기

모델이 도구를 선택하면 message.tool_calls를 확인하고 인수를 파싱한 뒤 애플리케이션 함수를 실행하고, 그 결과를 tool 메시지로 다시 전송합니다.

Python

import json

message = response.choices[0].message
tool_call = message.tool_calls[0]
arguments = json.loads(tool_call.function.arguments)

weather = get_weather(arguments["location"])

follow_up = client.chat.completions.create(
    model="zai-org-glm-5",
    messages=[
        {"role": "user", "content": "What is the weather in San Francisco?"},
        message.model_dump(),
        {
            "role": "tool",
            "tool_call_id": tool_call.id,
            "content": json.dumps(weather),
        },
    ],
    tools=tools,
)

print(follow_up.choices[0].message.content)

모델 선택

함수 호출 지원은 모델에 따라 다릅니다. supportsFunctionCalling이 지원되는 모델을 찾으려면 텍스트 모델 페이지나 Models API를 이용하세요.

도구 인수는 신뢰할 수 없는 입력으로 간주하세요. 데이터베이스 쿼리, 쉘 명령, 결제 또는 기타 부작용이 있는 작업에 사용하기 전에 인수를 검증하세요.

한 걸음 더 나아가기

위 예시는 한 번의 왕복에서 멈춥니다. 실제 에이전트는 계속 진행합니다. 모델이 답을 내놓기 전에 대개 여러 도구가 필요하기 때문입니다. 함수 호출로 도구를 활용하는 에이전트 만들기에서는 모델이 한 번도 본 적 없는 데이터베이스를 상대로 전체 루프를 실행해 봅니다. 병렬 도구 호출, 모델이 스스로 복구하는 오류 반환, 그리고 모델이 거절하는 경우와 가드가 거부하는 경우의 차이를 다룹니다.

설계 팁

도구 이름과 설명은 짧고 명확하게 유지하세요.
JSON Schema를 사용해 모델이 유효한 인수를 만들기 쉽도록 하세요.
여러 선택적 동작을 가진 하나의 광범위한 도구보다는 입력이 명확한 좁은 도구를 선호하세요.
도구 결과는 간결하게 반환해 최종 답변이 토큰 낭비 없이 충분한 컨텍스트를 갖도록 하세요.

문서

시작하기

텍스트 및 채팅

이미지

비디오

오디오

검색 및 RAG

에이전트 및 통합

코딩 도구

에이전트 도구

SDK 및 프레임워크

기본 도구 정의

도구 실행하기

모델 선택

한 걸음 더 나아가기

설계 팁

관련 리소스

​기본 도구 정의

​도구 실행하기

​모델 선택

​한 걸음 더 나아가기

​설계 팁

​관련 리소스

기본 도구 정의

도구 실행하기

모델 선택

한 걸음 더 나아가기

설계 팁

관련 리소스