Chamadas de ferramentas

Definir uma ferramenta

{
  "model": "YOUR_APPROVED_MODEL_ID",
  "messages": [
    {
      "role": "user",
      "content": "What is the weather in Paris?"
    }
  ],
  "max_tokens": 256,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Look up weather for a city",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string"
            }
          },
          "required": [
            "city"
          ]
        }
      }
    }
  ],
  "tool_choice": "auto"
}

Executar o ciclo de ferramentas

1. Leia os tool_calls do assistente na resposta.
2. Valide a função e os argumentos solicitados na sua própria aplicação.
3. Obtenha a autorização necessária para a ação e depois execute a ferramenta.
4. Envie o resultado da ferramenta de volta com o tool_call_id correspondente.

O gateway retransmite definições e resultados de ferramentas. Ele não executa ferramentas. Trate a saída do modelo e os argumentos das ferramentas como entradas não confiáveis.

Erros de capacidades

Um modelo sem suporte verificado a ferramentas retorna um erro unsupported_capability quando são fornecidas ferramentas ou mensagens de ferramentas. Consulte o catálogo antes de ativar o modo de ferramentas de um cliente.