Llamadas a herramientas
Envía definiciones de funciones solo a un modelo cuyos metadatos del catálogo incluyan explícitamente compatibilidad con herramientas.
Definir una herramienta
Solicitud de chat
{
"model": "YOUR_APPROVED_MODEL_ID",
"messages": [
{
"role": "user",
"content": "What is the weather in Paris?"
}
],
"max_tokens": 256,
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Look up weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string"
}
},
"required": [
"city"
]
}
}
}
],
"tool_choice": "auto"
} Ejecutar el ciclo de herramientas
- Lee los tool_calls del asistente en la respuesta.
- Valida la función y los argumentos solicitados en tu propia aplicación.
- Obtén la autorización necesaria para la acción y después ejecuta la herramienta.
- Devuelve el resultado de la herramienta con el tool_call_id correspondiente.
La pasarela retransmite las definiciones y los resultados de las herramientas. No ejecuta herramientas. Trata la salida del modelo y los argumentos de las herramientas como entradas no confiables.
Errores de capacidades
Un modelo sin compatibilidad verificada con herramientas devuelve un error unsupported_capability cuando se proporcionan herramientas o mensajes de herramientas. Consulta el catálogo antes de activar el modo de herramientas de un cliente.