Leer el uso y el costo

Cada respuesta exitosa de Zeabur AI Hub trae dos datos que normalmente le interesan: cuántos tokens se consumieron y cuánto costó la solicitud. Esta página le muestra dónde encontrarlos para que pueda conectarlos a sus propios paneles, aplicar límites de presupuesto por usuario o simplemente verificar los precios mientras desarrolla.

Dos maneras de obtener los datos

Cada respuesta exitosa trae ambos, así que no tiene que elegir: use el que encaje mejor con su código.

Leer los headers

Cada respuesta incluye un conjunto de headers con el prefijo x-litellm-:

curl

curl -i https://hnd1.aihub.zeabur.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_ZEABUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-4-5",
    "messages": [{"role": "user", "content": "Hola"}],
    "max_tokens": 32
  }'

La opción -i imprime los headers de la respuesta — busque la línea x-litellm-response-cost.

Python

El SDK oficial de OpenAI no expone los headers de respuesta al código de usuario. Si necesita el costo desde los headers, use httpx directamente:

import httpx
 
r = httpx.post(
    "https://hnd1.aihub.zeabur.ai/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_ZEABUR_API_KEY"},
    json={
        "model": "claude-sonnet-4-5",
        "messages": [{"role": "user", "content": "Hola"}],
        "max_tokens": 32,
    },
    timeout=60.0,
)
print("costo (USD):", r.headers.get("x-litellm-response-cost"))
print("usage:", r.json()["usage"])

Leer el objeto usage del body

El objeto usage en el body sigue el formato de OpenAI. Para modelos de Anthropic y OpenAI aparecen campos adicionales cuando corresponde:

{
  "usage": {
    "prompt_tokens": 1024,
    "completion_tokens": 256,
    "total_tokens": 1280,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0
  }
}

Respuestas en streaming

En modo streaming, el objeto usage solo aparece en un chunk final si lo habilita explícitamente. Agregue stream_options.include_usage: true a la solicitud:

import httpx, json
 
with httpx.stream(
    "POST",
    "https://hnd1.aihub.zeabur.ai/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_ZEABUR_API_KEY"},
    json={
        "model": "claude-sonnet-4-5",
        "messages": [{"role": "user", "content": "Hola"}],
        "max_tokens": 32,
        "stream": True,
        "stream_options": {"include_usage": True},
    },
    timeout=60.0,
) as r:
    final_usage = None
    for line in r.iter_lines():
        if not line.startswith("data: "):
            continue
        payload = line[len("data: "):]
        if payload == "[DONE]":
            break
        chunk = json.loads(payload)
        if chunk.get("usage"):
            final_usage = chunk["usage"]
        # ...su procesamiento de chunks existente...
    print("usage final:", final_usage)

Sin stream_options.include_usage, la respuesta en streaming no incluye ningún objeto usage.

Rastrear una solicitud específica

Para investigar una solicitud concreta a posteriori — por ejemplo, para diagnosticar una respuesta inesperada, conciliar un cargo o correlacionarla con los registros de su aplicación — utilice el ID de la completación devuelto en el body de la respuesta como id:

resp = client.chat.completions.create(...)
print("request id:", resp.id)
# chatcmpl-715764bf-675d-4d95-bbdc-80c037c8ce3f

En el Zeabur Dashboard, abra la página de AI Hub, despliegue el log diario correspondiente y haga clic en el icono de información de cualquier fila. El diálogo de detalles muestra el Request ID junto con un botón de copia; este valor coincide exactamente con response.id.

Las respuestas servidas desde caché incluyen un sufijo derivado

Cuando LiteLLM sirve una respuesta completa desde su caché de respuestas (lo cual se indica mediante la etiqueta “servido desde caché” en el Dashboard y cost = 0), el ID registrado corresponde al ID original con un sufijo _cache_hit<timestamp> adjunto:

chatcmpl-2ec370dd-83a6-41b4-817c-1646c57034bc_cache_hit1779350469.4126954

La solicitud original y la respuesta servida desde caché se registran como entradas independientes en el spend log, compartiendo el mismo prefijo de UUID. Esto permite agregar por prefijo para contabilizar cuántas veces una solicitud determinada fue servida desde la caché.

Historial de uso

Para totales por día y un registro consultable de cada solicitud, use la página AI Hub en el Zeabur Dashboard. Los headers y campos del body que vimos aquí son para contabilidad en tiempo real dentro de su código; el Dashboard es para inspección posterior.

Enlaces relacionados

• Usar Zeabur AI Hub en n8n
• Usar Zeabur AI Hub en SillyTavern