Saltar al contenido

Desde Vercel AI Gateway

Inferray habla el mismo protocolo que el gateway provider de AI SDK, así que una app construida sobre Vercel AI Gateway se migra sin cambiar sus llamadas al modelo.

Apps que usan strings de modelo simples

Si tu código pasa strings como model: "anthropic/claude-sonnet-4.6", AI SDK los envía a través de su gateway provider predeterminado. Apunta ese provider una vez, antes de la primera llamada al modelo — en instrumentation.ts o en la entrada de tu servidor:

import { createGateway } from "@ai-sdk/gateway";

globalThis.AI_SDK_DEFAULT_PROVIDER = createGateway({
  baseURL: "https://api.inferray.com/v3/ai",
  apiKey: process.env.INFERRAY_API_KEY,
});

Usa /v1/ai para AI SDK 5, /v3/ai para AI SDK 6 y /v4/ai para AI SDK 7.

Luego cambia los strings de modelo por los IDs de Inferray, que no llevan prefijo de proveedor: anthropic/claude-sonnet-4.6 pasa a ser claude-sonnet-4-6, openai/gpt-5.5 pasa a ser gpt-5.5. La página de modelos tiene todos los IDs.

Apps que usan el endpoint compatible con OpenAI

 const client = new OpenAI({
-  baseURL: "https://ai-gateway.vercel.sh/v1",
-  apiKey: process.env.AI_GATEWAY_API_KEY,
+  baseURL: "https://api.inferray.com/v1",
+  apiKey: process.env.INFERRAY_API_KEY,
 });

Qué cambia

  • providerOptions.gateway (orden de proveedores y listas de permitidos) no es compatible; elimínalo.
  • gateway.getAvailableModels() lista los modelos de texto de Inferray y sus precios, y gateway.getCredits() devuelve tu saldo.
  • Cada respuesta informa el costo cobrado en usage.cost (uso y costos), y cada solicitud aparece en tus registros y analíticas.

Consulta Vercel AI SDK para ver las otras formas de conectarte, incluidos el provider compatible con OpenAI y el de Anthropic.