Saltar al contenido

OpenAI SDK

Las bibliotecas oficiales de OpenAI funcionan sin cambios. Configura la URL base como https://api.inferray.com/v1 y usa una clave de Inferray; a partir de ahí, todos los modelos de texto, incluidos Claude y Gemini, responden en chat.completions y responses.

JavaScript y TypeScript

npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.inferray.com/v1",
  apiKey: process.env.INFERRAY_API_KEY,
});

const completion = await client.chat.completions.create({
  model: "claude-sonnet-4-6",
  messages: [{ role: "user", content: "Hello" }],
});

Python

pip install openai
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inferray.com/v1", api_key=os.environ["INFERRAY_API_KEY"])

completion = client.chat.completions.create(
    model="claude-sonnet-4-6",
    messages=[{"role": "user", "content": "Hello"}],
)

El cliente asíncrono, AsyncOpenAI, recibe los mismos argumentos.

Sin cambiar el código

Los SDK de OpenAI leen su URL base y su clave desde el entorno. Una app que crea new OpenAI() sin argumentos puede apuntarse a Inferray desde fuera:

export OPENAI_BASE_URL="https://api.inferray.com/v1"
export OPENAI_API_KEY="inferray_..."

Después, cambia los nombres de modelo que usa la app por los ID de modelo de Inferray.

Qué funciona

Método del SDKEndpoint de Inferray
chat.completions.create, .parse, .streamChat Completions
responses.create, .retrieve, .parseResponses
embeddings.createEmbeddings
images.generate, images.editGeneración de imágenes, edición
audio.speech.create, audio.transcriptions.createVoz, transcripción
videos.create, .retrieve, .downloadContentGeneración de video
moderations.createModeration
models.listModelos

No disponibles: el endpoint heredado completions, models.retrieve para un solo modelo, archivos, fine-tuning, batches, asistentes, vector stores y realtime. Un método que tiene el SDK pero no Inferray responde 404 o 405.

Otros lenguajes

Las bibliotecas oficiales de Go, Java, .NET y Ruby, así como las de la comunidad, también aceptan una opción de URL base: option.WithBaseURL en Go, baseUrl en Java, Endpoint en .NET. Usa https://api.inferray.com/v1.