OpenAI SDK

Library resmi OpenAI berfungsi tanpa perubahan. Atur base URL ke https://api.inferray.com/v1 dan gunakan key Inferray; setelah itu setiap model teks, termasuk Claude dan Gemini, merespons di chat.completions dan responses.

JavaScript dan TypeScript

npm install openai

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.inferray.com/v1",
  apiKey: process.env.INFERRAY_API_KEY,
});

const completion = await client.chat.completions.create({
  model: "claude-sonnet-4-6",
  messages: [{ role: "user", content: "Hello" }],
});

Python

pip install openai

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inferray.com/v1", api_key=os.environ["INFERRAY_API_KEY"])

completion = client.chat.completions.create(
    model="claude-sonnet-4-6",
    messages=[{"role": "user", "content": "Hello"}],
)

Client async, AsyncOpenAI, menerima argumen yang sama.

Tanpa mengubah kode

SDK OpenAI membaca base URL dan key dari environment. Aplikasi yang membuat new OpenAI() tanpa argumen dapat diarahkan ke Inferray dari luar:

export OPENAI_BASE_URL="https://api.inferray.com/v1"
export OPENAI_API_KEY="inferray_..."

Lalu ganti nama model yang digunakan aplikasi dengan ID model Inferray.

Yang didukung

Method SDK	Endpoint Inferray
`chat.completions.create`, `.parse`, `.stream`	Chat Completions
`responses.create`, `.retrieve`, `.parse`	Responses
`embeddings.create`	Embeddings
`images.generate`, `images.edit`	Pembuatan gambar, pengeditan
`audio.speech.create`, `audio.transcriptions.create`	Speech, transkripsi
`videos.create`, `.retrieve`, `.downloadContent`	Pembuatan video
`moderations.create`	Moderation
`models.list`	Model

Tidak tersedia: endpoint lama completions, models.retrieve untuk satu model, file, fine-tuning, batch, assistant, vector store, dan realtime. Method yang ada di SDK tetapi tidak ada di Inferray akan merespons 404 atau 405.

Bahasa lain

Library resmi Go, Java, .NET, dan Ruby, serta library komunitas, juga menyediakan opsi base URL — option.WithBaseURL di Go, baseUrl di Java, Endpoint di .NET. Gunakan https://api.inferray.com/v1.