Anthropic SDK

SDK Anthropic dapat digunakan dengan endpoint Messages Inferray. Atur base URL ke https://api.inferray.com — tanpa /v1, yang ditambahkan oleh SDK — dan gunakan key Inferray.

TypeScript

npm install @anthropic-ai/sdk

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
  baseURL: "https://api.inferray.com",
  apiKey: process.env.INFERRAY_API_KEY,
});

const message = await client.messages.create({
  model: "claude-opus-4-8",
  max_tokens: 1024,
  messages: [{ role: "user", content: "Hello, Claude" }],
});

Python

pip install anthropic

import os
import anthropic

client = anthropic.Anthropic(base_url="https://api.inferray.com", api_key=os.environ["INFERRAY_API_KEY"])

message = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude"}],
)

Tanpa mengubah kode

SDK membaca ANTHROPIC_BASE_URL dan ANTHROPIC_API_KEY:

export ANTHROPIC_BASE_URL="https://api.inferray.com"
export ANTHROPIC_API_KEY="inferray_..."

Yang didukung

messages.create dan messages.stream, dengan tools, gambar, PDF, extended thinking, dan prompt caching — lihat Anthropic Messages. Model dapat berupa model teks apa pun dalam katalog, tidak hanya Claude.

Penghitungan token, Message Batches API, Files API, dan Admin API tidak ditawarkan.