Anthropic SDK

Los SDK de Anthropic funcionan con el endpoint de Messages de Inferray. Configura la URL base como https://api.inferray.com —sin /v1, que el SDK agrega— y usa una clave de Inferray.

TypeScript

npm install @anthropic-ai/sdk

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
  baseURL: "https://api.inferray.com",
  apiKey: process.env.INFERRAY_API_KEY,
});

const message = await client.messages.create({
  model: "claude-opus-4-8",
  max_tokens: 1024,
  messages: [{ role: "user", content: "Hello, Claude" }],
});

Python

pip install anthropic

import os
import anthropic

client = anthropic.Anthropic(base_url="https://api.inferray.com", api_key=os.environ["INFERRAY_API_KEY"])

message = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude"}],
)

Sin cambiar el código

Los SDK leen ANTHROPIC_BASE_URL y ANTHROPIC_API_KEY:

export ANTHROPIC_BASE_URL="https://api.inferray.com"
export ANTHROPIC_API_KEY="inferray_..."

Qué funciona

messages.create y messages.stream, con herramientas, imágenes, PDF, extended thinking y prompt caching —consulta Anthropic Messages. El modelo puede ser cualquier modelo de texto del catálogo, no solo Claude.

El conteo de tokens, la API de Message Batches, la API de Files y la API de Admin no están disponibles.