Integrasi
Inferray mendukung format API OpenAI dan Anthropic, sehingga hampir semua tool yang dibuat untuk salah satunya dapat langsung digunakan dengan dua perubahan: Base URL dan kunci.
| Format yang digunakan tool Anda | Base URL | Kunci |
|---|---|---|
| OpenAI (Chat Completions atau Responses) | https://api.inferray.com/v1 | Authorization: Bearer |
| Anthropic Messages | https://api.inferray.com | x-api-key atau Authorization: Bearer |
SDK dan framework
- OpenAI SDK — JavaScript, Python, dan semua library resmi OpenAI lainnya
- Anthropic SDK — SDK Claude, untuk model teks apa pun
- Vercel AI SDK —
generateText,streamText, tools, dan gambar - LangChain — model chat dan embedding di Python dan JavaScript
- LlamaIndex — LLM dan embedding untuk pipeline RAG
Protokol
- MCP — berikan klien MCP tools untuk chat, membuat gambar, dan memeriksa saldo Anda
Aplikasi
- n8n — workflow agen AI
- Open WebUI — antarmuka chat self-hosted
- LibreChat — aplikasi chat multi-model
Agen coding memiliki bagian tersendiri.
Tool lainnya
Jika sebuah tool memungkinkan Anda mengatur endpoint "kompatibel OpenAI" atau "OpenAI kustom", tool tersebut dapat digunakan: masukkan https://api.inferray.com/v1 sebagai Base URL, kunci Anda sebagai kunci API, dan ID model dari katalog. Tool yang mengisi daftar modelnya dari API akan menemukan semua model melalui GET /v1/models.