Model

Inferray menyediakan model teks, gambar, audio, video, embedding, dan pencarian dari semua lab besar melalui satu API. Setiap model memiliki satu ID kanonis, dan hanya ID itulah yang perlu Anda ubah untuk berganti model.

Jelajahi katalog

Halaman model mencantumkan setiap model beserta context window, kemampuan, endpoint yang didukung, dan harga yang Anda bayar. Filter sesuai kebutuhan Anda — vision, tools, reasoning, output gambar — lalu salin ID dari halaman model tersebut.

ID model

Gunakan ID persis seperti yang ditampilkan di katalog: claude-opus-4-8, gpt-5.5, gemini-3.6-flash, text-embedding-3-small.

ID bersifat case-sensitive, dan beberapa di antaranya mengandung / atau .. Kirimkan tanpa diubah.
Beberapa model juga dapat dipanggil dengan alias, yang tercantum di aliases dalam daftar model. Respons selalu melaporkan ID kanonis yang Anda minta atau ID yang dirujuk oleh alias tersebut.
Tidak ada prefiks penyedia yang perlu ditambahkan. ID yang sama berlaku untuk setiap key, setiap endpoint yang didukung model, dan setiap SDK.

Daftar model dari API

GET /v1/models mengembalikan katalog dalam format yang diharapkan klien OpenAI, sehingga tool yang mengisi pemilih model dari API dapat menemukannya. Mengambil daftar ini gratis.

curl https://api.inferray.com/v1/models \
  -H "Authorization: Bearer $INFERRAY_API_KEY"

{
  "object": "list",
  "data": [
    {
      "id": "claude-opus-4-8",
      "object": "model",
      "owned_by": "anthropic",
      "name": "Claude Opus 4.8",
      "context_length": 1000000,
      "max_output_tokens": 128000,
      "input_modalities": ["text", "image"],
      "output_modalities": ["text"],
      "capabilities": { "vision": true, "tools": true, "reasoning": true, "streaming": true, "json_mode": false },
      "endpoints": ["/v1/chat/completions", "/v1/messages", "/v1/responses"],
      "availability": "available",
      "aliases": [],
      "pricing": { "input": 5, "output": 25, "cached_input": 0.5 }
    }
  ]
}

Field	Informasi yang diberikan
`context_length`, `max_output_tokens`	Prompt terbesar dan balasan terpanjang yang dapat ditangani model, dalam token.
`input_modalities`, `output_modalities`	Apa yang diterima model (`text`, `image`, `audio`, `document`) dan apa yang dihasilkannya.
`capabilities`	Apakah model menerima gambar, memanggil tools, melakukan reasoning sebelum menjawab, mendukung streaming, dan mendukung mode JSON.
`endpoints`	Path yang dapat Anda gunakan untuk memanggil model ini saat ini.
`declared_endpoints`, `api_availability`	Setiap antarmuka yang dimiliki model, beserta status masing-masing: `available`, `unavailable`, atau `unverified`.
`pricing`	Harga resmi dalam USD per 1M token (`input`, `output`, `cached_input`), ditambah `meters` untuk model yang ditagih per gambar, detik, karakter, halaman, atau request.

Harga dalam daftar adalah harga resmi, sebelum diskon apa pun pada akun Anda. Lihat harga untuk mengetahui apa yang Anda bayar.

Endpoint yang dilayani setiap model

Model teks tersedia di ketiga antarmuka teks: Chat Completions, Responses, dan Messages. Model lain memiliki endpoint sendiri — gambar di /v1/images/generations, embedding di /v1/embeddings, dan seterusnya. Model yang dikirim ke endpoint yang tidak didukungnya akan mendapatkan 404 yang menyebutkan endpoint tersebut.

Selalu periksa endpoints alih-alih berasumsi: tersedianya sebuah model di satu antarmuka tidak berarti model itu tersedia di semua antarmuka lainnya.

Filter

Query	Efek
`exclude_deprecated=true`	Mengecualikan model yang akan dihentikan.

Filter yang tidak didukung akan ditolak dengan 400, bukan diabaikan.

Key Token Plan hanya mencantumkan model yang dicakup oleh Token Plan tersebut, sehingga pemilih model yang diisi dari API tidak menawarkan model yang akan ditolak untuk key tersebut. Tambahkan include_restricted=true untuk ikut mencantumkan model lainnya; model-model itu tetap tidak dapat dipanggil dengan key tersebut.

Memilih model

Coding agent dan sesi panjang — model dengan tools dan context_length yang besar. Periksa harga cached_input-nya: agent mengirim ulang sebagian besar konteksnya di setiap giliran.
Tugas sederhana bervolume tinggi — klasifikasi, ekstraksi, atau routing bekerja baik pada model kecil dan cepat dengan harga yang jauh lebih murah.
Masalah sulit — model dengan reasoning, dan reasoning effort yang lebih tinggi.
Data terstruktur — model dengan json_mode, digunakan bersama structured outputs.

Karena semua model berbagi satu key, satu saldo, dan satu format request, mencoba model lain cukup dengan mengubah satu baris.