LibreChat

LibreChat mendukung endpoint kustom yang kompatibel dengan OpenAI. Tambahkan Inferray di librechat.yaml:

endpoints:
  custom:
    - name: "Inferray"
      apiKey: "${INFERRAY_API_KEY}"
      baseURL: "https://api.inferray.com/v1"
      models:
        default: ["gpt-5.5", "claude-sonnet-4-6", "gemini-3.6-flash"]
        fetch: true
      titleConvo: true
      titleModel: "gemini-3.6-flash"
      modelDisplayLabel: "Inferray"

Letakkan key di .env LibreChat:

INFERRAY_API_KEY=inferray_...

Dengan fetch: true, LibreChat memuat daftar model lengkap dari GET /v1/models; default adalah yang ditampilkan jika gagal. Model yang kecil dan cepat cocok sebagai titleModel, karena model ini dijalankan pada setiap percakapan baru.

Restart LibreChat setelah mengedit file tersebut, lalu pilih Inferray di menu endpoint.