Open WebUI

Open WebUI adalah antarmuka chat self-hosted. Tambahkan Inferray sebagai koneksi OpenAI, dan semua model di katalog akan muncul di pemilih modelnya.

Di pengaturan admin

1. Buka Admin Panel → Settings → Connections.
2. Di bagian OpenAI API, tambahkan koneksi.
3. Atur URL ke https://api.inferray.com/v1 dan key ke key Inferray Anda.
4. Simpan. Open WebUI memuat daftar model dari GET /v1/models.

Agar daftar di pemilih tetap ringkas, tambahkan ID model yang Anda inginkan ke allowlist model pada koneksi tersebut.

Dengan environment variable

Saat menjalankan container:

docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.inferray.com/v1" \
  -e OPENAI_API_KEY="inferray_..." \
  -v open-webui:/app/backend/data \
  --name open-webui ghcr.io/open-webui/open-webui:main

Catatan

• Upload gambar berfungsi dengan model yang menerima gambar.
• Setiap chat ditagihkan ke project key tersebut. Buat key khusus untuk Open WebUI agar penggunaannya mudah ditemukan di analytics.