Langsung ke konten

Migrasi ke Inferray

Pindah ke Inferray sebagian besar hanyalah perubahan konfigurasi. SDK, prompt, dan struktur request Anda tetap sama; yang berubah adalah base URL, key, dan ID model.

  • Dari OpenAI atau Anthropic — tetap gunakan SDK resmi, dan dapatkan model dari semua lab lain dengan key yang sama
  • Dari OpenRouter — format kompatibel OpenAI yang sama, ID model tanpa prefiks provider
  • Dari Vercel AI Gateway — arahkan ulang provider gateway di AI SDK atau endpoint-nya yang kompatibel dengan OpenAI

Rollout yang aman

  1. Buat key di project terpisah, misalnya migration-test, agar traffic pengujian mudah ditemukan.
  2. Ubah base URL dan key di satu environment, lalu petakan ID model Anda ke katalog.
  3. Jalankan test suite Anda dan bandingkan output, latensi, dan biaya di log.
  4. Pindahkan production secara bertahap, satu layanan demi satu layanan.

Aktifkan isi ulang saldo otomatis sebelum traffic production masuk, agar saldo yang menipis tidak pernah menghentikan request.

Simpan konfigurasi lama di balik environment variable sampai Anda benar-benar yakin: untuk kembali, cukup ubah dua pengaturan yang sama.