Memilih model terbaik seharusnya tidak berarti harus mempertanggungjawabkan tagihannya.
Inferray adalah API inferensi: satu antarmuka yang konsisten ke model-model yang benar-benar diinginkan tim, tanpa biaya gateway di atas apa yang Anda gunakan.
Mengapa kami membangunnya
Begitu Anda merilis sesuatu yang serius di atas model flagship, biaya inferensi tidak lagi bisa diabaikan. Maka tim mulai memangkas: konteks lebih pendek, retry lebih sedikit, model yang lebih lemah di jalur yang tidak diperhatikan siapa pun. Setiap pemangkasan itu membuat produk sedikit lebih buruk, demi menghemat uang yang sejak awal memang bukan harga yang wajar.
Anda membayar sesuai tarif yang tercantum untuk model tersebut, tanpa biaya gateway di atasnya — sehingga model yang akan Anda pilih berdasarkan kualitasnya adalah model yang mampu Anda pertahankan.
Pilihan yang lebih murah dan pilihan yang lebih baik seharusnya adalah pilihan yang sama.
Apa artinya dalam praktik
Tanpa tanda bintang, dan tanpa ketentuan yang baru berlaku setelah Anda cukup besar.
- Satu antarmuka untuk setiap model
- Model dari setiap lab yang kami sediakan merespons melalui satu endpoint dan satu kunci. Kode Anda tetap menggunakan antarmuka yang sudah dipakainya — Chat Completions, Messages, atau Responses — dan streaming berjalan seperti biasa.
- Tanpa biaya gateway
- Tidak ada tambahan apa pun di atas tarif yang tercantum untuk model tersebut. Tidak ada masa uji coba, tidak ada tingkat volume yang harus dicapai, dan tidak ada paket yang harus dibeli untuk membukanya — harga yang Anda lihat berlaku untuk request pertama Anda dan setiap request sesudahnya.
- Model yang sama, bukan pengganti
- Model yang sama, versi yang sama, jawaban yang sama. Tidak ada yang diam-diam diganti dengan yang lebih murah, dan model yang Anda sebutkan dalam request adalah model yang menjawabnya.
- Anda hanya membayar penggunaan, tidak ada yang lain
- Tanpa biaya per seat, tanpa minimum bulanan, dan tanpa tingkatan dukungan. Isi saldo lalu gunakan hingga habis, atau pilih Token Plan dengan satu harga bulanan tetap dan penggunaan senilai 3× harganya; saat kredit habis, request berhenti alih-alih diam-diam melampaui anggaran.
- Prompt Anda tetap milik Anda
- Kami tidak menyimpan prompt atau completion Anda, dan kami tidak menggunakannya untuk pelatihan. Kami hanya menyimpan jumlah token yang diperlukan untuk penagihan; penyedia model yang melayani sebuah request menanganinya sesuai kebijakan datanya sendiri.
- Anda bisa melihat ke mana perginya
- Setiap request muncul di konsol Anda dengan latensi, token, dan biaya yang dirinci per proyek, kunci, dan model — sehingga tagihan tidak pernah berupa satu angka tanpa penjelasan.
Dua baris konfigurasi, lalu kode yang sama
Ganti base URL dan kunci Anda. SDK, prompt, tools, dan agen Anda tetap persis seperti sebelumnya.