Reranking
Reranker membaca sebuah query dan daftar dokumen, lalu memberi skor seberapa relevan setiap dokumen. Ini adalah langkah kedua yang umum setelah pencarian cepat: ambil 50–100 kandidat dengan embedding atau pencarian keyword, rerank kandidat tersebut, lalu simpan beberapa yang terbaik untuk model. Cara ini meningkatkan kualitas jawaban di pipeline RAG secara nyata.
POST /v1/rerank menerima bentuk request rerank yang sudah familier. Model rerank yang tersedia antara lain qwen3-reranker-0.6b, qwen3-reranker-4b, dan qwen3-reranker-8b.
Rerank dokumen
curl https://api.inferray.com/v1/rerank \
-H "Authorization: Bearer $INFERRAY_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3-reranker-4b",
"query": "quiet mechanical keyboard",
"documents": [
"Linear switches with dampened stabilisers for silent typing",
"RGB gaming mouse with 12 programmable buttons",
"Clicky blue switches with a loud tactile bump"
],
"top_n": 2
}'
{
"id": "...",
"results": [
{ "index": 0, "relevance_score": 0.94 },
{ "index": 2, "relevance_score": 0.31 }
]
}
Hasil diurutkan berdasarkan relevance_score, dari yang tertinggi. index merujuk kembali ke array documents Anda.
Parameter
| Parameter | Fungsi |
|---|---|
model | Wajib. |
query | Wajib. Hal yang Anda cari. |
documents | Wajib. Daftar kandidat, dalam bentuk string. |
top_n | Hanya kembalikan N teratas. Default-nya semua. |
return_documents | true untuk menyertakan teks setiap dokumen dalam hasil. |
Harga
Reranking ditagih berdasarkan token input — query ditambah setiap dokumen — dengan harga yang tercantum di halaman model. Batasi dokumen kandidat pada bagian teks yang relevan, bukan seluruh halaman.