Langsung ke konten

Reranking

Reranker membaca sebuah query dan daftar dokumen, lalu memberi skor seberapa relevan setiap dokumen. Ini adalah langkah kedua yang umum setelah pencarian cepat: ambil 50–100 kandidat dengan embedding atau pencarian keyword, rerank kandidat tersebut, lalu simpan beberapa yang terbaik untuk model. Cara ini meningkatkan kualitas jawaban di pipeline RAG secara nyata.

POST /v1/rerank menerima bentuk request rerank yang sudah familier. Model rerank yang tersedia antara lain qwen3-reranker-0.6b, qwen3-reranker-4b, dan qwen3-reranker-8b.

Rerank dokumen

curl https://api.inferray.com/v1/rerank \
  -H "Authorization: Bearer $INFERRAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-reranker-4b",
    "query": "quiet mechanical keyboard",
    "documents": [
      "Linear switches with dampened stabilisers for silent typing",
      "RGB gaming mouse with 12 programmable buttons",
      "Clicky blue switches with a loud tactile bump"
    ],
    "top_n": 2
  }'
{
  "id": "...",
  "results": [
    { "index": 0, "relevance_score": 0.94 },
    { "index": 2, "relevance_score": 0.31 }
  ]
}

Hasil diurutkan berdasarkan relevance_score, dari yang tertinggi. index merujuk kembali ke array documents Anda.

Parameter

ParameterFungsi
modelWajib.
queryWajib. Hal yang Anda cari.
documentsWajib. Daftar kandidat, dalam bentuk string.
top_nHanya kembalikan N teratas. Default-nya semua.
return_documentstrue untuk menyertakan teks setiap dokumen dalam hasil.

Harga

Reranking ditagih berdasarkan token input — query ditambah setiap dokumen — dengan harga yang tercantum di halaman model. Batasi dokumen kandidat pada bagian teks yang relevan, bukan seluruh halaman.