Reranking

Un reranker lee una consulta y una lista de documentos, y puntúa qué tan relevante es cada documento. Es el segundo paso habitual después de una búsqueda rápida: recuperas entre 50 y 100 candidatos con embeddings o búsqueda por palabras clave, los reordenas y te quedas con los mejores para el modelo. Mejora notablemente las respuestas en pipelines de RAG.

POST /v1/rerank acepta el formato de solicitud de rerank que ya conoces. Entre los modelos de rerank están qwen3-reranker-0.6b, qwen3-reranker-4b y qwen3-reranker-8b.

Reordenar documentos

curl https://api.inferray.com/v1/rerank \
  -H "Authorization: Bearer $INFERRAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-reranker-4b",
    "query": "quiet mechanical keyboard",
    "documents": [
      "Linear switches with dampened stabilisers for silent typing",
      "RGB gaming mouse with 12 programmable buttons",
      "Clicky blue switches with a loud tactile bump"
    ],
    "top_n": 2
  }'

{
  "id": "...",
  "results": [
    { "index": 0, "relevance_score": 0.94 },
    { "index": 2, "relevance_score": 0.31 }
  ]
}

Los resultados se ordenan por relevance_score, de mayor a menor. index apunta de vuelta a tu arreglo documents.

Parámetros

Parámetro	Qué hace
`model`	Obligatorio.
`query`	Obligatorio. Lo que estás buscando.
`documents`	Obligatorio. Los candidatos, como strings.
`top_n`	Devuelve solo los N mejores. Por defecto, todos.
`return_documents`	`true` para incluir el texto de cada documento en el resultado.

Precios

El reranking se cobra por tokens de entrada —la consulta más cada documento— al precio de la página del modelo. Limita cada documento candidato al pasaje relevante en lugar de enviar páginas completas.