NVIDIA Rerank
NVIDIA Rerank toma los resultados de otro buscador y los reordena según lo bien que responden a la pregunta, con un modelo de NVIDIA especializado en ordenar resultados. Así los más útiles llegan primero al agente.
Un buscador (retriever) recibe una pregunta y devuelve los fragmentos de documentos que mejor la responden, para que un agente o un modelo conteste con tu información.
Cuándo usarlo
- El buscador encuentra los documentos correctos, pero no siempre en las primeras posiciones.
- Ya usas el servicio de NVIDIA para otros modelos.
Configuración
| Campo | Qué hace |
|---|---|
| Search Query | La pregunta. |
| Base URL | La dirección del servicio de NVIDIA. Por defecto, la oficial. |
| Model | El modelo que ordena. Por defecto, y única opción, nv-rerank-qa-mistral-4b:1. |
| API Key | Tu clave de NVIDIA. |
| Retriever | El buscador cuyos resultados se reordenan. |
Resultado
- Retriever: el buscador, para conectarlo a componentes que piden un buscador, como otro de esta familia o un componente de preguntas y respuestas.
- Search Results: los fragmentos encontrados para Search Query, que puedes pasar a un prompt o a un agente.
Ejemplo
Un portal de empleo quiere que las ofertas más ajustadas a cada búsqueda salgan primero.
- Conecta la salida Retriever de su base de ofertas a Retriever.
- Escribe tu clave en API Key y conecta la búsqueda del candidato a Search Query.
Componentes relacionados
- Contextual Compression Retriever: depura resultados con un modelo.
- Cohere Rerank: reordena resultados con Cohere.