Saltearse al contenido

Agente de RAG

El RAG Agent es un agente especializado en responder con tus documentos. Con cada pregunta hace siempre lo mismo:

  1. Entiende la pregunta. Si es una pregunta de seguimiento («¿y cuánto cuesta?») la completa con la conversación, y si mencionas un dato de tus documentos (una marca, un mes) prepara el filtro.
  2. Busca en todos los buscadores conectados.
  3. Puntúa los documentos encontrados, todos en una sola llamada, y se queda con los que sirven.
  4. Responde solo con esos documentos, citando de dónde sale cada dato: [1], [2]… y al final la lista de Fuentes con el nombre del archivo y la página.
  5. Comprueba que la respuesta no inventa y que contesta a lo preguntado. Si algo falla, busca una vez más con otras palabras.

Si ningún documento sirve, vuelve a buscar una vez con otras palabras y, si sigue sin encontrar nada, dice que no tiene esa información, en el idioma de la pregunta, sin inventar.

Este vídeo monta un RAG Agent sobre la documentación de un servicio técnico de cafeteras y le hace una pregunta, una de seguimiento y una que la documentación no responde.

Lo que ves en el vídeo:

  1. Qdrant en modo Retriever, con 5 resultados, conectado a Retrievers del RAG Agent.
  2. Las opciones: Additional Instructions, Metadata Schema con marca, tipo, mes y codigos, las tres comprobaciones (Enable Document Relevance Grading, Enable Hallucination Check y Enable Answer Quality Check), Show Sources y Use Memory.
  3. «¿Qué significa el error E07 en la cafetera Vellani Aurora?»: caudalímetro bloqueado, pieza VL-1180 [1] y un caso real [2], con «Fuentes: [1] manual-vellani-aurora.pdf · [2] informe-incidencias-2026-07.pdf».
  4. «¿Y cuánto tarda en llegar esa pieza?»: con la memoria entiende que habla de la VL-1180 y responde que de cinco a siete días laborables.
  5. «¿Cuál es el horario de la tienda que tenéis en Málaga?»: «No encuentro esa información…».
  6. Cada pregunta usa unas cuatro llamadas al modelo y tarda unos cinco segundos.

Cómo rindió: la prueba de 40 preguntas

Lo medimos con la misma base de conocimiento de la comparativa: la documentación del servicio técnico ficticio Cafés del Sur (manuales, garantía, guía de mantenimiento, tres informes de incidencias y preguntas frecuentes) y sus 40 preguntas, entre ellas 4 que la documentación no responde. Modelo DeepSeek deepseek-flash, vectores FastEmbed jina-embeddings-v2-base-es en FAISS, 5 resultados por búsqueda. Cada respuesta se comparó con la respuesta correcta de forma estricta (17 de octubre de 2026).

ConfiguraciónCorrectas (de 36)IncorrectasDice «no lo sé» y sí estaba«No lo sé» bien dicho (de 4)Llamadas por preguntaTokens de entrada por preguntaTiempo (mediana)
RAG Agent, versión anterior20510412,86.8009,4 s
RAG Agent, por defecto23–253–65–844,42.7004,9 s
RAG Agent con Metadata Schema27–281–2644,32.7004,7 s
RAG Agent sin comprobaciones24–253–55–843,52.2004,1 s
RAG Agent con Local Rerank26–2744–544,43.0006,7 s
Agent con RetrieverTool24–274–53–442,49.7003,0 s

Los rangos son de 2 a 4 ejecuciones de la misma configuración: repetir la prueba mueve el resultado en 1 o 2 respuestas. La fila de Local Rerank se midió de nuevo el 18 de octubre con su modelo actual, en 2 ejecuciones. El resto de respuestas de cada fila fueron parciales.

Lo que dicen los números:

  • Frente a la versión anterior, el RAG Agent acierta más (de 20 a 23–25), usa un tercio de las llamadas (de 12,8 a 4,4) y responde en la mitad de tiempo. La puntuación de todos los documentos en una sola llamada y buscar con la pregunta completa, en lugar de con palabras clave, explican casi toda la mejora.
  • Frente a un Agent con una herramienta de búsqueda, acierta lo mismo y tarda unos 2 segundos más, pero lee una cuarta parte de texto (2.700 tokens de entrada frente a 9.700), así que cada pregunta cuesta menos. Además cita siempre sus fuentes. Los dos dijeron «no lo sé» en las 4 preguntas sin respuesta.
  • Con Metadata Schema acierta más que ninguna otra configuración. En las preguntas que dependen de una marca o de un mes («¿qué significa el E07 en la Vellani?»), el filtro trae los documentos correctos: 5 de 6 frente a 2 de 6.
  • Local Rerank ayuda con los códigos y las referencias exactas: acertó las 8, a cambio de unos 2 segundos más por pregunta en un equipo sin tarjeta gráfica.
  • Las comprobaciones no cambiaron el resultado en esta prueba (24–25 con y sin ellas) y cuestan una llamada, menos de un segundo. Son una red de seguridad para modelos más pequeños o cuando una respuesta equivocada sale cara.
  • El Agent resuelve mejor los recuentos. Puede buscar varias veces seguidas y acertó 2 de 6 preguntas de «¿cuántas…?» o «¿quién ha…?» repartidas por muchos documentos; el RAG Agent, ninguna. Para esas preguntas, mejor un grafo (GraphRAG) o una base de datos.

RAG Agent o Agent con una herramienta de búsqueda

RAG AgentAgent con una búsqueda como herramienta
Qué hace con los documentosLos puntúa y solo usa los que sirven.Lee todo lo que devuelve la herramienta.
Comprobación de la respuestaIntegrada: que no invente y que conteste a lo preguntado.La que pidas en sus instrucciones.
«No lo encuentro»Automático cuando ningún documento sirve.Depende de las instrucciones.
FuentesCita [1], [2] y lista los archivos al final.Las que el modelo decida mencionar.
Otras herramientasNo: solo busca en tus documentos (y en internet, si lo activas).Puede combinar la búsqueda con un grafo, un CRM, el correo o cualquier componente.
Llamadas al modelo por pregunta4 (3 sin comprobaciones).2 o 3.
Cuándo elegirloPolíticas, condiciones, soporte: cuando quieres fuentes citadas y un «no lo sé» fiable con el menor gasto por pregunta.Asistentes que combinan varias fuentes o acciones, y preguntas que necesitan varias búsquedas.

También puedes tener los dos: conecta el RAG Agent a las Tools de un Agent y este lo usará como especialista en tu documentación. Como herramienta devuelve la respuesta con sus fuentes en formato JSON.

Cómo se conecta

ConexiónQué conectar
RetrieversLa salida Retriever de una o varias bases vectoriales, o de Local Rerank, Ensemble Retriever o Neo4j GraphRAG.
ModelEl modelo que entiende la pregunta, puntúa, responde y comprueba.
QuestionLa pregunta, normalmente desde Chat Input.
Web Search ToolSolo si activas la búsqueda web de respaldo: un buscador web.

Varios buscadores. Si conectas varios (por ejemplo, manuales y preguntas frecuentes), busca en todos con cada pregunta, junta los resultados y quita los repetidos.

Cuántos resultados. Entre 4 y 8 por buscador (Number of Results de la base vectorial). La puntuación es una sola llamada aunque lleguen más documentos, pero cada documento alarga esa llamada y la respuesta.

Qué hace cada opción y cuánto cuesta

OpciónPor defectoQué haceLlamadas
Enable Document Relevance GradingActivadaPuntúa los documentos encontrados y descarta los que no sirven. Es lo que permite responder «no lo encuentro».1
Enable Hallucination CheckActivadaComprueba que cada dato de la respuesta está en los documentos. Si no, busca otra vez.1 (compartida con la siguiente)
Enable Answer Quality CheckActivadaComprueba que la respuesta contesta a lo preguntado. Si no, busca otra vez.(la misma)
Show SourcesActivadaCita [1], [2] en la respuesta y añade al final las Fuentes con el nombre del archivo o título y la página, en el idioma de la pregunta.Ninguna
Metadata SchemaVacíoFiltra la búsqueda por los datos de los documentos que menciona la pregunta.Ninguna más
Use MemoryDesactivadaCompleta las preguntas de seguimiento con la conversación.Ninguna más
Enable Web Search FallbackDesactivadaSi ningún documento sirve, busca en internet con el buscador conectado en Web Search Tool.1 si se usa
StreamDesactivadaMuestra la respuesta a medida que se escribe; las fuentes llegan al final.Ninguna

A esas llamadas se suma siempre una para entender la pregunta. Una pregunta que la documentación no responde cuesta 5: entender, puntuar, buscar con otras palabras, puntuar otra vez y decir que no lo encuentra.

Configuraciones recomendadas

Por defecto (recomendada)Lo más rápido
ParaPolíticas, condiciones, contratos, soporte técnicoPreguntas frecuentes internas, chat de ayuda
Enable Document Relevance GradingActivadaActivada
Enable Hallucination CheckActivadaDesactivada
Enable Answer Quality CheckActivadaDesactivada
En la prueba23–25 de 36, 4,9 s, 4,4 llamadas24–25 de 36, 4,1 s, 3,5 llamadas

Mantén siempre activada la puntuación de documentos: sin ella, el modelo recibe todo lo que devuelve la búsqueda, tenga que ver o no, y pierde la capacidad de decir que no lo sabe.

Si tus documentos llevan datos como la marca, el producto o la fecha, añade el Metadata Schema: en la prueba fue la mejora más grande. Si las preguntas incluyen códigos o referencias exactas, conecta la salida Retriever de Local Rerank: acertó las 8 preguntas de códigos y referencias, a cambio de unos 2,5 segundos más por pregunta en un equipo sin tarjeta gráfica.

Instrucciones, filtros y memoria

Additional Instructions. Aquí dices en nombre de quién habla, el tono y qué decir cuando no encuentra la respuesta. Por ejemplo:

Hablas en nombre de Electrohogar Norte y tratas de tú.
Si la documentación no tiene la respuesta, invita a escribir a soporte@electrohogar-norte.example.

Con esas instrucciones, a «¿Tenéis tienda física en Lisboa?» respondió que no había encontrado esa información e invitó a escribir a soporte.

Metadata Schema. El mismo formato que Metadata Tagger: una lista con el nombre, el tipo y la descripción de cada dato. Escribe en la descripción los valores posibles:

[
{"name": "marca", "type": "string", "description": "Marca de la máquina del manual: Jaltec, Vellani, Molinar"},
{"name": "mes", "type": "string", "description": "Mes del informe, formato AAAA-MM"}
]

Funciona con las bases que aceptan filtros, como FAISS, Chroma DB, Qdrant o PGVector. Si el filtro no encuentra nada, el agente busca sin él, así que un valor mal escrito no deja la pregunta sin respuesta.

Use Memory. Sin memoria, cada pregunta se responde sola. Con memoria, el agente completa las preguntas de seguimiento con la conversación:

ConversaciónCon memoriaSin memoria
«¿Cuánto tarda el envío estándar a Canarias?» → «¿y cuánto cuesta?»«El envío estándar a Canarias cuesta 9,95 euros.»No encontró información sobre los costes.
«¿Qué cubre la garantía de los portátiles?» → «¿y cuánto dura lo de la batería?»«La garantía de la batería de los portátiles tiene una duración de 1 año.»No encontró información.

Un ejemplo completo

La receta Preguntas frecuentes con verificación monta un RAG Agent con FAISS, sin servidor, paso a paso.