Summarizer node
Summarizer node se encarga de que un agente no pierda el hilo en conversaciones largas. Cuando el historial supera el tamaño que indiques, resume los mensajes antiguos con un modelo de IA y el agente recibe ese resumen junto a los mensajes más recientes. En cada nuevo resumen amplía el anterior con lo que se ha hablado después.
No funciona solo: se conecta a la entrada Summarizer del componente antiguo Agent (el que tiene la opción Summarize memory). Esa entrada aparece al activar Summarize memory en sus opciones avanzadas.
Cuándo usarlo
- Asistentes con conversaciones largas, como un soporte técnico que acompaña al cliente durante toda una incidencia.
- Reducir lo que el agente envía al modelo en cada mensaje sin olvidar lo ya hablado.
Configuración
| Conexión | Qué conectar |
|---|---|
| Modelo (conector inferior) | El modelo de IA que escribe los resúmenes. Es necesario para que el componente funcione. |
| Campo | Qué hace |
|---|---|
| Initial Summarization Prompt | La instrucción para hacer el primer resumen. Por defecto: “Create a summary of the conversation above:”. |
| Existing Summarization Prompt | La instrucción para ampliar un resumen que ya existe con los mensajes nuevos. Debe incluir {existing_summary}, donde se coloca el resumen anterior. |
| Default Final Prompt | Cómo se presenta el resumen al agente antes de los mensajes recientes. Debe incluir {summary}. Por defecto: “Summary of the conversation so far: {summary}”. |
Opciones avanzadas
| Campo | Qué hace |
|---|---|
| Output Messages Key | llm_input_messages (por defecto): el resumen solo se usa para lo que recibe el modelo y el historial guardado se conserva completo. messages: el historial guardado se sustituye por el resumen y los mensajes recientes. |
| Max Tokens | Tamaño máximo, en tokens, de lo que recibe el modelo sumando el resumen y los mensajes. Al superarlo, se resume. Por defecto: 1024. |
| Max Summary Tokens | Tamaño máximo del resumen, en tokens. Por defecto: 256. |
Resultado
- SummarizeNode: el resumidor configurado. Conéctalo a la entrada Summarizer del agente.
Ejemplo
Una tienda online de material deportivo tiene un asistente de posventa con conversaciones que se alargan durante días:
- En el componente Agent del asistente, activa Summarize memory en las opciones avanzadas.
- Añade Summarizer node y conecta un modelo de IA a su conector inferior.
- Sube Max Tokens a 4000 para que el resumen solo se active en conversaciones largas.
- Conecta la salida SummarizeNode a la entrada Summarizer del agente.
Cuando la conversación crece, el agente sigue sabiendo qué pedido se reclamó y qué se le ofreció al cliente, sin recibir todos los mensajes.
Buenas prácticas
- Deja Output Messages Key en
llm_input_messagessi quieres conservar el historial completo de la conversación. - Si los resúmenes pierden detalles importantes, aumenta Max Summary Tokens o indica en Initial Summarization Prompt qué datos debe conservar (números de pedido, fechas, acuerdos).
Componentes relacionados
- Agent: el agente principal de NappAI, que gestiona su memoria sin necesidad de este componente.
- Summarizer: resume textos sueltos dentro de un flujo.