Saltearse al contenido
Nappai Documentation

Guardrails

Guardrails pone reglas a un agente que no se salta nunca. Las escribes con tus palabras (“nunca canceles pedidos: las cancelaciones se hacen por teléfono”, “no recomiendes otras tiendas”, “no des consejo legal”) y se revisan en dos momentos:

  • Cada petición: si alguien pide algo que una regla prohíbe, o intenta que el agente olvide sus instrucciones, el agente no hace nada y responde con una frase corta y amable en el idioma de quien escribe.
  • Cada acción: antes de usar una de sus herramientas, se revisa lo que el agente va a hacer. Aunque nadie se lo haya pedido, si la acción rompe una regla no se ejecuta, y el agente se lo explica al cliente.

Las instrucciones del agente le dicen cómo trabajar; las reglas de Guardrails mandan sobre ellas. Si unas instrucciones antiguas le dicen que cancele pedidos y la regla lo prohíbe, el pedido no se cancela.

Está en Agent, Simple Agent, Deep Agent y en los agentes de voz, Voice Agent y Voice Agent Realtime (más abajo, En los agentes de voz). En Deep Agent, el ayudante interno al que el agente reparte tareas sigue las mismas reglas; los agentes que conectes como ayudantes siguen las suyas.

Cómo se ve

Este vídeo, con voz, muestra un agente de una tienda de café que consulta y cancela pedidos. Primero cancela un pedido él solo; después activamos Guardrails con dos reglas y probamos una petición prohibida, una acción que el agente decide por su cuenta y una consulta normal. Al final, el mismo ajuste en un agente de voz.

Cuándo usarlo

  • Hay cosas que tu agente puede hacer con sus herramientas pero que solo debe hacer una persona: cancelar, reembolsar, borrar, enviar.
  • Tu agente atiende a clientes y no debe hablar de ciertos temas: la competencia, precios que no son públicos, consejos legales o médicos.
  • Quieres que nadie consiga que el agente ignore sus instrucciones escribiéndole “olvida lo que te han dicho”.
  • Una norma de tu empresa debe cumplirse siempre, aunque cambien las instrucciones o el modelo del agente.

Configuración

Abre los ajustes del agente y, en la pestaña Avanzado, activa Guardrails. En un agente creado antes de que existiera esta opción, el interruptor no aparece hasta que añades el componente de nuevo al lienzo. Aparecen estos campos y la conexión Guardrail Model en el componente:

CampoQué hace
GuardrailsActiva la revisión. Viene apagado: los flujos que ya tienes no cambian.
Guardrail RulesLas reglas, con palabras normales y una por línea. Ayuda poner el motivo: “Nunca canceles pedidos: las cancelaciones solo se hacen por teléfono, en el 900 123 456.” Sin reglas, no se revisa nada.
Refusal MessageRespuesta fija cuando se rechaza una petición. Si la dejas vacía, el agente contesta con una frase corta en el idioma de quien escribe.
If The Check FailsQué pasa si la revisión no se puede hacer (el modelo que revisa no responde o tarda demasiado). Let the request through (por defecto): la petición sigue adelante y queda anotado. Refuse the request: se rechaza, para cuando una regla no puede saltarse nunca.
Guardrail ModelConexión para el modelo que revisa. Si no conectas ninguno, revisa el propio modelo del agente. Un modelo pequeño y rápido hace que la revisión apenas se note.

Qué notarás al usarlo

  • Una petición que no rompe ninguna regla se responde igual que antes: su revisión se hace a la vez que el agente empieza a trabajar.
  • Antes de cada herramienta, el agente espera la revisión de esa acción. Con un modelo rápido conectado en Guardrail Model apenas se nota.
  • Si el agente muestra la respuesta a medida que la escribe, el texto de una petición rechazada no llega a verse: solo aparece la negativa.
  • Cada petición rechazada, cada acción parada y cada revisión que falla quedan anotadas en el detalle de la ejecución, con la regla que se aplicó.

En los agentes de voz

En Voice Agent y Voice Agent Realtime, Guardrails está en la pestaña Avanzado, en el grupo Guardrails, con los mismos campos salvo Refusal Message. Durante una llamada se revisa cada acción antes de hacerla: si rompe una regla, la herramienta no se usa y el agente se lo explica a quien llama con sus propias palabras.

Lo que dice el llamante no se revisa antes de que el agente conteste: en una llamada eso haría esperar cada respuesta. Lo que las reglas protegen es lo que el agente hace.

  • Guardrail Model: conecta un modelo pequeño y rápido, con el razonamiento al mínimo en su propio componente. Así la revisión tarda una fracción de segundo y solo en los momentos en que el agente usa una herramienta; el resto de la conversación va igual de rápida. En Voice Agent, si no conectas ninguno, revisa el propio modelo del agente (más lento). En Voice Agent Realtime es obligatorio, porque el modelo en tiempo real no puede hacer la revisión.
  • Si el modelo que revisa falla, queda anotado en Ejecuciones (y, si pruebas la llamada desde el lienzo, su componente se marca en rojo), sin cortar la llamada. If The Check Fails decide si la acción sigue adelante o se rechaza.
  • Sin Guardrails activado y sin reglas escritas, el agente de voz no hace ninguna revisión y no tarda nada más.

Buenas prácticas

  • Escribe reglas concretas y di por qué existen; el motivo ayuda a decidir en los casos dudosos.
  • Pon en Guardrail Rules lo que no debe pasar nunca, y en las instrucciones del agente cómo quieres que trabaje. No repitas una cosa en los dos sitios con palabras distintas.
  • Prueba en el Entorno de Pruebas una petición prohibida, una que no lo sea y una situación en la que el agente podría decidir por su cuenta, antes de desplegar.
  • Usa Refuse the request en If The Check Fails solo cuando prefieras no atender a saltarte una regla.

Componentes relacionados