Saltearse al contenido
Nappai Documentation

Qianfan

El componente Qianfan permite a los usuarios de Nappai generar respuestas de texto utilizando los modelos de lenguaje de Baidu Qianfan. Con él puedes elegir entre varios modelos preentrenados, ajustar parámetros de generación y procesar múltiples solicitudes de forma simultánea gracias al modo de mapeo.

¿Cómo funciona?

El componente se conecta a la API de Baidu Qianfan a través de la librería langchain. Cuando lo arrastras al flujo, seleccionas el modelo que deseas usar y configuras los parámetros de generación (temperatura, top‑p, penalización). Si el modelo es personalizado, también puedes indicar el endpoint. Cuando el flujo se ejecuta, el componente envía la entrada al servicio de Baidu, recibe la respuesta y la devuelve como un mensaje de texto. Si activas el Mapping Mode, el componente puede recibir una lista de entradas y devolver una lista de respuestas, lo que facilita el procesamiento por lotes.

Entradas

Modo de Mapeo (Mapping Mode)

Este componente cuenta con un modo especial llamado “Mapping Mode” (Modo de Mapeo). Cuando activas este modo mediante el interruptor, se habilita una entrada adicional llamada “Mapping Data” y cada campo de entrada te ofrece tres formas diferentes de proporcionar datos:

  • Fixed (Fijo): Escribes el valor directamente en el campo.
  • Mapped (Mapeado): Conectas la salida de otro componente para usar su resultado como valor.
  • Javascript: Escribes código Javascript para calcular el valor dinámicamente.

Esta flexibilidad te permite crear flujos de trabajo más dinámicos y conectados.

Campos de Entrada

  • Endpoint: Endpoint del LLM de Qianfan, requerido si se usa un modelo personalizado.
  • Input: Mensaje de entrada que se enviará al modelo.
  • Mapping Mode: Habilita el modo de mapeo para procesar múltiples registros en lote.
  • Model Name: Selecciona el modelo de Baidu Qianfan que quieres usar.
  • Penalty Score: Parámetro del modelo, solo soportado en ERNIE‑Bot y ERNIE‑Bot‑turbo.
  • Stream: Stream the response from the model. Streaming works only in Chat.
  • System Message: Mensaje de sistema que se pasa al modelo.
  • Temperature: Parámetro del modelo, solo soportado en ERNIE‑Bot y ERNIE‑Bot‑turbo.
  • Top p: Parámetro del modelo, solo soportado en ERNIE‑Bot y ERNIE‑Bot‑turbo.

Credencial
Este componente requiere una credencial de tipo QianFan API.

  1. Configura primero la credencial en la sección de credenciales de Nappai.
  2. Luego selecciona esa credencial en el campo Credential del componente.
    La credencial necesita los datos:
  • Qianfan Ak (password)
  • QianFan Secret Key (password)
    Los campos de la credencial no aparecen en la sección de entrada.

Salidas

  • Text: Tipo de datos: Message (método: text_response).
    La respuesta generada por el modelo.
  • Model: Tipo de datos: LanguageModel (método: build_model).
    El objeto del modelo que puede usarse en otros componentes.

Ejemplo de Uso

  1. Arrastra el componente Qianfan al flujo.
  2. Selecciona la credencial QianFan API.
  3. Elige el modelo ERNIE‑Bot‑turbo.
  4. Configura Temperature a 0.7 y Top p a 0.9.
  5. En el campo Input escribe: “¿Cuál es la capital de Francia?”.
  6. Ejecuta el flujo.
  7. La salida Text mostrará: “La capital de Francia es París.”

Uso con Mapping Mode
Si quieres generar respuestas para varias preguntas a la vez, activa Mapping Mode, conecta una lista de preguntas al campo Input y el componente devolverá una lista de respuestas en la salida Text.

Componentes Relacionados

  • OpenAIChatModel – Genera texto usando la API de OpenAI.
  • AnthropicClaudeModel – Genera texto con Claude de Anthropic.
  • AzureOpenAIChatModel – Genera texto usando Azure OpenAI.

Consejos y Mejores Prácticas

  • Usa Mapping Mode cuando necesites procesar grandes volúmenes de datos de forma eficiente.
  • Ajusta Temperature a valores bajos (≈0.3) para respuestas más coherentes y a valores altos (≈0.9) para mayor creatividad.
  • Si solo necesitas una respuesta, desactiva Stream para simplificar la lógica de manejo de datos.
  • Guarda la credencial en el gestor de credenciales de Nappai y evita exponerla en el flujo.

Consideraciones de Seguridad

  • La credencial QianFan API contiene claves sensibles; manténla oculta y nunca la compartas.
  • Asegúrate de que solo los usuarios autorizados tengan acceso a la sección de credenciales.
  • Si usas Stream, revisa que la transmisión de datos no revele información confidencial en tiempo real.