Grok

El componente Grok permite a los usuarios generar texto con los modelos de lenguaje Grok. Se integra directamente con la API de Grok (o cualquier API compatible con el formato de XAI) y ofrece opciones de configuración avanzadas, como generación de JSON estructurado, control de temperatura y procesamiento por lotes mediante el modo de mapeo.

¿Cómo funciona?

Cuando activas el componente, Nappai envía una solicitud a la API de Grok utilizando la clave de API que has configurado en la sección de credenciales. El componente construye un objeto ChatXAI con los parámetros que hayas especificado (modelo, temperatura, tokens máximos, etc.). Si habilitas el modo JSON, el modelo devolverá la respuesta en formato JSON, lo que facilita su posterior procesamiento. Además, el componente puede transmitir la respuesta en tiempo real (streaming) y registrar eventos de uso a través de LLMCallbackHandler.

Entradas

Modo de Mapeo (Mapping Mode)

Este componente cuenta con un modo especial llamado “Mapping Mode” (Modo de Mapeo). Cuando activas este modo mediante el interruptor, se habilita una entrada adicional llamada “Mapping Data” y cada campo de entrada te ofrece tres formas diferentes de proporcionar datos:

Fixed (Fijo): Escribes el valor directamente en el campo.
Mapped (Mapeado): Conectas la salida de otro componente para usar su resultado como valor.
Javascript: Escribes código Javascript para calcular el valor dinámicamente.

Esta flexibilidad te permite crear flujos de trabajo más dinámicos y conectados.

Campos de Entrada

Los siguientes campos están disponibles para configurar este componente. Cada campo puede ser configurado en modo fijo, mapeado o con Javascript.

Grok API Base: La URL base de la API de Grok. Por defecto es https://api.x.ai/v1. Puedes cambiarla para usar otros servicios compatibles como JinaChat, LocalAI o Prem.
Grok API Key: La clave de API que se utiliza para autenticarte con Grok. Esta clave se gestiona a través de la credencial Grok API y no aparece directamente en la lista de entradas.
Input: El texto o la pregunta que quieres enviar al modelo. Puedes usarlo para enviar prompts personalizados.
JSON Mode: Si se activa, el modelo devolverá siempre JSON, independientemente de si se ha pasado un esquema.
Mapping Mode: Activa el modo de mapeo para procesar múltiples registros en lote.
Max Tokens: El número máximo de tokens que el modelo puede generar. Establece 0 para tokens ilimitados.
Model Kwargs: Parámetros adicionales que se pasan al modelo (por ejemplo, stop, presence_penalty, etc.).
Model Name: El nombre del modelo Grok que quieres usar. Se llena automáticamente con la lista de modelos disponibles en la API o con la lista predeterminada.
Schema: El esquema JSON que define la estructura de la salida. Si se deja vacío, el modo JSON se desactiva.
Seed: Semilla para controlar la reproducibilidad de la generación.
Stream: Si se activa, la respuesta se enviará en tiempo real (solo funciona en modo chat).
System Message: Mensaje de sistema que se pasa al modelo para guiar su comportamiento.
Temperature: Controla la aleatoriedad de la generación. Valores bajos (p. ej. 0.1) producen respuestas más determinísticas.

Nota sobre credenciales
Antes de usar el componente, debes:

Configurar la credencial Grok API en la sección de credenciales de Nappai.

Seleccionar esa credencial en el campo Credential del componente.
La clave de API se gestiona de forma segura y no aparece en la lista de entradas.

Salidas

Text: La respuesta generada por el modelo en formato de mensaje de texto.
Model: El objeto LanguageModel configurado, que puede ser reutilizado en otros componentes o flujos.

Ejemplo de Uso

Supongamos que quieres generar un resumen breve de un artículo de noticias.

Configura la credencial: Asegúrate de que la credencial Grok API esté creada y seleccionada.

Define el prompt: En el campo Input escribe:

Resume el siguiente artículo en 3 frases: {article_text}

Selecciona el modelo: Elige grok-3-mini-beta en Model Name.
Activa JSON Mode: Marca la casilla JSON Mode para obtener la respuesta estructurada.
Ejecuta: El componente devolverá un objeto JSON con la propiedad summary.
Conecta: Puedes usar la salida Text para mostrar el resumen en un panel o la salida Model para pasarla a otro componente que realice análisis adicional.

Componentes Relacionados

ChatXAI – El motor subyacente que se comunica con la API de Grok.
LLMCallbackHandler – Registra eventos y métricas de uso del modelo dentro de Nappai.

Consejos y Mejores Prácticas

Elige el modelo adecuado: Los modelos más pequeños (grok-3-mini-beta) son más rápidos y económicos, mientras que los más grandes ofrecen mayor coherencia.
Controla la temperatura: Para respuestas más predecibles, usa valores bajos (0.1‑0.3).
Usa JSON Mode cuando necesites datos estructurados: Facilita la extracción de campos específicos sin procesamiento adicional.
Aprovecha el Modo de Mapeo: Si necesitas procesar listas de entradas, activa Mapping Mode y conecta la entrada Mapping Data a un flujo de datos.
Revisa los tokens máximos: Ajusta Max Tokens según la longitud esperada de la respuesta para evitar costos innecesarios.

Consideraciones de Seguridad

Clave de API: Mantén la clave de Grok en la sección de credenciales y evita exponerla en el flujo de trabajo.
Datos sensibles: Si envías información confidencial al modelo, asegúrate de que la política de privacidad de Grok permita su uso.
Control de acceso: Limita quién puede editar la credencial y el componente para evitar usos indebidos.