Saltearse al contenido

Groq

Groq conecta tus flujos con los modelos de IA que sirve Groq, un servicio pensado para responder rápido. Puedes usarlo de dos formas: como el modelo de un agente, conectando su salida Model a la entrada Model del agente, o por sí solo, para que responda al texto que le llega por Input.

Cuándo usarlo

  • Dar a un agente el modelo con el que entiende las peticiones, decide qué herramientas usar y responde.
  • Redactar, resumir o clasificar textos dentro de un flujo, sin necesidad de un agente.
  • Procesar una lista de textos uno a uno, por ejemplo todas las reseñas de un mes, con Batch Mode.
  • Dar a un agente de voz un modelo que conteste sin hacer esperar al llamante.

Configuración

En la pestaña Comun:

CampoQué hace
TemperatureCuánta variedad tienen las respuestas: con valores bajos son más estables y previsibles; con valores altos, más creativas. Admite valores entre 0 y 1. Por defecto: 0.1.
ModelEl modelo que responde. Después de elegir la credencial, pulsa el botón de actualizar junto al campo para cargar los modelos que puede usar tu cuenta.
Credential (obligatorio)La credencial del servicio Groq API. Elige una en la lista (Seleccionar una credencial) o crea otra con Crear nueva credencial. Consulta Credenciales.
ConexiónQué conectar
InputEl texto al que debe responder el modelo cuando trabaja solo, por ejemplo el mensaje de un Chat Input o el resultado de un Prompt.

Opciones avanzadas

En la pestaña Avanzado:

CampoQué hace
System MessageInstrucciones generales para el modelo cuando trabaja solo: su papel, el tono, lo que debe evitar. Puedes escribirlas o conectarlas desde otro componente.
StreamMuestra la respuesta en el chat a medida que se escribe, en lugar de esperar a que termine. Solo tiene efecto en el chat. Por defecto: desactivado.
Reasoning EffortCuánto piensa el modelo antes de responder. Se aplica a los modelos que razonan.
Max Output TokensLa longitud máxima de la respuesta, en tokens (fragmentos de palabra).
Otras opcionesN: ajustes finos para usuarios avanzados. Déjalos con su valor si no los necesitas.

Procesamiento por lotes

Con el interruptor Batch Mode activado, el componente se ejecuta una vez por cada elemento de la lista que conectes en Batch Input y devuelve todos los resultados juntos en una lista. Parallel Executions indica cuántos elementos se procesan a la vez (de 1 a 5). Skip if Empty Batch Input salta el componente si la lista llega vacía, y Skip Branch if Empty Output detiene los componentes siguientes si el resultado está vacío. Más información en Conceptos clave.

Resultado

SalidaQué contiene
ModelEl modelo ya configurado. Aparece en la parte superior del componente. Conéctalo a la entrada Model de un agente o de cualquier otro componente que pida un modelo.
TextLa respuesta del modelo al texto recibido en Input. Conéctala, por ejemplo, a un Chat Output o a otro componente que trabaje con texto.

Las dos formas de uso se excluyen: cuando conectas la salida Model, el componente oculta Input y Text, porque el modelo pasa a trabajar dentro del otro componente; y si conectas Input, se oculta Model.

Ejemplo

La inmobiliaria Costa Azul responde por chat a quien pregunta por sus pisos. Conecta Groq a la entrada Model de un agente que consulta los anuncios, elige la credencial y, tras actualizar la lista, un modelo en Model.

Buenas prácticas

  • Usa una Temperature baja cuando necesites respuestas exactas, como clasificar o extraer datos, y súbela para textos más creativos.
  • Si vas a usar el modelo con un agente, configura aquí solo el modelo: las instrucciones y las herramientas se definen en el agente.

Componentes relacionados