Saltearse al contenido

Cerebras

Cerebras conecta tus flujos con los modelos de IA que sirve Cerebras, un servicio pensado para dar respuestas muy rápidas. Puedes usarlo de dos formas: como el modelo de un agente, conectando su salida Model a la entrada Model del agente, o por sí solo, para que responda al texto que le llega por Input.

Cuándo usarlo

  • Dar a un agente el modelo con el que entiende las peticiones, decide qué herramientas usar y responde.
  • Redactar, resumir o clasificar textos dentro de un flujo, sin necesidad de un agente.
  • Procesar una lista de textos uno a uno, por ejemplo todas las reseñas de un mes, con Batch Mode.
  • Dar a un agente de voz un modelo que conteste sin hacer esperar al llamante.

Configuración

En la pestaña Comun:

CampoQué hace
Model Name (obligatorio)El modelo que responde. Después de elegir la credencial, pulsa el botón de actualizar junto al campo para cargar los modelos que puede usar tu cuenta.
TemperatureCuánta variedad tienen las respuestas: con valores bajos son más estables y previsibles; con valores altos, más creativas. Por defecto: 0.1.
Credential (obligatorio)La credencial del servicio Cerebras API. Elige una en la lista (Seleccionar una credencial) o crea otra con Crear nueva credencial. Consulta Credenciales.
ConexiónQué conectar
InputEl texto al que debe responder el modelo cuando trabaja solo, por ejemplo el mensaje de un Chat Input o el resultado de un Prompt.

Opciones avanzadas

En la pestaña Avanzado:

CampoQué hace
System MessageInstrucciones generales para el modelo cuando trabaja solo: su papel, el tono, lo que debe evitar. Puedes escribirlas o conectarlas desde otro componente.
StreamMuestra la respuesta en el chat a medida que se escribe, en lugar de esperar a que termine. Solo tiene efecto en el chat. Por defecto: desactivado.
Reasoning EffortCuánto piensa el modelo antes de responder. default deja la decisión a Cerebras, salvo en un agente de voz, donde equivale a none. none responde antes; los niveles más altos tardan más. Por defecto: default.
Max TokensLa longitud máxima de la respuesta, en tokens (fragmentos de palabra). Con 0 o vacío no se fija un límite propio.
SeedUn número fijo que ayuda a obtener respuestas parecidas cuando repites la misma petición. Por defecto: 1.
Otras opcionesModel Kwargs: ajustes finos para usuarios avanzados. Déjalos con su valor si no los necesitas.

Procesamiento por lotes

Con el interruptor Batch Mode activado, el componente se ejecuta una vez por cada elemento de la lista que conectes en Batch Input y devuelve todos los resultados juntos en una lista. Parallel Executions indica cuántos elementos se procesan a la vez (de 1 a 5). Skip if Empty Batch Input salta el componente si la lista llega vacía, y Skip Branch if Empty Output detiene los componentes siguientes si el resultado está vacío. Más información en Conceptos clave.

Resultado

SalidaQué contiene
ModelEl modelo ya configurado. Aparece en la parte superior del componente. Conéctalo a la entrada Model de un agente o de cualquier otro componente que pida un modelo.
TextLa respuesta del modelo al texto recibido en Input. Conéctala, por ejemplo, a un Chat Output o a otro componente que trabaje con texto.

Las dos formas de uso se excluyen: cuando conectas la salida Model, el componente oculta Input y Text, porque el modelo pasa a trabajar dentro del otro componente; y si conectas Input, se oculta Model.

Ejemplo

La clínica Dental Sonrisa atiende las citas por teléfono con un agente de voz. Conecta Cerebras a la entrada Model del agente, elige la credencial y un modelo de la lista, y deja Reasoning Effort en default para que responda sin pausas.

Buenas prácticas

  • Usa una Temperature baja cuando necesites respuestas exactas, como clasificar o extraer datos, y súbela para textos más creativos.
  • Si vas a usar el modelo con un agente, configura aquí solo el modelo: las instrucciones y las herramientas se definen en el agente.

Componentes relacionados