HuggingFace
HuggingFace conecta tus flujos con modelos de IA publicados en Hugging Face. Puedes usarlo de dos formas: como el modelo de un agente, conectando su salida Model a la entrada Model del agente, o por sí solo, para que responda al texto que le llega por Input.
Cuándo usarlo
- Dar a un agente el modelo con el que entiende las peticiones, decide qué herramientas usar y responde.
- Redactar, resumir o clasificar textos dentro de un flujo, sin necesidad de un agente.
- Procesar una lista de textos uno a uno, por ejemplo todas las reseñas de un mes, con Batch Mode.
- Usar un modelo abierto concreto, o uno propio publicado en Hugging Face.
Configuración
En la pestaña Comun:
| Campo | Qué hace |
|---|---|
| Model ID (obligatorio) | El modelo que responde. Elígelo en la lista o elige custom para escribir otro. Por defecto: meta-llama/Llama-3.3-70B-Instruct. |
| Custom Model ID (obligatorio) | Aparece cuando eliges custom en Model ID. Escribe el identificador del modelo tal como aparece en Hugging Face. |
| Max New Tokens | La longitud máxima de la respuesta, en tokens (fragmentos de palabra). Por defecto: 512. |
| Temperature | Cuánta variedad tienen las respuestas: con valores bajos son más estables y previsibles; con valores altos, más creativas. Por defecto: 0.1. |
| Inference Endpoint (obligatorio) | La dirección del servicio que ejecuta el modelo. Déjala como está para usar Hugging Face. Si escribes la dirección de un servicio propio, se usa tal cual, sin añadirle el Model ID. |
| Credential (obligatorio) | La credencial del servicio HuggingFace API. Elige una en la lista (Seleccionar una credencial) o crea otra con Crear nueva credencial. Consulta Credenciales. |
| Conexión | Qué conectar |
|---|---|
| Input | El texto al que debe responder el modelo cuando trabaja solo, por ejemplo el mensaje de un Chat Input o el resultado de un Prompt. |
Opciones avanzadas
En la pestaña Avanzado:
| Campo | Qué hace |
|---|---|
| System Message | Instrucciones generales para el modelo cuando trabaja solo: su papel, el tono, lo que debe evitar. Puedes escribirlas o conectarlas desde otro componente. |
| Stream | Muestra la respuesta en el chat a medida que se escribe, en lugar de esperar a que termine. Solo tiene efecto en el chat. Por defecto: desactivado. |
| Task | El tipo de tarea que se pide al modelo: generar texto, resumir o traducir. Por defecto: text-generation. |
| Top K y Top P y Typical P | Otras formas de controlar la variedad de la respuesta. Normalmente basta con Temperature. |
| Repetition Penalty | Cuánto se penalizan las repeticiones; 1.0 es sin penalización. |
| Retry Attempts | Cuántas veces se intenta conectar con el servicio. Por defecto: 1. |
| Otras opciones | Model Keyword Arguments: ajustes finos para usuarios avanzados. Déjalos con su valor si no los necesitas. |
Procesamiento por lotes
Con el interruptor Batch Mode activado, el componente se ejecuta una vez por cada elemento de la lista que conectes en Batch Input y devuelve todos los resultados juntos en una lista. Parallel Executions indica cuántos elementos se procesan a la vez (de 1 a 5). Skip if Empty Batch Input salta el componente si la lista llega vacía, y Skip Branch if Empty Output detiene los componentes siguientes si el resultado está vacío. Más información en Conceptos clave.
Resultado
| Salida | Qué contiene |
|---|---|
| Model | El modelo ya configurado. Aparece en la parte superior del componente. Conéctalo a la entrada Model de un agente o de cualquier otro componente que pida un modelo. |
| Text | La respuesta del modelo al texto recibido en Input. Conéctala, por ejemplo, a un Chat Output o a otro componente que trabaje con texto. |
Las dos formas de uso se excluyen: cuando conectas la salida Model, el componente oculta Input y Text, porque el modelo pasa a trabajar dentro del otro componente; y si conectas Input, se oculta Model.
Ejemplo
La cooperativa Huerta Viva quiere resumir las fichas de sus productos con un modelo abierto. Conecta un Prompt a la entrada Input de HuggingFace, elige la credencial y deja el modelo por defecto. La salida Text con el resumen se guarda en el paso siguiente del flujo.
Buenas prácticas
- Usa una Temperature baja cuando necesites respuestas exactas, como clasificar o extraer datos, y súbela para textos más creativos.
- Si vas a usar el modelo con un agente, configura aquí solo el modelo: las instrucciones y las herramientas se definen en el agente.