Saltearse al contenido

HuggingFace Embeddings

HuggingFace Embeddings convierte textos en una huella numérica de su significado usando un modelo de Hugging Face servido por un servicio de inferencia. Con esa huella, NappAI puede encontrar los documentos que dicen algo parecido a lo que buscas aunque usen otras palabras, por ejemplo en una base de conocimiento.

El componente se conecta a una base de datos vectorial, que lo usa tanto para guardar tus documentos como para buscar en ellos. Úsalo si tu empresa trabaja con Hugging Face o tiene su propio servicio de inferencia con un modelo de Hugging Face.

Cuándo usarlo

  • Dar a un agente el conocimiento de tus manuales, contratos o preguntas frecuentes, guardándolos en una base de datos vectorial.
  • Montar un buscador interno que encuentre documentos por su significado y no solo por palabras exactas.
  • Quieres usar un modelo concreto publicado en Hugging Face.

Configuración

CampoQué hace
Credential (obligatorio)La credencial del servicio HuggingFace API. Elige una con Seleccionar una credencial o crea una con Crear nueva credencial. Consulta Credenciales.
Model NameEl nombre del modelo de Hugging Face que calcula las huellas. Por defecto: BAAI/bge-large-en-v1.5, un modelo para textos en inglés.

Opciones avanzadas

CampoQué hace
API KeyLa clave de tu cuenta de Hugging Face; se muestra oculta. El componente la necesita para funcionar. El valor también puede llegar desde otro componente, por ejemplo Environment Variable.
API URLLa dirección del servicio de inferencia de Hugging Face al que se conecta el componente. Escribe la de tu servicio.

Procesamiento por lotes

Con el interruptor Batch Mode activado, el componente se ejecuta una vez por cada elemento de la lista que conectes en Batch Input y devuelve todos los resultados juntos en una lista. Parallel Executions indica cuántos elementos se procesan a la vez (de 1 a 5). Skip if Empty Batch Input salta el componente si la lista llega vacía, y Skip Branch if Empty Output detiene los componentes siguientes si el resultado está vacío. Más información en Conceptos clave.

Resultado

Ejemplo

Un despacho de arquitectura, Estudio Albar, quiere que su asistente responda con su archivo de memorias de proyecto.

  1. En un flujo de carga, divide los documentos en fragmentos con Recursive Character Text Splitter y pásalos a Chroma DB con Operation en Add.
  2. Añade HuggingFace Embeddings y conecta su salida Embeddings a la entrada Embedding de Chroma DB.
  3. En el flujo del asistente, usa la misma colección de Chroma DB con el mismo componente HuggingFace Embeddings para buscar los fragmentos que responden a cada pregunta.

Buenas prácticas

  • El modelo por defecto está pensado para textos en inglés. Si tus documentos están en español o en varios idiomas, escribe en Model Name un modelo multilingüe de Hugging Face.

Componentes relacionados