LM Studio Embeddings
LM Studio Embeddings convierte textos en una huella numérica de su significado usando un modelo cargado en LM Studio, la aplicación para ejecutar modelos de IA en tu propio equipo o servidor. Con esa huella, NappAI puede encontrar los documentos que dicen algo parecido a lo que buscas aunque usen otras palabras, por ejemplo en una base de conocimiento.
El componente se conecta a una base de datos vectorial, que lo usa tanto para guardar tus documentos como para buscar en ellos. Úsalo si quieres que los textos no salgan de un servidor que controla tu empresa.
Cuándo usarlo
- Dar a un agente el conocimiento de tus manuales, contratos o preguntas frecuentes, guardándolos en una base de datos vectorial.
- Montar un buscador interno que encuentre documentos por su significado y no solo por palabras exactas.
- Tu empresa ya tiene un servidor con LM Studio y no quiere depender de un servicio externo.
Configuración
| Campo | Qué hace |
|---|---|
| LM Studio Base URL (obligatorio) | La dirección de tu servidor de LM Studio. Tiene que ser accesible desde NappAI. |
| Model (obligatorio) | El modelo de LM Studio que calcula las huellas. Pulsa el botón de recargar para cargar la lista de modelos de tu servidor y elige un modelo de embeddings. |
Opciones avanzadas
| Campo | Qué hace |
|---|---|
| Model Temperature | Ajuste heredado de los modelos que escriben texto. Por defecto: 0.1. No hace falta cambiarlo. |
Resultado
- Embeddings: el modelo que calcula las huellas, listo para usar. Conéctalo a la entrada Embedding de una base de datos vectorial: Astra DB, Cassandra, Chroma DB, Couchbase, Elasticsearch, FAISS, Milvus, MongoDB Vector Store, PGVector, Pinecone, Qdrant, Redis, Supabase Vector Store, Upstash, Vectara, Weaviate Cloud (v4). También lo aceptan otros componentes con una entrada de este tipo, como Semantic Text Splitter o Text Embedder.
Ejemplo
Una asesoría laboral, Asesores Ribera, quiere que su asistente responda con sus plantillas de contratos, sin que salgan de su servidor.
- En un flujo de carga, divide los documentos en fragmentos con Recursive Character Text Splitter y pásalos a Chroma DB con Operation en
Add. - Añade LM Studio Embeddings y conecta su salida Embeddings a la entrada Embedding de Chroma DB.
- En el flujo del asistente, usa la misma colección de Chroma DB con el mismo componente LM Studio Embeddings para buscar los fragmentos que responden a cada pregunta.