Amazon Bedrock

Amazon Bedrock es un componente que permite a los usuarios de Nappai generar texto y embeddings utilizando los modelos de Amazon Bedrock y otros proveedores compatibles. Con este componente, puedes aprovechar la potencia de modelos como Claude, Titan, Llama y más, directamente desde tu flujo de trabajo sin preocuparte por la configuración de la API.

¿Cómo funciona?

El componente crea una conexión con el servicio Amazon Bedrock usando las credenciales que hayas configurado previamente en Nappai. Cuando envías una solicitud, el componente envía el texto de entrada al modelo seleccionado y devuelve la respuesta generada. Si habilitas el modo de streaming, la respuesta se entrega en tiempo real, lo que es útil para chats o interfaces interactivas.

Modo de Mapeo (Mapping Mode)

Este componente cuenta con un modo especial llamado “Mapping Mode” (Modo de Mapeo). Cuando activas este modo mediante el interruptor, se habilita una entrada adicional llamada “Mapping Data” y cada campo de entrada te ofrece tres formas diferentes de proporcionar datos:

Fixed (Fijo): Escribes el valor directamente en el campo.
Mapped (Mapeado): Conectas la salida de otro componente para usar su resultado como valor.
Javascript: Escribes código Javascript para calcular el valor dinámicamente.

Esta flexibilidad te permite crear flujos de trabajo más dinámicos y conectados.

Campos de Entrada

Los siguientes campos están disponibles para configurar este componente. Cada campo puede ser configurado de forma fija, mapeada o mediante Javascript.

Endpoint URL: URL personalizada del endpoint de Bedrock. Útil si usas un punto final alternativo o local.
Input: Texto que quieres enviar al modelo. Puede ser un mensaje de chat o una consulta de generación.
Mapping Mode: Interruptor que habilita el modo de mapeo para procesar múltiples registros en lote.
Model ID: Identificador del modelo que deseas usar (por ejemplo, anthropic.claude-3-haiku-20240307-v1:0).
Model Kwargs: Parámetros adicionales que se pasan al modelo (por ejemplo, temperatura, máximo de tokens, etc.). Se acepta como un diccionario.
Stream: Si está activado, la respuesta se envía en tiempo real. Solo funciona en modo chat.
System Message: Mensaje de sistema que se pasa al modelo para guiar su comportamiento (por ejemplo, “Actúa como un asistente de soporte técnico”).

Credencial
Este componente requiere una credencial de tipo Amazon Bedrock API.

Configura primero la credencial en la sección de credenciales de Nappai.

Luego selecciona esa credencial en el campo Credential del componente.
Los datos de la credencial (API Keys, tokens, passwords) ya están excluidos de la lista de inputs y no aparecerán en la sección de campos de entrada.

Salidas

Text: Mensaje generado por el modelo (tipo Message).
Model: Instancia del modelo de lenguaje (LanguageModel) que puede ser reutilizada en otros componentes.

Ejemplo de Uso

Configura la credencial: En la sección de credenciales de Nappai, crea una nueva credencial llamada BedrockCred con tu Access Key, Secret Key y región.
Añade el componente: Arrastra el componente Amazon Bedrock al flujo.
Selecciona la credencial: En el campo Credential, elige BedrockCred.
Elige el modelo: En Model ID, selecciona anthropic.claude-3-haiku-20240307-v1:0.
Introduce el texto: En Input, escribe “¿Cuál es la capital de Francia?”.
Ejecuta: Haz clic en “Run”.
Revisa la salida: En la pestaña de salidas, verás el texto generado (“La capital de Francia es París.”) y la instancia del modelo.

Componentes Relacionados

OpenAI Model – Genera texto usando modelos de OpenAI.
Google Gemini Model – Accede a los modelos de Google Gemini.
ChatGPT Model – Interfaz con ChatGPT de OpenAI.
Text Embedding – Genera embeddings de texto para búsqueda y análisis.

Consejos y Mejores Prácticas

Usa modelos adecuados: Elige el modelo que mejor se adapte a tu caso de uso (por ejemplo, Claude para respuestas más coherentes, Titan para velocidad).
Controla la temperatura: Ajusta la temperatura en Model Kwargs para obtener respuestas más creativas o más determinísticas.
Habilita streaming cuando sea posible: Si tu aplicación necesita respuestas en tiempo real, activa la opción Stream.
Gestiona los límites de tokens: Establece un límite de tokens en Model Kwargs para evitar costos inesperados.
Prueba en modo de mapeo: Si procesas listas de preguntas, activa Mapping Mode y conecta la salida de un componente de lista.

Consideraciones de Seguridad

Protege tus credenciales: Nunca compartas la credencial Amazon Bedrock API en repositorios públicos.
Revisa los permisos: Asegúrate de que la cuenta de AWS tenga solo los permisos necesarios para Bedrock.
Monitorea el uso: Configura alertas en AWS para detectar picos de uso inesperados.
Valida la entrada: Sanitiza el texto de entrada para evitar inyecciones de comandos o contenido malicioso.