Invocar un modelo basado en texto en SageMaker
- Última actualización2024/10/31
En este tema, se utiliza un ejemplo para describir cómo invocar el modelo de IA LLAMA 2 de Meta a través de AWS SageMaker.
La familia de modelos de lenguaje extenso (LLM) Llama 2 es una colección de modelos de texto generativos previamente entrenados y ajustados que varían en escala de 7 mil millones a 70 mil millones de parámetros. Los LLM ajustados, llamados Llama-2-chat, están optimizados para casos de uso de diálogos. Puede utilizar la acción Invocar punto final de SageMaker de Automation Anywhere para enviar un mensaje y recibir una respuesta de este modelo. En este ejemplo, se envía una petición de datos al modelo y aparece una respuesta en un cuadro de mensaje.