AI21 Labs Chat AI de acción

La acción Chat AI de AI21 Labs conecta las automatizaciones con la funcionalidad de Chat AI de Amazon Bedrock AI21 Labs. Esta acción permite a las automatizaciones entablar conversaciones naturales, informativas y contextualizadas con los usuarios, lo que proporcionará una experiencia de automatización más personalizada y atractiva.

Antes de empezar

  • Debe tener el rol Bot Creator para usar la acción de AI21 Labs Chat AI en un bot.
  • Asegúrese de tener las credenciales necesarias para enviar una solicitud y haber incluido Amazon Bedrock: acción Autenticar antes de llamar cualquier acción de Amazon Bedrock.

En este ejemplo, se muestra cómo enviar un mensaje en lenguaje natural con la acción de AI21 Labs Chat AI de Google y obtener una respuesta adecuada.

Procedimiento

  1. En la Control Room, navegue hasta el panel Acciones, seleccione IA generativa > de Amazon Bedrock y arrastre AI21 Labs: Chat AI y colóquelo en el lienzo.
  2. Ingrese o seleccione los siguientes campos:

    AI21 Labs Chat AI de Amazon Bedrock

    1. Ingrese la Región. Para obtener información sobre la región, consulte Regiones de Amazon Bedrock GA.
    2. Haga clic en el menú desplegable Modelo y seleccione un modelo con el cual comunicarse.
      • Jurassic-2 Mid: Jurassic-2 Mid es el modelo de tamaño mediano de la serie Jurassic-2 y se utiliza para una amplia gama de tareas de comprensión y generación de lenguaje.
      • Jurassic-2 Ultra: Jurassic-2 Ultra es un modelo mejor de la serie Jurassic-2 y está diseñado para las tareas de generación de lenguaje más complejas.
      • Otra versión compatible: Para ingresar otras versiones compatibles de los modelos mencionados anteriormente. Para obtener más información, consulte AI21 Labs Jurassic-2 models schema
      Nota: Los paquetes de IA generativa dependen del esquema específico de entrada/salida de un modelo para funcionar correctamente. Dado que los diferentes modelos a menudo tienen esquemas distintos, solo se pueden integrar versiones del mismo modelo. Para otras versiones compatibles, consulte la documentación del hiperescalador para obtener más información sobre las versiones compatibles de los modelos.
    3. Ingrese un mensaje para que el modelo lo use para generar una respuesta.
      Nota: Las acciones de chat conservan el resultado de la acción de chat anterior dentro de la misma sesión. Si activa las acciones de chat consecutivamente, el modelo puede comprender los mensajes posteriores y relacionarlos con el mensaje anterior. Sin embargo, todo el historial de chat se elimina una vez finalizada la sesión.
    4. Introduzca la longitud máxima de finalización.
      De manera predeterminada, si no ingresa un valor, la longitud máxima de finalización se establece automáticamente para mantenerla dentro de la longitud máxima de contexto del modelo seleccionado considerando la longitud de la respuesta generada.
    5. Introduzca una Temperatura. Este valor se refiere a la aleatoriedad de la respuesta. A medida que la temperatura se acerca a cero, la respuesta se vuelve más específica. Cuanto más alto es el valor, más aleatoria es la respuesta.
    6. Introduzca Predeterminado como nombre de la sesión para limitarla a la sesión actual.
    7. Para administrar los parámetros opcionales, haga clic en Mostrar más opciones y seleccione Sí. Si selecciona Sí, puede agregar otros parámetros como los siguientes: P Superior, Agregar instrucciones, Penalización de presencia, Penalización de conteo, Penalización de frecuencia, Penalizar tokens especiales y Detener secuencias. Para obtener información acerca de estos parámetros opcionales, consulte ‌Modelos de aprendizaje‌.
    8. Guardar la respuesta en una variable. Por ejemplo, la respuesta se guarda en str_AI21Labs_chatResponse.
  3. Haga clic en Ejecutar para iniciar el bot.
    Podrá leer el valor del campo simplemente mediante la impresión de la respuesta en un Cuadro de mensaje acción. En este ejemplo, str_AI21Labs_chatResponse imprime la respuesta. Puede agregar solicitudes de chat adicionales para obtener respuestas adicionales.
    Consejo: Para mantener múltiples chats en el mismo bot, deberá crear múltiples sesiones con diferentes nombres o variables.