action Bate-papo da IA da AI21 Labs

A ação AI21 Labs Chat AI conecta as automações à funcionalidade Chat AI AI21 Labs do Amazon Bedrock. Esta ação permite que as automações se envolvam em conversas naturais, informativas e conscientes do contexto com os usuários, proporcionando uma experiência de automação mais personalizada e envolvente.

Pré-requisitos

  • Você precisa ter a função Criador de bots para usar a açãoAI21 Labs Chat AI em um bot.
  • Certifique-se de ter as credenciais obrigatórias para enviar uma solicitação e de ter incluído Amazon Bedrock: Authenticate action antes de chamar qualquer ação do Amazon Bedrock.

Este exemplo mostra como enviar uma mensagem em linguagem natural usando a ação AI21 Labs Chat AI e obter uma resposta adequada.

Procedimento

  1. Na Control Room, acesse o painel Ações, selecione IA generativa > Amazon Bedrock, arraste AI21 Labs: Chat AI e coloque-a na tela.
  2. Insira ou selecione os seguintes campos:

    AI21 Labs Chat AI do Amazon Bedrock

    1. Insira a Região. Para obter informações sobre região, consulte Regiões do Amazon Bedrock GA.
    2. Clique no menu suspenso Modelo e selecione um modelo com o qual deseja se comunicar.
      • Jurassic-2 Mid: Jurassic-2 Mid é o modelo de tamanho médio da série Jurassic-2 e é usado para uma ampla gama de tarefas de compreensão e geração de linguagem.
      • Jurassic-2 Ultra: Jurassic-2 Ultra é um modelo melhor da série Jurassic-2, projetado para as tarefas mais complexas de geração de linguagem.
      • Outra versão compatível: Para inserir outros modelos compatíveis.
    3. Envie uma mensagem no chat para ser usada pelo modelo para gerar uma resposta.
      Nota: Chat actions retain the result of the previous chat action within the same session. If you call chat actions consecutively, the model can understand subsequent messages and relate them to the previous message. However, all chat history is deleted after the session ends.
    4. Insira o comprimento máximo de conclusão.
      Por padrão, se você não inserir um valor, o comprimento máximo de conclusão será definido automaticamente para mantê-lo dentro do comprimento máximo de contexto do modelo selecionado, considerando o comprimento da resposta gerada.
    5. Digite uma Temperatura. Esse valor se refere à aleatoriedade da resposta. À medida que a temperatura se aproxima de zero, a resposta se torna mais específica. Quanto maior o valor, mais aleatória é a resposta.
    6. Digite Padrão como o nome da sessão para limitar a sessão à sessão atual.
    7. Para gerenciar os parâmetros opcionais, clique em Mostrar mais opções e selecione Sim. Se você selecionar Sim, poderá adicionar outros parâmetros, como: Top P, Adicionar instruções, Penalidade de presença, Penalidade de contagem, Penalidade de frequência, Penalizar tokens especiais e Interromper sequências. Para mais informações sobre esses parâmetros opcionais, consulte Aprender modelos.
    8. Salve a resposta em uma variável. Neste exemplo, a resposta é salva como str_AI21Labs_chatResponse.
  3. Clique em Executar para iniciar o bot.
    Você pode ler o valor do campo imprimindo a resposta em uma action de Caixa de mensagem. Neste exemplo, str_AI21Labs_chatResponse imprime a resposta. Você pode incluir solicitações de chat adicionais para obter mais respostas.
    Dica: To maintain multiple chats in the same bot, you will need to create multiple sessions with different names or variables.