AI21 Labs Bate-papo da IA da ação

A ação AI21 Labs Chat AI conecta as automações à funcionalidade Chat AI Amazon Bedrock do AI21 Labs. Esta ação permite que as automações se envolvam em conversas naturais, informativas e conscientes do contexto com os usuários, proporcionando uma experiência de automação mais personalizada e envolvente.

Pré-requisitos

  • Você precisa ter a função Criador de bots para usar a açãoAI21 Labs Chat AI em um bot.
  • Certifique-se de ter as credenciais obrigatórias para enviar uma solicitação e de ter incluído Amazon Bedrock: ação Autenticação antes de chamar qualquer ação do Amazon Bedrock.

Este exemplo mostra como enviar uma mensagem em linguagem natural usando a ação AI21 Labs Chat AI e obter uma resposta adequada.

Procedimento

  1. Na Control Room, acesse o painel Ações, selecione IA generativa > Amazon Bedrock, arraste AI21 Labs: Chat AI e posicione a opção na tela.
  2. Insira ou selecione os seguintes campos:

    AI21 Labs Chat AI do Amazon Bedrock

    1. Insira a Região. Para obter informações sobre região, consulte Regiões do Amazon Bedrock GA.
    2. Clique no menu suspenso Modelo e selecione um modelo com o qual deseja se comunicar.
      • Jurassic-2 Mid: Jurassic-2 Mid é o modelo de tamanho médio da série Jurassic-2 e é usado para uma ampla gama de tarefas de compreensão e geração de linguagem.
      • Jurassic-2 Ultra: Jurassic-2 Ultra é um modelo melhor da série Jurassic-2, projetado para as tarefas mais complexas de geração de linguagem.
      • Outra versão compatível: Para inserir outras versões compatíveis dos modelos acima. Para obter mais informações, consulte AI21 Labs Jurassic-2 models schema
      Nota: Pacotes de IA generativa dependem do esquema específico de entrada/saída de um modelo para funcionar de forma correta. Como é comum que diferentes modelos tenham esquemas distintos, apenas versões do mesmo modelo podem ser integradas. Para outras versões compatíveis, consulte a documentação do hyperscaler para versões suportadas dos modelos.
    3. Envie uma mensagem no chat para ser usada pelo modelo para gerar uma resposta.
      Nota: As ações de chat manterão o resultado da ação de chat anterior na mesma sessão. Se você chamar ações de chat consecutivamente, o modelo poderá entender as mensagens subsequentes e relacioná-las à mensagem anterior. No entanto, todo o histórico de chat é excluído após o término da sessão.
    4. Insira o comprimento máximo de conclusão.
      Por padrão, se você não inserir um valor, o comprimento máximo de conclusão será definido automaticamente para mantê-lo dentro do comprimento máximo de contexto do modelo selecionado, considerando o comprimento da resposta gerada.
    5. Digite uma Temperatura. Esse valor se refere à aleatoriedade da resposta. À medida que a temperatura se aproxima de zero, a resposta se torna mais específica. Quanto maior o valor, mais aleatória é a resposta.
    6. Digite Padrão como o nome da sessão para limitar a sessão à sessão atual.
    7. Para gerenciar os parâmetros opcionais, clique em Mostrar mais opções e selecione Sim. Se você selecionar Sim, poderá adicionar outros parâmetros, como: Top P, Adicionar instruções, Penalidade de presença, Penalidade de contagem, Penalidade de frequência, Penalizar tokens especiais e Interromper sequências. Para mais informações sobre esses parâmetros opcionais, consulte Aprender modelos.
    8. Salve a resposta em uma variável. Neste exemplo, a resposta é salva como str_AI21Labs_chatResponse.
  3. Clique em Executar para iniciar o bot.
    Você pode ler o valor do campo imprimindo a resposta em uma ação Caixa de mensagem. Neste exemplo, str_AI21Labs_chatResponse imprime a resposta. Você pode incluir solicitações de chat adicionais para obter mais respostas.
    Dica: Para manter vários chats no mesmo bot, será necessário criar várias sessões com nomes ou variáveis diferentes.