Criar Conexões de modelo fundamentadas com o recurso de RAG da Amazon Bedrock

Crie Conexões de modelo Fundamentado em base de conhecimento usando o recurso nativo de RAG (Geração Aumentada por Recuperação) do Amazon Bedrock para gerar informações precisas e contextualmente relevantes referenciadas da Base de conhecimento da Amazon.

Uma consulta de pesquisa na RAG recupera trechos relevantes de conteúdo de grandes conjuntos de dados que são relevantes e precisos para o contexto fornecido. Depois de recuperar as informações relevantes, o modelo as utiliza para gerar uma resposta.

Pré-requisitos

O administrador de automação precisa dessas funções e permissões para criar e gerenciar Conexões de modelo para sua empresa.
  • Função: AAE_Basic, função personalizada de administrador de automação
  • Permissão: Bot Runner assistido
  • Configurações: Gerenciamento de dados de IA deve ser habilitado pelo administrador de automação e a caixa de seleção Permitir que os usuários desabilitem logs em habilidades de IA deve estar marcada. Permitir que os usuários com a licença de Criador de bots desativem o registro de dados ao usar as habilidades de IA para ativar a opção Registro de dados na tela Habilidades de IA.

Veja Funções e permissões para consultar as permissões de função personalizada do administrador de automação.

Outros requisitos:

  • Para utilizar o recurso de RAG do Amazon Bedrock, você deve primeiro criar uma base de conhecimento no Amazon Bedrock antes de criar a Conexão de modelo Fundamentado em base de conhecimento.

    Consulte: Create Base de conhecimento da Amazon

    Fluxo de trabalho para usar o recurso de RAG do Amazon Bedrock para criar Conexões de modelo

  • Para armazenar detalhes de autenticação em um cofre de credenciais, tenha essas informações em mãos. Consulte Armazenamento seguro de credenciais no Cofre de credenciais.
  • Para testar uma Conexão de modelo, é necessário estar conectado ao Agente de bot 22.60.10 e mais recente. Como parte do teste, é necessário executar o bot na sua área de trabalho. Portanto, certifique-se de que o Agente de bot esteja configurado para seu usuário. Para esta tarefa, se você tiver que mudar a conexão para uma outra Control Room, consulte: Alternar o registro do dispositivo entre instâncias da Control Room.
  • Você precisa de acesso aos pacotes Gravador e Habilidades de IA para testar a conexão. Um Prompt de teste deve ser executado para testar a Conexão de modelo.
  • Para usar modelos adicionais do Amazon Bedrock que não estão disponíveis para seleção ao criar uma Conexão de modelo, você teria que obter o ID do modelo e o ARN do modelo dos modelos compatíveis do Amazon Bedrock.

    Consulte: Add Amazon Bedrock models from Serviços da AWS

Procedimento

  1. No ambiente da Control Room, navegue até IA > Conexões de modelo > Criar conexão de modelo.
  2. Na tela Criar conexão de modelo, você definirá as seguintes Configurações de conexão:
    Criar Conexões de modelo fundamentadas com o recurso de RAG da Amazon Bedrock
    1. Nome da conexão do modelo: Forneça um nome para fácil identificação da Conexão de modelo.
    2. Descrição (opcional): Adicione uma breve descrição que defina a conexão.
    3. Escolha um fornecedor: Escolha um fornecedor de modelo básico na lista de fornecedores compatíveis. Para criar uma Conexão de modelo Fundamentado em base de conhecimento com o Amazon Bedrock, selecione Amazon Bedrock na lista suspensa.
    4. Escolha um tipo: Escolha Fundamentado em base de conhecimento para usar o recurso de RAG.
    5. Escolher um modelo ou criar um personalizado: Escolha um modelo na lista suspensa de modelos validados do Amazon Bedrock.
      Além disso, também oferecemos suporte a outros modelos disponíveis no Amazon Bedrock, que não estão disponíveis na lista suspensa. Você pode inserir manualmente o nome do modelo no campo Escolher um modelo ou criar um personalizado. O nome que você inserir será usado para criar a Conexão de modelo. Você pode usar tanto o ID do modelo quanto o ARN do modelo para adicionar à lista. Ver Add Amazon Bedrock models from Serviços da AWS.
      Para obter uma lista completa dos modelos suportados por cada fornecedor de modelo básico, consulte Perguntas frequentes gerais.
    6. Clique em Avançar para ir para a seção Detalhes de autenticação.
  3. Na seção Detalhes de autenticação, defina estas configurações:
    1. Região: Escolha a região onde seu modelo selecionado está implantado para autenticar a Conexão de modelo. Você também pode adicionar uma região que não esteja disponível na lista suspensa consultando a lista em Amazon Bedrock. Insira neste formato para que a região seja adicionada à lista. Por exemplo: us-east-1.
      Para obter uma lista das regiões de implantação compatíveis para os modelos Amazon Bedrock, consulte .Regiões e modelos compatíveis para bases de conhecimento do Amazon Bedrock .
    2. ID da base de conhecimento: Forneça o ID da base de conhecimento que você obteve do Amazon Bedrock.
      Consulte Bases de conhecimento do Amazon Bedrock
    3. Chave de acesso: A chave de acesso da AWS funciona como um identificador exclusivo no ecossistema da AWS. É uma parte fundamental do processo de autenticação, permitindo que a Serviços da AWS reconheça e valide seu acesso.
    4. Chave de acesso secreta: Essa chave é a contraparte confidencial do ID da chave de acesso. Essa chave é usada para assinar solicitações feitas à AWS, aumentando a segurança ao garantir que somente indivíduos ou sistemas autorizados possam acessar seus recursos da AWS.
    5. Token de sessão (opcional): Esse é um campo opcional. Além das informações acima, você pode incluir um token de sessão, que é um token temporário e com prazo determinado, usado ao trabalhar com credenciais de segurança temporárias. Ele fornece uma camada adicional de segurança, especialmente em cenários em que o acesso temporário é necessário, como no uso de credenciais de segurança temporárias.
    6. Depois de configurar os detalhes de autenticação, confirme e clique em Avançar para prosseguir para a seção Testar conexão para testar a Conexão de modelo.
    Nota: Para obter detalhes sobre a configuração da Chave de acesso, Chave de acesso secreta e Token de sessão para o Amazon Bedrock, consulte: Amazon Bedrock: ação Autenticação.
  4. Clique em Testar conexão para garantir que todos os detalhes da conexão tenham sido definidos corretamente e verificar se a conexão está funcionando.
    Esta é uma operação de desktop usando um Agente de bot. Use o Agente de bot 22.60.10 e mais recente para testes bem-sucedidos.
    • Se a conexão funcionar conforme o esperado, o sistema processará a solicitação e você receberá uma mensagem de sucesso gerada pelo sistema.
    • Se a conexão não funcionar conforme o esperado, você receberá uma mensagem gerada pelo sistema informando o motivo da falha na conexão. Por exemplo, se você não tiver baixado o pacote do modelo básico compatível para o seu espaço de trabalho, receberá uma mensagem de erro. Será necessário baixar o pacote e testar a Conexão de modelo de novo.
    • Se o teste de uma Conexão de modelo não tiver êxito ou se você deixar a tarefa incompleta, a Conexão de modelo não será salva e você terá que reiniciar o processo de criação da Conexão de modelo.
  5. Clique em Avançar para ir para a seção Convidar funções e começar a atribuir funções personalizadas aos usuários.
    O administrador de automação pode criar funções personalizadas e atribuir as Conexões de modelo à função, que pode ser atribuída aos usuários. Apenas usuários atribuídos a essa função personalizada podem usar essa Conexão de modelo.
  6. Atribua acesso ao desenvolvedor profissional usando a função personalizada (usando RBAC), para usar esta Conexão de modelo para criar uma Habilidade de IA.
  7. Clique em Criar conexão de modelo para concluir a criação da Conexão de modelo.
    Após a criação da Conexão de modelo, o desenvolvedor profissional a usaria para criar uma Habilidade de IA

    Consulte: Criar Habilidades de IA com as Conexões de modelo Fundamentado em base de conhecimento

    .

Próximas etapas

Depois de criar e testar a Conexão de modelo, ela é atribuída aos desenvolvedores profissionais, que usa essa conexão para criar Habilidades de IA.

Consulte Criar Habilidades de IA com as Conexões de modelo Fundamentado em base de conhecimento.

Nota: Ao criar ou testar uma Habilidade de IA na tela Habilidade de IA, os detalhes de sucesso ou falha e as respostas do modelo podem ser visualizados nestas telas de navegação:
  • Administração > Governança de IA > Log de prompt de IA
  • Administração > Governança de IA > Log de eventos
  • Administração > Log de auditoria

Consulte Governança de IA.

Como o próximo passo na sua sequência de tarefas, vá para Criar Habilidades de IA com as Conexões de modelo Fundamentado em base de conhecimento, crie uma Habilidade de IA e conecte-se a uma Conexão de modelo Fundamentado em base de conhecimento para, posteriormente, utilizá-la em uma automação.