Criar Model connections fundamentadas com o recurso de RAG da Google Vertex AI

Use o recurso de RAG (geração aumentada de recuperação) da Google Vertex AI para criar Model connections de Grounded by data store e gerar informações precisas e contextualmente relevantes referenciadas da Google Data Source.

Nota:

As Model connections de Grounded by data store da Google Vertex AI agora estão disponíveis na versão v34 do Automation 360 também no Cloud. Você pode usar este recurso no Cloud e On-Premises.

O Google Data Store com fragmentação de documentos agora é compatível para garantir resultados ideais nas execuções de automação. Você pode habilitar a fragmentação de documentos no Google Data Store para usar modelos baseados em Google Vertex AI no AI Agent Studio.

Agora estamos oferecendo a opção de criar Model connections do Grounded by data store usando o serviço do Agent Builder. Uma consulta de pesquisa no Google Data Store recupera conteúdo relevante de grandes conjuntos de dados e o fornece ao modelo para gerar uma resposta precisa.

Durante a execução de uma automação, usar Model connections criadas com o Grounded by data store recupera a resposta referenciando o Google Data Source no Google Data Store. Isso garante uma resposta otimizada do conteúdo relevante com maior precisão. A fundamentação é um aspecto importante ao usar um modelo básico, pois ela fornece respostas fundamentadas com base nos dados organizacionais e previne imprecisões nas respostas e alucinações do modelo.
Nota: Para usar o recurso de RAG da Google Vertex AI no AI Agent Studio, você iria primeiro criar uma fonte de dados no Agent Builder. Então, criar uma Model connection utilizando a opção Grounded by data store.

Consulte: Armazenamento de dados na Google Vertex AI .

Pré-requisitos

O administrador de automação precisa dessas funções e permissões para criar e gerenciar Model connections para sua empresa.
  • Função: AAE_Basic, função personalizada de administrador de automação
  • Permissão: Executor de bots assistido
  • Configurações: O AI Data Management (Gerenciamento de dados de IA) deve ser habilitado pelo administrador de automação e a caixa de seleção para a opção Allow users to disable logs on AI Skills (Permitir que os usuários desabilitem logs em habilidades de IA) deve estar marcada.

Veja Funções e permissões para consultar as permissões de função personalizada do administrador de automação.

Outros requisitos:
  • Como mencionado anteriormente, você primeiro criaria uma Google Data Source para criar uma Model connection de Grounded by data store e usá-la com sucesso em uma AI Skill. Consulte Armazenamento de dados e Criar um Vertex Data Store.
  • Para armazenar detalhes de autenticação em um cofre de credenciais, tenha essas informações em mãos. Consulte Armazenamento seguro de credenciais no Credential Vault.
  • Para testar uma Model connection, é necessário estar conectado ao Bot Agent 22.60.10 e mais recente. Como parte do teste, é necessário executar o bot na sua área de trabalho. Portanto, certifique-se de que o Bot Agent esteja configurado para seu usuário. Para esta tarefa, se você tiver que mudar a conexão para uma outra Control Room, consulte: Alternar o registro do dispositivo entre instâncias da Control Room.
  • Você precisa de acesso ao Recorder e ao AI Skills para testar a conexão com sucesso. Um Prompt de teste deve ser executado para testar a Model connection.

Procedimento

  1. No ambiente da Control Room, navegue até IA > Conexões de modelo > Criar conexão de modelo.
  2. Na tela Criar conexão de modelo, você pode definir estas Configurações de conexão:
    Criar Model connections fundamentadas com o recurso de RAG da Google Vertex AI
    Você pode inserir manualmente o nome do modelo no campo Escolher um modelo ou criar um personalizado. O nome que você inserir será usado para criar a Model connection.
    1. Nome da conexão do modelo: Forneça um nome para fácil identificação da Model connection.
    2. Descrição (opcional): Adicione uma breve descrição que defina a conexão.
    3. Escolha um fornecedor: Escolha um fornecedor de modelo básico na lista de fornecedores compatíveis. Para criar uma Model connection de Grounded by data store com a Google Vertex AI, selecione Google Vertex AI na lista suspensa.
    4. Escolha um tipo: Escolha Grounded by data store para usar o recurso de RAG para a Google Vertex AI.
    5. Escolher um modelo ou criar um personalizado: Escolha um modelo na lista suspensa.
      Além disso, também oferecemos suporte a outros modelos disponíveis no Google Data Store, que não estão disponíveis na lista suspensa. Se você quiser adicionar um modelo do Google Data Store, será necessário inserir o nome e a versão do modelo com o URI completo do modelo. Por exemplo: Se o modelo for Gemini 1.5 Flash 001, o formato seria gemini-1.5-001/answer_gen/v1.
      Para obter uma lista completa dos modelos suportados por cada fornecedor de modelo básico, consulte Perguntas frequentes gerais.
    6. Clique em Avançar para ir para a seção Detalhes de autenticação.
  3. Na seção Detalhes de autenticação, defina estas configurações:
    1. Nome do projeto: Este é o projeto da conta do Google Cloud.
    2. Região: Selecione uma região na lista suspensa para se conectar e autenticar a Model connection. Você também pode adicionar sua própria região, configurada ao criar uma fonte de dados no Agent Builder.
      Consulte Criar um armazenamento de dados .
    3. Conexão OAuth da Control Room: Crie um ID de cliente OAuth 2.0. Um ID de cliente é usado para identificar um único aplicativo para os servidores OAuth do Google.
    4. Depois de configurar os detalhes de autenticação, confirme e clique em Avançar para prosseguir para a seção Testar conexão para testar a Model connection.
    Nota: Para obter informações sobre como configurar o Google Cloud Project e a Conexão OAuth da Control Room para a Google Vertex AI, consulte Vertex AI: Ação Conectar.
  4. Clique em Testar conexão para garantir que todos os detalhes da conexão tenham sido definidos corretamente e verificar se a conexão está funcionando.
    Esta é uma operação de desktop usando um Bot Agent. Use o Bot Agent 22.60.10 e mais recente para testes bem-sucedidos.
    • Se a conexão funcionar conforme o esperado, o sistema processará a solicitação e você receberá uma mensagem de sucesso gerada pelo sistema.
    • Se a conexão não funcionar conforme o esperado, você receberá uma mensagem gerada pelo sistema informando o motivo da falha na conexão. Por exemplo, se você não baixou o pacote do modelo básico compatível para o espaço de trabalho, você receberá uma mensagem de erro. Será necessário baixar o pacote e testar a Model connection de novo.
    • Se o teste de uma Model connection não tiver êxito ou se você deixar a tarefa incompleta, a Model connection não será salva e você terá que reiniciar o processo de criação da Model connection.
  5. Clique em Avançar para ir para a seção Convidar funções e começar a atribuir funções personalizadas aos usuários.
    O administrador de automação pode criar funções personalizadas e atribuir as Model connections à função, que pode ser atribuída aos usuários. Apenas usuários atribuídos a essa função personalizada podem usar essa Model connection.
  6. Atribua a Model connection à função personalizada (usando RBAC) para que os usuários atribuídos à função possam acessá-la.
  7. Clique em Criar conexão de modelo para concluir a criação da Model connection.
    Após a criação bem-sucedida da Model connection, o desenvolvedor profissional a utilizará para criar uma AI Skill.

    Consulte: Create AI Skills with Grounded by data store Model connections

    .

Próximas etapas

Depois de criar e testar a Model connection, ela é atribuída aos desenvolvedores profissionais, que usa essa conexão para criar AI Skills.

Como o próximo passo na sua sequência de tarefas, vá para Create AI Skills with Grounded by data store Model connections e crie uma AI Skill e conecte-se a uma Model connection do Grounded by data store para usá-la em uma automação.