Criar Model connections fundamentadas com o recurso de RAG da Google Vertex AI

Use o recurso de RAG (geração aumentada de recuperação) da Google Vertex AI para criar Model connections de Grounded by data store e gerar informações precisas e contextualmente relevantes referenciadas da Google Data Source.

Nota:

As Model connections de Grounded by data store da Google Vertex AI agora estão disponíveis na versão v34 do Automation 360 também no Cloud. Você pode usar este recurso no Cloud e On-Premises.

O Google Data Store com fragmentação de documentos agora é compatível para garantir resultados ideais nas execuções de automação. Você pode habilitar a fragmentação de documentos no Google Data Store para usar modelos baseados em Google Vertex AI no AI Agent Studio.

Agora estamos oferecendo a opção de criar Model connections do Grounded by data store usando o serviço do Agent Builder. Uma consulta de pesquisa no Google Data Store recupera conteúdo relevante de grandes conjuntos de dados e o fornece ao modelo para gerar uma resposta precisa.

Durante a execução de uma automação, usar Model connections criadas com o Grounded by data store recupera a resposta referenciando o Google Data Source no Google Data Store. Isso garante uma resposta otimizada do conteúdo relevante com maior precisão. A fundamentação é um aspecto importante ao usar um modelo básico, pois ela fornece respostas fundamentadas com base nos dados organizacionais e previne imprecisões nas respostas e alucinações do modelo.
Nota: Para usar o recurso de RAG da Google Vertex AI no AI Agent Studio, você iria primeiro criar uma fonte de dados no Agent Builder. Então, criar uma Model connection utilizando a opção Grounded by data store.

Consulte: Armazenamento de dados na Google Vertex AI .

Pré-requisitos

O administrador de automação precisa dessas funções e permissões para criar e gerenciar Model connections para sua empresa.
  • Função: AAE_Basic, função personalizada de administrador de automação
  • Permissão: Executor de bots assistido
  • Configurações: O AI Data Management (Gerenciamento de dados de IA) deve ser habilitado pelo administrador de automação e a caixa de seleção para a opção Allow users to disable logs on AI Skills (Permitir que os usuários desabilitem logs em habilidades de IA) deve estar marcada.

Veja Roles and permissions para consultar as permissões de função personalizada do administrador de automação.

Outros requisitos:
  • Como mencionado anteriormente, você primeiro criaria uma Google Data Source para criar uma Model connection de Grounded by data store e usá-la com sucesso em uma AI Skill. Consulte Armazenamento de dados e Criar um Vertex Data Store.
  • Para armazenar detalhes de autenticação em um cofre de credenciais, tenha essas informações em mãos. Consulte Armazenamento seguro de credenciais no Credential Vault.
  • Para testar uma Model connection, é necessário estar conectado ao Bot Agent 22.60.10 e mais recente. Como parte do teste, é necessário executar o bot na sua área de trabalho. Portanto, certifique-se de que o Bot Agent esteja configurado para seu usuário. Para esta tarefa, se você tiver que mudar a conexão para uma outra Control Room, consulte: Alternar o registro do dispositivo entre instâncias da Control Room.
  • Você precisa de acesso ao Recorder e ao AI Skills para testar a conexão com sucesso. Um Prompt de teste deve ser executado para testar a Model connection.

Procedimento

  1. No ambiente da Control Room, navegue até IA > Conexões de modelo > Criar conexão de modelo.
  2. Na tela Criar conexão de modelo, você pode definir estas Configurações de conexão:
    Criar Model connections fundamentadas com o recurso de RAG da Google Vertex AI
    Você pode inserir manualmente o nome do modelo no campo Escolher um modelo ou criar um personalizado. O nome que você inserir será usado para criar a Model connection.
    1. Nome da conexão do modelo: Forneça um nome para fácil identificação da Model connection.
    2. Descrição (opcional): Adicione uma breve descrição que defina a conexão.
    3. Escolha um fornecedor: Escolha um fornecedor de modelo básico na lista de fornecedores compatíveis. Para criar uma Model connection de Grounded by data store com a Google Vertex AI, selecione Google Vertex AI na lista suspensa.
    4. Escolha um tipo: Escolha Grounded by data store para usar o recurso de RAG para a Google Vertex AI.
    5. Escolher um modelo ou criar um personalizado: Escolha um modelo na lista suspensa.
      Além disso, também oferecemos suporte a outros modelos disponíveis no Google Data Store, que não estão disponíveis na lista suspensa. Se você quiser adicionar um modelo do Google Data Store, será necessário inserir o nome e a versão do modelo com o URI completo do modelo. Por exemplo: Se o modelo for Gemini 1.5 Flash 001, o formato seria gemini-1.5-001/answer_gen/v1.
      Para obter uma lista completa dos modelos suportados por cada fornecedor de modelo básico, consulte General FAQs.
    6. Clique em Avançar para ir para a seção Detalhes de autenticação.
  3. Na seção Detalhes de autenticação, defina estas configurações:
    1. Nome do projeto: Este é o projeto da conta do Google Cloud.
    2. Região: Selecione uma região na lista suspensa para se conectar e autenticar a Model connection. Você também pode adicionar sua própria região, configurada ao criar uma fonte de dados no Agent Builder.
      Consulte Criar um armazenamento de dados .
    3. Conexão OAuth da Control Room: Crie um ID de cliente OAuth 2.0. Um ID de cliente é usado para identificar um único aplicativo para os servidores OAuth do Google.
    4. Depois de configurar os detalhes de autenticação, confirme e clique em Avançar para prosseguir para a seção Testar conexão para testar a Model connection.
    Nota: Para obter informações sobre como configurar o Google Cloud Project e a Conexão OAuth da Control Room para a Google Vertex AI, consulte Vertex AI: Ação Conectar.
  4. Clique em Testar conexão para garantir que todos os detalhes da conexão tenham sido definidos corretamente e verificar se a conexão está funcionando.
    Esta é uma operação de desktop usando um Bot Agent. Use o Bot Agent 22.60.10 e mais recente para testes bem-sucedidos.
    • Se a conexão funcionar conforme o esperado, o sistema processará a solicitação e você receberá uma mensagem de sucesso gerada pelo sistema.
    • Se a conexão não funcionar conforme o esperado, você receberá uma mensagem gerada pelo sistema informando o motivo da falha na conexão. Por exemplo, se você não baixou o pacote do modelo básico compatível para o espaço de trabalho, você receberá uma mensagem de erro. Será necessário baixar o pacote e testar a Model connection de novo.
    • Se o teste de uma Model connection não tiver êxito ou se você deixar a tarefa incompleta, a Model connection não será salva e você terá que reiniciar o processo de criação da Model connection.
  5. Clique em Avançar para ir para a seção Convidar funções e começar a atribuir funções personalizadas aos usuários.
    O administrador de automação pode criar funções personalizadas e atribuir as Model connections à função, que pode ser atribuída aos usuários. Apenas usuários atribuídos a essa função personalizada podem usar essa Model connection.
  6. Atribua a Model connection à função personalizada (usando RBAC) para que os usuários atribuídos à função possam acessá-la.
  7. Clique em Criar conexão de modelo para concluir a criação da Model connection.
    Após a criação bem-sucedida da Model connection, o desenvolvedor profissional a utilizará para criar uma AI Skill.

    Consulte: Create AI Skills with Grounded by data store Model connections

    .

Próximas etapas

Depois de criar e testar a Model connection, ela é atribuída aos desenvolvedores profissionais, que usa essa conexão para criar AI Skills.

Como o próximo passo na sua sequência de tarefas, vá para Create AI Skills with Grounded by data store Model connections e crie uma AI Skill e conecte-se a uma Model connection do Grounded by data store para usá-la em uma automação.