Criar Model connections fundamentadas com o recurso de RAG da Azure OpenAI

Crie Model connections Grounded by AI Search usando o recurso nativo de geração aumentada por recuperação (RAG) do Azure OpenAI para criar experiências de pesquisa ricas que combinam grandes modelos de linguagem com dados empresariais do Azure AI Search.

Agora você pode integrar um serviço de Azure AI Search com o serviço do Azure OpenAI para criar uma solução RAG. Isso permite que os LLMs ofereçam respostas mais informadas e contextualmente relevantes ao recuperar informações dos seus próprios dados.

AI Agent Studio Azure AI Search RAG

Nota: Você deve configurar o seguinte no portal do Azure OpenAI:
  • Configuração do serviço de Azure AI Search: Isso envolve criar o serviço de pesquisa de IA no portal do Azure OpenAI. Isso inclui configurar a URL do endpoint do serviço e as chaves de API e criar o índice. Para mais informações sobre como criar uma pesquisa do Azure AI Search, consulte Criar um serviço do Azure AI Search no portal do Azure.
  • Ingestão e indexação de dados: Os documentos são carregados em uma fonte de dados, como um armazenamento de blob, e, em seguida, o índice é criado usando os arquivos no armazenamento. Os documentos são divididos em partes e o conteúdo é vetorizado usando o modelo de incorporação se a pesquisa vetorial estiver ativada.

    Ao configurar seu serviço do Azure AI Search para integração com Model connections Grounded by AI Search do Automation 360, é essencial configurar seu processo de ingestão de dados e indexação para criar incorporações vetoriais. Embora o Azure AI Search ofereça suporte a outros tipos de conteúdo e configurações (como apenas texto ou apenas semântico), a integração da Automation Anywhere é otimizada e oferece suporte principalmente ao uso de incorporações vetoriais para permitir a compreensão e a recuperação semânticas.

Pré-requisitos

O administrador de automação precisa dessas funções e permissões para criar e gerenciar Model connections para sua empresa.
  • Função: AAE_Basic, função personalizada de administrador de automação
  • Permissão: Executor de bots assistido
  • Configurações: Gerenciamento de dados de IA deve ser habilitado pelo administrador de automação e a caixa de seleção Permitir que os usuários desabilitem logs em habilidades de IA deve estar marcada. Permitir que os usuários com a licença de Criador de bots desativem o registro de dados ao usar as habilidades de IA para ativar a opção Registro de dados na tela AI Skills.

Veja Funções e permissões para consultar as permissões de função personalizada do administrador de automação.

Outros requisitos:

  • Como mencionado anteriormente, você primeiro criaria uma Azure AI Search para criar uma Model connection Grounded by AI Search e usá-la com sucesso em uma AI Skill.
  • Para armazenar detalhes de autenticação em um cofre de credenciais, tenha essas informações em mãos. Consulte Armazenamento seguro de credenciais no Credential Vault.
  • Para testar uma Model connection, é necessário estar conectado ao Bot Agent 22.60.10 e mais recente. Como parte do teste, é necessário executar o bot na sua área de trabalho. Portanto, certifique-se de que o Bot Agent esteja configurado para seu usuário. Para esta tarefa, se você tiver que mudar a conexão para uma outra Control Room, consulte: Alternar o registro do dispositivo entre instâncias da Control Room.
  • Você precisaria de acesso ao pacote de AI Skills para testar a conexão com sucesso. Um Prompt de teste deve ser executado para testar a Model connection.

Procedimento

  1. No ambiente da Control Room, navegue até IA > Conexões de modelo > Criar conexão de modelo.
  2. Na tela Criar conexão de modelo, você pode definir estas Configurações de conexão:
    Criar Model connections fundamentadas com o recurso de RAG da Azure OpenAI
    1. Nome da conexão do modelo: Forneça um nome para fácil identificação da Model connection.
    2. Descrição (opcional): Adicione uma breve descrição que defina a conexão.
    3. Escolha um fornecedor: Escolha um fornecedor de modelo básico na lista de fornecedores compatíveis. Para criar uma Model connection Grounded by AI Search com o Azure OpenAI, você selecionaria Azure OpenAI na lista suspensa.
    4. Escolha um tipo: Escolha Grounded by AI Search para usar o recurso de RAG.
    5. Escolher um modelo ou criar um personalizado: Escolha um modelo na lista suspensa de modelos validados do Azure OpenAI.
    6. Clique em Avançar para ir para a seção Detalhes de autenticação.
  3. Na seção Detalhes de autenticação, defina estas configurações:
    1. Nome do recurso Azure OpenAI: Digite o nome do seu recurso do Azure OpenAI.
    2. ID da implantação: Insira o ID de implementação do modelo que deseja usar.
    3. Chave de API: Digite a chave da API para seu serviço do Azure OpenAI.
    4. URL do serviço de pesquisa de IA: A URL do seu serviço de Azure AI Search implementado. Esse é o ponto de acesso através do qual o serviço de pesquisa é acessado.
    5. Nome do índice da pesquisa de IA: O nome do índice dentro do serviço de Azure AI Search que contém seus dados. Aqui é onde os documentos a serem pesquisados são armazenados.
    6. Chave de API de pesquisa de IA: a chave de API para o seu serviço de Azure AI Search. Essa chave é necessária para autenticar o acesso ao serviço de pesquisa.
    7. Nome da implementação do modelo de incorporação de pesquisa de IA: O nome do modelo de incorporação que foi implementado no Azure. Esse modelo é usado para converter texto em representações vetoriais que são usadas para pesquisa semântica.
      Nota:
      1. Modelo de incorporação: um modelo de incorporação é um tipo de modelo de aprendizado de máquina projetado para transformar dados (como texto, imagens ou até mesmo código) em representações numéricas chamadas de incorporação vetorial.

        Um modelo de incoporação é crucial, pois os incorporações vetoriais dos seus dados são necessários para que a funcionalidade Grounded by AI Search encontre de maneira eficaz informações semanticamente relevantes.

      2. Incorporações vetoriais: esses vetores são listas de números que capturam o significado semântico dos dados. Partes semelhantes de dados terão vetores próximos em um espaço de alta dimensão.

        Certifique-se de que seu índice do Azure AI Search esteja preenchido com incorporações vetoriais geradas a partir dos seus dados. Isso é fundamental para os tipos de pesquisa de IA compatíveis com a Automation Anywhere. Consulte a documentação do Azure AI Search para obter orientações detalhadas sobre a criação de incorporações durante o processo de ingestão de dados.

      3. Compreensão semântica: o segredo é que essas incorporações capturam o significado e o contexto dos dados, não apenas as palavras-chave. Isso permite que o Azure AI Search compreenda as relações entre diferentes informações.
    8. Clique em Avançar para ir para a seção Testar conexão.
  4. Clique em Testar conexão para garantir que todos os detalhes da conexão tenham sido definidos corretamente e verificar se a conexão está funcionando.
    Esta é uma operação de desktop usando um Bot Agent. Use o Bot Agent 22.60.10 e mais recente para testes bem-sucedidos.
    • Se a conexão funcionar conforme o esperado, o sistema processará a solicitação e você receberá uma mensagem de sucesso gerada pelo sistema.
    • Se a conexão não funcionar conforme o esperado, você receberá uma mensagem gerada pelo sistema informando o motivo da falha na conexão. Por exemplo, se você não baixou o pacote do modelo básico compatível para o espaço de trabalho, você receberá uma mensagem de erro. Será necessário baixar o pacote e testar a Model connection de novo.
    • Se o teste de uma Model connection não tiver êxito ou se você deixar a tarefa incompleta, a Model connection não será salva e você terá que reiniciar o processo de criação da Model connection.
  5. Clique em Avançar para ir para a seção Convidar funções e começar a atribuir funções personalizadas aos usuários.
    O administrador de automação pode criar funções personalizadas e atribuir as Model connections à função, que pode ser atribuída aos usuários. Apenas usuários atribuídos a essa função personalizada podem usar essa Model connection.
  6. Atribua acesso ao desenvolvedor profissional usando a função personalizada, para usar essa Model connection a fim de criar uma AI Skill.
  7. Clique em Criar conexão de modelo para concluir a criação da Model connection.
    Após a criação bem-sucedida da Model connection, o desenvolvedor profissional a utilizará para criar uma AI Skill.

Próximas etapas

Depois de criar e testar a Model connection, ela é atribuída aos desenvolvedores profissionais, que usa essa conexão para criar AI Skills. Consulte Criar AI Skills com as Model connections Grounded by AI Search.
Nota: Ao criar ou testar uma AI Skill na tela Habilidade de IA, os detalhes de sucesso ou falha e as respostas do modelo podem ser visualizados nestas telas de navegação:
  • Administração > Governança de IA > Log de prompt de IA
  • Administração > Governança de IA > Log de eventos
  • Administração > Log de auditoria

Consulte AI Governance.