Criar Conexões de modelo fundamentadas com o recurso de RAG da Azure OpenAI

Crie Conexões de modelo Fundamentado em pesquisa de IA usando o recurso nativo de RAG (geração aumentada por recuperação) do Azure OpenAI para construir experiências de busca ricas que combinam grandes modelos de linguagem com dados empresariais de Azure AI Search.

Agora você pode integrar um serviço de Azure AI Search com o serviço do Azure OpenAI para criar uma solução RAG. Isso permite que os LLMs ofereçam respostas mais informadas e contextualmente relevantes ao recuperar informações dos seus próprios dados.

AI Agent Studio Azure AI Search RAG

Nota: Você deve configurar o seguinte no portal do Azure OpenAI:
  • Configuração do serviço de Azure AI Search: Isso envolve criar o serviço de pesquisa de IA no portal do Azure OpenAI. Isso inclui configurar a URL do endpoint do serviço e as chaves de API e criar o índice. Para mais informações sobre como criar uma pesquisa do Azure AI Search, consulte Criar um serviço do Azure AI Search no portal do Azure.
  • Ingestão e indexação de dados: Os documentos são carregados em uma fonte de dados, como um armazenamento de blob, e, em seguida, o índice é criado usando os arquivos no armazenamento. Os documentos são divididos em partes e o conteúdo é vetorizado usando o modelo de incorporação se a pesquisa vetorial estiver ativada.

Pré-requisitos

O administrador de automação precisa dessas funções e permissões para criar e gerenciar Conexões de modelo para sua empresa.
  • Função: AAE_Basic, função personalizada de administrador de automação
  • Permissão: Executor de bots assistido
  • Configurações: Gerenciamento de dados de IA deve ser habilitado pelo administrador de automação e a caixa de seleção Permitir que os usuários desabilitem logs em habilidades de IA deve estar marcada. Permitir que os usuários com a licença de Criador de bots desativem o registro de dados ao usar as habilidades de IA para ativar a opção Registro de dados na tela Habilidades de IA.

Veja Funções e permissões para Ferramentas de IA para consultar as permissões de função personalizada do administrador de automação.

Outros requisitos:

  • Como mencionado anteriormente, você primeiro criaria uma Azure AI Search para criar uma Conexão de modelo Fundamentado em pesquisa de IA e usá-la com sucesso em uma Habilidade de IA.
  • Para armazenar detalhes de autenticação em um cofre de credenciais, tenha essas informações em mãos. Consulte Armazenamento seguro de credenciais no Credential Vault.
  • Para testar uma Conexão de modelo, é necessário estar conectado ao Agente de bot 22.60.10 e mais recente. Como parte do teste, é necessário executar o bot na sua área de trabalho. Portanto, certifique-se de que o Agente de bot esteja configurado para seu usuário. Para esta tarefa, se você tiver que mudar a conexão para uma outra Control Room, consulte: Alternar o registro do dispositivo entre instâncias da Control Room.
  • Você precisaria de acesso ao pacote de Habilidades de IA para testar a conexão com sucesso. Um Prompt de teste deve ser executado para testar a Conexão de modelo.

Procedimento

  1. No ambiente da Control Room, navegue até IA > Conexões de modelo > Criar conexão de modelo.
  2. Na tela Criar conexão de modelo, você pode definir estas Configurações de conexão:
    Criar Conexões de modelo fundamentadas com o recurso de RAG da Azure OpenAI
    1. Nome da conexão do modelo: Forneça um nome para fácil identificação da Conexão de modelo.
    2. Descrição (opcional): Adicione uma breve descrição que defina a conexão.
    3. Escolha um fornecedor: Escolha um fornecedor de modelo básico na lista de fornecedores compatíveis. Para criar uma Conexão de modelo Fundamentado em pesquisa de IA com o Azure OpenAI, você selecionaria Azure OpenAI na lista suspensa.
    4. Escolha um tipo: Escolha Fundamentado em pesquisa de IA para usar o recurso de RAG.
    5. Escolher um modelo ou criar um personalizado: Escolha um modelo na lista suspensa de modelos validados do Azure OpenAI.
    6. Clique em Avançar para ir para a seção Detalhes de autenticação.
  3. Na seção Detalhes de autenticação, defina estas configurações:
    1. Nome do recurso Azure OpenAI: Digite o nome do seu recurso do Azure OpenAI.
    2. ID da implantação: Insira o ID de implementação do modelo que deseja usar.
    3. Chave de API: Digite a chave da API para seu serviço do Azure OpenAI.
    4. URL do serviço de pesquisa de IA: A URL do seu serviço de Azure AI Search implementado. Esse é o ponto de acesso através do qual o serviço de pesquisa é acessado.
    5. Nome do índice da pesquisa de IA: O nome do índice dentro do serviço de Azure AI Search que contém seus dados. Aqui é onde os documentos a serem pesquisados são armazenados.
    6. Chave de API de pesquisa de IA: a chave de API para o seu serviço de Azure AI Search. Essa chave é necessária para autenticar o acesso ao serviço de pesquisa.
    7. Nome da implementação do modelo de incorporação de pesquisa de IA: O nome do modelo de incorporação que foi implementado no Azure. Esse modelo é usado para converter texto em representações vetoriais que são usadas para pesquisa semântica.
      Nota:
      1. Modelo de incorporação: um modelo de incorporação é um tipo de modelo de aprendizado de máquina projetado para transformar dados (como texto, imagens ou até mesmo código) em representações numéricas chamadas de incorporação vetorial.
      2. Incorporações vetoriais: esses vetores são listas de números que capturam o significado semântico dos dados. Partes semelhantes de dados terão vetores próximos em um espaço de alta dimensão.
      3. Compreensão semântica: o segredo é que essas incorporações capturam o significado e o contexto dos dados, não apenas as palavras-chave. Isso permite que o Azure AI Search compreenda as relações entre diferentes informações.
    8. Clique em Avançar para ir para a seção Testar conexão.
  4. Clique em Testar conexão para garantir que todos os detalhes da conexão tenham sido definidos corretamente e verificar se a conexão está funcionando.
    Esta é uma operação de desktop usando um Agente de bot. Use o Agente de bot 22.60.10 e mais recente para testes bem-sucedidos.
    • Se a conexão funcionar conforme o esperado, o sistema processará a solicitação e você receberá uma mensagem de sucesso gerada pelo sistema.
    • Se a conexão não funcionar conforme o esperado, você receberá uma mensagem gerada pelo sistema informando o motivo da falha na conexão. Por exemplo, se você não baixou o pacote do modelo básico compatível para o espaço de trabalho, você receberá uma mensagem de erro. Será necessário baixar o pacote e testar a Conexão de modelo de novo.
    • Se o teste de uma Conexão de modelo não tiver êxito ou se você deixar a tarefa incompleta, a Conexão de modelo não será salva e você terá que reiniciar o processo de criação da Conexão de modelo.
  5. Clique em Avançar para ir para a seção Convidar funções e começar a atribuir funções personalizadas aos usuários.
    O administrador de automação pode criar funções personalizadas e atribuir as Conexões de modelo à função, que pode ser atribuída aos usuários. Apenas usuários atribuídos a essa função personalizada podem usar essa Conexão de modelo.
  6. Atribua acesso ao desenvolvedor profissional usando a função personalizada, para usar essa Conexão de modelo a fim de criar uma Habilidade de IA.
  7. Clique em Criar conexão de modelo para concluir a criação da Conexão de modelo.
    Após a criação bem-sucedida da Conexão de modelo, o desenvolvedor profissional a utilizará para criar uma Habilidade de IA.

Próximas etapas

Depois de criar e testar a Conexão de modelo, ela é atribuída aos desenvolvedores profissionais, que usa essa conexão para criar Habilidades de IA. Consulte Criar Habilidades de IA com as Conexões de modelo Fundamentado em pesquisa de IA.
Nota: Ao criar ou testar uma Habilidade de IA na tela Habilidade de IA, os detalhes de sucesso ou falha e as respostas do modelo podem ser visualizados nestas telas de navegação:
  • Administração > Governança de IA > Log de prompt de IA
  • Administração > Governança de IA > Log de eventos
  • Administração > Log de auditoria

Consulte Governança de IA.