创建具有 Azure OpenAI RAG 功能的基础 Model connections

使用来自 Azure OpenAI 的本地 Retrieval Augmented Generation(RAG) 功能创建 Grounded by AI Search Model connections，将大型语言模型与来自 Azure AI Search 的企业数据相结合，构建丰富的搜索体验。

您现在可以将 Azure AI Search 服务与 Azure OpenAI 服务集成，以创建 RAG 解决方案。 这样，LLM 可以从您自己的数据中检索信息，从而提供更有依据、更具上下文相关性的响应。

AI Agent Studio Azure AI Search RAG

注： 必须在 Azure OpenAI 门户中设置以下内容：
  • Azure AI Search 服务设置： 这包括在 Azure OpenAI 门户中创建 AI 搜索服务。 这包括设置服务端点 URL、API 密钥以及创建索引。 有关创建 Azure AI Search 搜索的更多信息，请参阅 在 Azure 门户中创建 Azure AI Search 服务。
  • 数据摄取和索引： 文档上传到数据源（例如 blob 存储区），然后使用存储区中的文件创建索引。 如果启用了向量搜索，文档将被拆分成多个块，并使用嵌入模型对内容进行向量化。

    在设置与 Automation 360 Grounded by AI Search Model connections 集成的 Azure AI Search 服务时，必须配置您的数据摄取和索引流程以创建向量嵌入。 虽然 Azure AI Search 支持其他内容类型和配置（例如仅文本或仅语义），但 Automation Anywhere 集成针对向量嵌入进行了优化，并主要支持使用向量嵌入来实现语义理解和检索。

先决条件

自动化管理员需要这些角色和权限来为其业务组织创建和管理 Model connections。
  • 角色： AAE_Basic，自动化管理员自定义角色
  • 许可: 有人值守机器人运行程序
  • 设置： 必须由自动化管理员启用 AI 数据管理，并选中允许用户禁用 AI 技能日志的复选框。 允许具有 Bot Creator 许可证的用户在使用 AI 技能时禁用数据记录，以便在 AI Skills 屏幕中启用数据记录 切换按钮。

请参阅 角色和权限 以了解自动化管理员自定义角色的权限。

其他要求：

  • 如前所述，您首先需要创建一个 Azure AI Search 用于创建 Grounded by AI Search Model connection，并将其成功应用于 AI Skill。
  • 如果您想在凭据保管库中存储身份验证详细信息，请准备好这些信息。 请参阅 通过 Credential Vault 存储安全凭据。
  • 要测试 Model connection，您必须连接到 Bot Agent 22.60.10 及更高版本。 作为测试的一部分，您需要在桌面上运行 bot。 因此，请确保 Bot Agent 已配置为您的用户。 对于此任务，如果您需要切换连接到不同的 Control Room，请参阅：在 Control Room 实例之间切换设备注册。
  • 您需要访问 AI Skills 软件包才能成功测试连接。 将执行测试 Prompt 以测试 Model connection。

过程

  1. 在您的 Control Room 环境中，导航到AI > 模型连接 > 创建模型连接。
  2. 在创建模型连接 屏幕中，您将配置以下 连接设置：
    创建具有 Azure OpenAI RAG 功能的基础 Model connections
    1. 模型连接名称： 为便于识别 Model connection 提供一个名称。
    2. 描述（可选）： 添加一个有意义的简短描述来定义连接。
    3. 选择供应商： 从支持的供应商列表中选择一个基础模型供应商。 要使用 Azure OpenAI 创建 Grounded by AI Search Model connection，需要从下拉列表中选择 Azure OpenAI。
    4. 选择类型： 选择 Grounded by AI Search 以使用 RAG 功能。
    5. 选择一个模型或创建一个自定义模型: 从 Azure OpenAI 的已验证模型下拉列表中选择一个模型。
    6. 单击下一步以继续到身份验证详细信息部分。
  3. 在身份验证详细信息部分中，配置以下设置：
    1. Azure OpenAI 资源名称： 输入您的 Azure OpenAI 资源名称。
    2. 部署 ID： 输入要使用的模型的部署 ID。
    3. API 密钥： 请输入您的 Azure OpenAI 服务的 API 密钥。
    4. AI 搜索服务 URL： 已部署的 Azure AI Search 服务的 URL。 这是访问搜索服务的端点。
    5. AI 搜索索引名称： 包含您数据的 Azure AI Search 服务中的索引名称。 这里存储着要搜索的文件。
    6. AI 搜索 API 密钥：您的 Azure AI Search 服务的 API 密钥。 该密钥用于验证搜索服务的访问权限。
    7. AI 搜索嵌入模型部署名称： 已在 Azure 部署的嵌入模型的名称。 该模型用于将文本转换为用于语义搜索的向量表示。
      注：
      1. 嵌入模型： 嵌入模型是一种机器学习模型，旨在将数据（例如文本、图像，甚至代码）转换为称为向量嵌入的数值表示。

        嵌入模型至关重要，因为数据的向量嵌入是 Grounded by AI Search 功能有效查找语义相关信息的必要条件。

      2. 向量嵌入： 这些向量是一系列数字，可以捕获数据的语义意义。 在高维空间中，相似数据块的向量会比较接近。

        确保您的 Azure AI Search 索引已填充从您的数据生成的向量嵌入。 这是 Automation Anywhere 支持的 AI Search 类型的基础。 请参阅 Azure AI Search 文档，获取有关在数据摄取过程中创建嵌入的详细指南。

      3. 语义理解： 关键在于这些嵌入能捕获数据的含义和上下文，而不仅仅是关键词。 这使得 Azure AI Search 能够理解不同信息片段之间的关系。
    8. 单击下一步以继续到测试连接部分。
  4. 单击测试连接以确保所有连接详细信息已正确定义，并检查连接是否正常工作。
    这是一个使用 Bot Agent 的桌面操作。 使用 Bot Agent 22.60.10 及更高版本进行成功测试。
    • 如果连接按预期生效，系统将处理请求，并且您将收到系统生成的成功消息。
    • 如果连接未按预期生效，您将收到一条系统生成的消息，说明连接失败的原因。 例如，如果您尚未将支持的基础模型包下载到您的工作区，您将收到一条错误消息。 您需要下载该软件包，然后重新测试 Model connection。
    • 如果测试 Model connection 不成功，或者如果您未完成任务，Model connection 将不会被保存，您将不得不重新开始创建 Model connection 的过程。
  5. 单击下一步以进入邀请角色部分，开始为用户分配自定义角色。
    自动化管理员将创建自定义角色并将Model connections分配给该角色，然后可以将其分配给用户。 只有被分配到此自定义角色的用户才能使用此 Model connection。
  6. 通过自定义角色为专业开发人员分配访问权限，以使用此 Model connection 创建 AI Skill。
  7. 单击创建模型连接以完成 Model connection 的创建。
    在成功创建 Model connection 之后，专业开发人员将使用它来创建 AI Skill。

后续步骤

在创建和测试 Model connection 之后，您将其分配给专业开发人员，他们将使用此连接创建 AI Skills。 请参阅 使用 Grounded by AI Search Model connections 创建 AI Skills。
注： 当您在 AI 技能屏幕中创建或测试AI Skill时，可以在以下导航屏幕中查看成功或失败的详细信息以及模型响应：
  • 管理 > 人工智能治理 > 人工智能提示日志
  • 管理 > 人工智能治理 > 事件日志
  • 管理 > 审核日志

请参阅 AI Governance。