使用 Grounded by AI Search Model connections 创建 AI Skills

这是在创建 Grounded by AI Search Model connection 之后的下一个合乎逻辑的步骤。 您将创建一个 AI Skill,并将其连接到来自 Azure OpenAI 的基于知识库的 Model connection

Azure OpenAI Grounded by AI Search Model connections 可以在 CloudOn-PremisesAutomation 360 中使用。

专业开发人员创建 AI Skills,允许 Bot Creators 在他们的自动化中使用这些技能,从而节省时间和精力。

通过连接到专业开发人员可以访问的 Model connections 来创建 AI Skills,并通过使用不同的基础模型测试提示进行微调,以找到解决业务需求的最佳响应。 这些 AI Skills 可供开发人员使用和重复使用,以帮助加速在各种解决方案中创建自动化。

先决条件

专业开发人员需要这些角色和权限来创建和测试 AI Skills
  • 角色: AAE_Basic,专业开发人员自定义角色
  • 权限: Bot Creator。 请参阅 角色和权限
  • 其他要求:除了角色和权限之外,专业开发人员必须连接到 Bot Agent 22.60.10 及更高版本。 作为测试 Model connection 的一部分,您需要在桌面上运行 bot。 因此,请确保 Bot Agent 已配置为您的用户。 如果您需要切换到不同的Control Room,请参阅:在 Control Room 实例之间切换设备注册

过程

  1. 登录到 Control Room,然后导航到 自动化 > 创建新项目或 ‘+\' 图标,然后选择 AI Skills
  2. 提供一个名称和描述,然后单击创建和编辑以显示模板大纲。
  3. AI 技能屏幕中,单击选择模型连接,从您有权限访问的 Model connections 可用列表中进行选择。 您会选择一个使用来自 Azure OpenAIGrounded by AI Search 类型选项创建的 Model connection。 有关使用 Grounded by AI Search 创建 Model connections 的详细信息,请参阅 创建具有 Azure OpenAI RAG 功能的基础 Model connections
    这些 Model connections 由自动化管理员创建,并分配给具有自定义角色的用户。
  4. 选择Model connection后,AI Skills会根据所选模型的最佳默认参数设置进行配置。 您可以根据需要更改设置。
    AI Skill 编辑器显示了由模型供应商设置的默认参数值,您可以根据需要进行配置。 这些值可以在 Agent Builder 中创建数据存储时进行配置。
  5. 选择 AI 搜索类型
    1. 混合(向量 + 关键词): 这将全文检索和向量搜索的优势结合到一次查询中。Azure AI Search 同时执行基于关键词的搜索和基于向量的搜索。 然后,它将结果合并,以提供更全面的相关文档集。
    2. 向量: 此类搜索利用 AI 嵌入的强大功能,查找与您的查询语义相关的文档,即使这些文档不包含确切的关键词。 您使用嵌入模型(例如,来自 Azure OpenAI 的模型)将您的文档和查询转换为向量嵌入。Azure AI Search 将这些嵌入存储在您的索引中。 搜索时,它会将您的查询嵌入与文档的嵌入进行比较,以找出最相似的文档。
    3. 混合 + 语义: 这结合了全文、向量和语义排名,您可以获得最全面、最相关的搜索结果。 语义排序器可以识别查询和文档之间的微妙关系,从而得出更准确的结果。
      • 语义排序: 混合 + 语义选项通过应用语义排序来增强搜索结果。 Azure AI Search 中的此高级排序功能能够理解查询的意图和上下文,从而提供更相关的结果。
      • 配置: 要使用语义排序,您需要在 Azure Azure AI Search 中配置语义搜索。 请参阅官方 Azure AI Search 文档,了解有关如何设置语义配置的详细步骤:Azure AI Search Semantic Search Configuration
      • 费用注意事项: 请注意,Azure AI Search 对使用语义排序功能实行单独的定价模式。 建议查看 Azure AI Search 定价页面,了解与语义搜索相关费用的详细信息:Azure AI Search Pricing
      注: 虽然 Azure AI Search 提供多种搜索类型,但请确保您的底层 Azure AI Search 索引已配置向量嵌入。 向量混合(向量 + 关键词)选项直接利用这些嵌入。 混合 + 语义选项在初始检索阶段同样受益于向量嵌入。
  6. 选择严格程度。 它控制搜索引擎在筛选和选择文档以回答问题时的严格程度。 严格程度越高,精确度越高,但召回率越低(可能会漏掉一些潜在的相关答案)。 严格程度越低,召回率越高(您会得到更多潜在答案),但精确度越低(有些答案可能不太相关,甚至不正确)。
  7. 选择文档计数。 它决定应向语言模型提供多少个 Azure AI Search 排名靠前的文档来生成答案。 文档数量越多,语言模型的上下文就越丰富,从而能生成更全面、更准确的答案。 文档数量较少会导致答案不够全面或准确,因为语言模型可使用的信息较少。
  8. 接下来,添加一个Azure 筛选器条件,这是可选项。 此字段支持以字符串格式输入筛选值。 添加筛选器有助于将模型的搜索范围缩小到存储中的特定文件。

    您可以确保 AI Skill 使用 Azure OpenAI 门户中特定文档集中的信息来支持响应。 这缩小了响应的范围,使其更加准确。

  9. 现在,您可以开始创建 AI Skill 并根据需要添加提示输入。 让我们使用一个示例来引导您完成这些步骤。
  10. 系统提示用户提示字段中,输入您的 Prompt 文本以及输入变量(如需要)。

    例如:

    System prompt : 您是 Java 的代码专家。

    User prompt : 编写一个示例代码,使用 OOD 原则计算矩形和圆形的面积。

    Prompt 文本的响应将参考 Azure 门户中的文档。

  11. 单击退出提示输入字段。
  12. 单击获取响应,以根据您的提示从模型中获取响应。
    注: Prompt 数据详细信息可能包含您在 System promptUser prompt 字段中输入的 PHI、PII 或其他敏感数据。 我们建议在测试和执行提示时注意这一点。
  13. Grounded by AI Search Model connection响应字段中返回响应,并另外显示一个引用字段,显示所有引用参考。

    引用是信息块,说明响应引用自存储在 Grounded by AI Search 中的文档的哪个部分。 您可以从 Azure OpenAI 查看引用数据存储的文档标题。