创建具有 Google Vertex AI RAG 功能的基础 Model connections

使用 Google Vertex AI RAG（检索增强生成）功能创建 Grounded by data store Model connections，以生成引用自 Google Data Source、准确且符合上下文的信息。

注：

Google Vertex AI Grounded by data store Model connections 现在也在 Cloud 的 Automation 360 v34 版本中可用。 您可以在 Cloud 和 On-Premises 中使用此功能。

现在支持具有文档分块功能的 Google Data Store，以确保自动化执行获得最佳结果。 您可以在 AI Agent Studio 中启用 Google Data Store 的文档分块功能，以使用 Google Vertex AI 的基础模型。

我们现在为您提供使用 Agent Builder 服务创建 Grounded by data store Model connections 的选项。 Google Data Store 上的搜索查询从大型数据集检索相关内容，并将其提供给模型以生成准确的响应。

在自动化执行过程中，使用由 Grounded by data store 创建的 Model connections 通过引用 Google Data Store 中的 Google Data Source 来获取响应。 这确保了可以从相关内容中获取更准确的优化响应。 定位是使用基础模型的重要方面，因为它可以根据组织数据返回有根据的响应，并防止出现响应不准确和模型幻觉。
注： 要在 AI Agent Studio 中使用Google Vertex AI RAG 功能，您首先需要在 Agent Builder 中创建一个数据源。 然后使用 Grounded by data store 选项创建一个 Model connection。

请参阅： 数据存储在 Google Vertex AI 中 .

先决条件

自动化管理员需要这些角色和权限来为其业务组织创建和管理Model connections。
  • 角色: AAE_Basic，自动化管理员自定义角色
  • 许可: 有人值守机器人运行程序
  • 设置： AI 数据管理必须由自动化管理员启用，并选中允许用户禁用 AI 技能日志选项的复选框。

请参阅 角色和权限 以了解自动化管理员自定义角色的权限。

其他要求：
  • 如前所述，您首先需要创建一个 Google Data Source 用于创建 Grounded by data store Model connection，并将其成功应用于 AI Skill。 请参阅 数据存储 和 创建Vertex Data Store。
  • 如果您想在凭据保管库中存储身份验证详细信息，请准备好这些信息。 请参阅 通过 Credential Vault 存储安全凭据。
  • 要测试Model connection，您必须连接到Bot Agent 22.60.10及更高版本。 作为测试的一部分，您需要在桌面上运行bot。 因此，请确保Bot Agent已配置为您的用户。 对于此任务，如果您需要切换连接到不同的Control Room，请参阅：在 Control Room 实例之间切换设备注册。
  • 您需要访问 Recorder 软件包和AI Skills 软件包才能成功测试连接。 将执行测试Prompt以测试Model connection。

过程

  1. 在您的Control Room环境中，导航到AI > 模型连接 > 创建模型连接。
  2. 在创建模型连接 屏幕中，您将配置以下 连接设置：
    创建具有 Google Vertex AI RAG 功能的基础 Model connections
    您可以在选择一个模型或创建自定义模型字段中手动输入模型名称。 您输入的名称将用于创建Model connection。
    1. 模型连接名称: 请为Model connection提供一个便于识别的名称。
    2. 描述(可选)： 添加一个有意义的简短描述来定义连接。
    3. 选择供应商： 从支持的供应商列表中选择一个基础模型供应商。 要使用 Google Vertex AI 创建 Grounded by data store Model connection，请从下拉列表中选择 Google Vertex AI。
    4. 选择类型： 选择 Grounded by data store 以使用 Google Vertex AI 的 RAG 功能。
    5. 选择一个模型或创建一个自定义模型: 从下拉列表中选择一个模型。
      另外，我们也支持未显示在下拉列表中的来自 Google Data Store 的其他型号。 如果您想从 Google Data Store添 加一个模型，您需要输入模型名称和版本以及模型的完整 URI。 例如： 如果模型是 Gemini 1.5 Flash 001，格式将是 gemini-1.5-001/answer_gen/v1。
      要查看每个基础模型供应商支持的完整模型列表，请参见常见问题解答。
    6. 单击下一步以继续到身份验证详细信息部分。
  3. 在Authentication details部分中，配置以下设置：
    1. 项目名称： 这是 Google Cloud 账户项目。
    2. 区域： 从下拉列表中选择一个地区进行连接，并向 Model connection 进行身份验证。 您还可以添加在 Agent Builder 中创建数据源时配置的地区。
      请参阅 创建数据存储 .
    3. Control Room OAuth 连接： 创建一个 OAuth 2.0 客户端 ID。 客户端 ID 用于向谷歌的 OAuth 服务器标识单个应用程序。
    4. 在设置好认证详细信息后，确认并单击下一步，以继续到测试连接部分来测试Model connection。
    注： 有关为 Google Vertex AI 设置 Google Cloud 项目和 Control Room OAuth 连接的详细信息，请参阅 Vertex AI: 连接操作。
  4. 单击测试连接以确保所有连接详细信息已正确定义，并检查连接是否正常工作。
    这是一个使用Bot Agent的桌面操作。 使用 Bot Agent 22.60.10 及更高版本进行成功测试。
    • 如果连接按预期工作，系统将处理请求，并且您将收到系统生成的成功消息。
    • 如果连接未按预期工作，您将收到一条系统生成的消息，说明连接失败的原因。 例如，如果您尚未将支持的基础模型包下载到您的工作区，您将收到一条错误消息。 您需要下载该软件包，然后重新测试Model connection。
    • 如果测试Model connection不成功，或者如果您未完成任务，Model connection将不会被保存，您将不得不重新开始创建Model connection的过程。
  5. 单击下一步以进入邀请角色部分，开始为用户分配自定义角色。
    自动化管理员将创建自定义角色并将Model connections分配给该角色，然后可以将其分配给用户。 只有被分配到此自定义角色的用户才能使用此Model connection。
  6. 将 Model connection 分配给自定义角色（使用 RBAC），以便分配到该角色的用户可以访问它。
  7. 单击 创建模型连接 以完成 Model connection 的创建。
    在成功创建 Model connection 之后，专业开发人员将使用它来创建 AI Skill。

    请参阅：使用 Grounded by data store Model connections 创建 AI Skills

    .

后续步骤

在创建和测试Model connection之后，您将其分配给专业开发人员，他们将使用此连接创建AI Skills。

作为任务序列的下一步，转至 使用 Grounded by data store Model connections 创建 AI Skills，创建一个AI Skill，并连接到一个Grounded by data store Model connection，以便在自动化中使用。