创建 微调 模型连接

通过测试和微调自定义支持的基础模型,创建 微调 模型连接,以便专业开发人员可以将其连接到他们创建的 AI 技能

连接到来自超大规模云服务提供商(如 Amazon BedrockGoogle Vertex AIAzure OpenAIOpenAI)的基础模型实例,并通过微调自定义其模型,然后使用特定名称保存这些模型。

自动化管理员创建和测试 微调 模型连接,并将其提供给专业开发人员,专业开发人员在创建 AI 技能 时可以连接到它们。 模型连接 用于在 AI 技能 中发送提示并从模型接收响应。

自动化管理员创建自定义角色,并将这些 微调 模型连接 分配给分配给用户自定义角色,以启用其对 模型连接 的访问权限。

此功能使您可以根据特定场景创建自己的自定义模型。 由于这些 微调 模型连接 是使用您的数据在您组织的环境中自定义和训练的,因此可以根据您的合规性和治理政策来管理和监控其使用情况。

此外,在 Automation Anywhere 中创建 微调 模型连接 时,您可以使用在 AWS 服务中使用 Amazon Bedrock 创建的 微调 模型,以及在 Google 数据存储 中使用 Google Vertex AI 创建的模型。

创建 微调 模型连接

需要考虑的几件事

要使用 微调 模型连接,您首先需要通过超大规模模型提供的工具来创建它们。 这些 微调 模型在 Automation Anywhere 中由 AI Agent Studio 提供开箱即用的支持。

请参考以下信息,为每个基础模型创建您的自定义 微调 模型:

Amazon Bedrock :
  1. Amazon Bedrock 服务中创建您的 微调 模型。 请参阅 Amazon Bedrock 的微调模型
  2. 接下来,单击自定义模型
  3. 找到您的 微调 模型并选中。
  4. 记录在其中部署模型的区域
  5. Automation Anywhere 中创建 模型连接 时,使用从 Amazon Bedrock 获取的模型 ARN区域值连接到您的 微调 模型。
Google Vertex AI :
  1. Google Vertex AI 中创建自定义模型。 请参阅 如何为 Google Vertex AI 创建微调模型
  2. 接下来,导航到 Vertex AI > 模型园地
  3. 单击查看我的端点和模型
  4. 您应该会看到 ModelID 和与您的 微调 模型相关的区域值。
  5. 登录 Google Vertex AI 后,从第一页获取此模型的 ProjectId。 您也可以在登录后从左上角获取,它会在该位置显示。
  6. Automation Anywhere 中创建 模型连接 时,使用获取的 ModelID区域值连接到您的 微调 模型。
Azure OpenAI :
  1. 要在 Azure OpenAI 中创建自定义模型,请参阅 使用微调自定义模型
  2. 然后使用此自定义模型创建部署。 记录模型名称部署名称
  3. Automation Anywhere 中创建 模型连接 时,使用模型名称部署名称值连接到您的 微调 模型。
OpenAI :
  1. OpenAI 中创建您的 微调 模型。 请参阅 使用 OpenAI 创建微调模型
  2. 获取为 微调 模型生成的模型 ID
  3. Automation Anywhere 中创建 模型连接 时使用此模型 ID 值。

先决条件

自动化管理员创建 模型连接,并需要这些角色和权限来管理其业务组织的 模型连接
  • 角色: AAE_Basic,自动化管理员自定义角色
  • 权限: 有人值守机器人运行程序
  • 设置: 必须由自动化管理员启用 AI 数据管理,并选中允许用户禁用 AI 技能日志的复选框。 允许拥有机器人创造程序许可证的用户在使用 AI 技能时禁用数据记录

请参阅 角色和权限 以了解自动化管理员自定义角色的权限。

其他要求
  • 您首先需要创建一个 微调 模型连接,并以特定名称保存,以便您在创建 模型连接 时使用。 请参阅上面的部分,了解如何为每个基础模型供应商创建 微调 模型连接
  • 如果您想将身份验证详细信息存储在凭据保管库中,请准备好该信息。 请参阅 通过 凭据保管库 存储安全凭据
  • 要测试 模型连接,您必须连接到 机器人代理 22.60.10 及更高版本。 作为测试的一部分,您需要在桌面上运行 机器人。 因此,请确保 机器人代理 已配置为您的用户。 对于此任务,如果您需要切换连接到不同的 Control Room,请参阅:在 Control Room 实例之间切换设备注册
  • 您需要访问 录制器 包和 AI 技能 包才能成功测试连接。 将执行测试 提示 以测试 模型连接

请按照以下步骤创建 微调 模型连接

过程

  1. 在您的Control Room环境中,导航到AI > 模型连接 > 创建模型连接
  2. 创建模型连接屏幕中,您将配置以下连接设置
    1. 模型连接名称: 提供一个名称以方便识别 模型连接
    2. 描述(可选): 添加一个有意义的简短描述来定义连接。
    3. 选择供应商: 从支持的供应商列表中选择一个基础模型供应商,例如 Amazon BedrockGoogle Vertex AIAzure OpenAIOpenAI
    4. 选择类型: 从下拉列表中选择 微调
    5. 选择模型: 从下拉列表中选择一个模型。 根据您的供应商选择在列表中显示相关的模型。
      我们建议不要从下拉列表中选择任何 Amazon Anthropic Claude 模型。 Amazon 不允许对任何 Anthropic Claude 模型进行微调,因此此模型选项不应显示在下拉列表中。 我们将在未来的版本中移除此选项。
    6. 微调模型名称: 请输入您之前创建的 微调 自定义模型的具体名称。
    7. 单击下一步以继续到身份验证详细信息部分。
  3. 身份验证详细信息部分,根据从基础模型服务获取的值配置 Amazon BedrockGoogle Vertex AIAzure OpenAIOpenAI 的设置。
    注: 有关为每个模型供应商设置身份验证详细信息的详细信息,请参阅 验证模型连接
  4. 单击测试连接以确保所有连接详细信息已正确定义,并检查连接是否正常工作。
    这是一个使用机器人代理的桌面操作。 使用 机器人代理 22.60.10 及更高版本才能成功测试。
    • 如果连接按预期工作,系统将处理请求,并且您将收到系统生成的成功消息。
    • 如果连接未按预期工作,您将收到一条系统生成的消息,说明连接失败的原因。 例如,如果您尚未将支持的基础模型包下载到您的工作区,您将收到一条错误消息。 您需要下载该软件包,然后重新测试模型连接
    • 如果测试 模型连接 不成功,或者如果您未完成任务,模型连接 将不会被保存,您将不得不重新开始创建 模型连接 的过程。
  5. 单击下一步以进入邀请角色部分,开始为用户分配自定义角色。
    自动化管理员将创建自定义角色并将 模型连接 分配给该角色,随后再将其分配给用户。 只有被分配到此自定义角色的用户才能使用此 模型连接
  6. 通过自定义角色(使用 RBAC)为专业开发人员分配访问权限,以使用此 模型连接 创建 AI 技能
  7. 单击创建模型连接以完成 模型连接 的创建。
    在成功创建 模型连接 之后,专业开发人员将使用它来创建 AI 技能

    请参阅:创建 AI 技能

后续步骤

在创建和测试 模型连接 之后,您需要将其分配给专业开发人员,他们将使用此连接创建 AI 技能

请参阅 创建 AI 技能

注: 当您在 AI 技能编辑器中创建或测试 AI 技能 时,可以在以下导航屏幕中查看成功或失败的详细信息以及模型响应:
  • 管理 > 人工智能治理 > 人工智能提示日志
  • 管理 > 人工智能治理 > 事件日志
  • 管理 > 审核日志

请参阅 AI 治理

作为任务序列的下一步,请前往 创建 AI 技能,创建一个 AI 技能,并连接到 微调 模型连接,以便最终在自动化中使用。