创建具有 Amazon Bedrock RAG 功能的基础 Model connections

使用 Amazon Bedrock 的本地 RAG（检索增强生成）功能创建 Grounded by knowledge base Model connections，以生成引用自 Amazon Knowledge Base、准确且符合上下文的信息。

我们现在为您提供使用 Amazon Bedrock-RAG 功能创建 Model connections 的选项。 RAG 上的搜索查询将从与所提供上下文相关的准确的大型数据集中检索相关内容块。 在检索到相关信息后，模型将利用这些信息生成响应。

需要考虑的几个点

  • 要使用 Amazon Bedrock-RAG 功能，您需要先在 Amazon Bedrock 中创建一个知识库，然后再创建 Grounded by knowledge base Model connection。

    请参阅：创建 Amazon Knowledge Base

  • 要使用在创建 Model connection 时无法选择的 Amazon Bedrock 中的其他模型时，您需要从支持的 Amazon Bedrock 模型中获取模型 ID和模型 ARN。

    请参阅：从 AWS Services 添加 Amazon Bedrock 模型

使用 Amazon Bedrock RAG 功能创建 Model connections 的工作流

先决条件

自动化管理员需要这些角色和权限来为其业务组织创建和管理Model connections。
  • 角色: AAE_Basic，自动化管理员自定义角色
  • 许可: 有人值守机器人运行程序
  • 设置： 必须由自动化管理员启用 AI 数据管理，并选中允许用户在使用 AI 技能时禁用日志的复选框。 允许具有 Bot Creator 许可证的用户在使用 AI 技能时禁用数据记录，以便在 AI Skills 屏幕中启用数据记录切换按钮。

请参阅 Roles and permissions 以了解自动化管理员自定义角色的权限。

其他要求：

  • 如前所述，您首先需要创建一个 Amazon Knowledge Base 用于创建 Grounded by knowledge base Model connection，并将其成功应用于 AI Skill。
  • 如果您想在凭据保管库中存储身份验证详细信息，请准备好这些信息。 请参阅 通过 Credential Vault 存储安全凭据。
  • 要测试Model connection，您必须连接到Bot Agent 22.60.10及更高版本。 作为测试的一部分，您需要在桌面上运行bot。 因此，请确保将Bot Agent配置为您的用户。 对于此任务，如果您需要切换连接到不同的Control Room，请参阅：在 Control Room 实例之间切换设备注册。
  • 您需要访问 Recorder 软件包和 AI Skills 软件包才能成功测试连接。 将执行测试Prompt以测试Model connection。

过程

  1. 在您的Control Room环境中，导航到AI > 模型连接 > 创建模型连接。
  2. 在创建模型连接屏幕中，您将配置以下连接设置：
    创建具有 Amazon Bedrock RAG 功能的基础 Model connections
    您可以在选择一个模型或创建一个自定义模型字段中手动输入模型名称。 您输入的名称将用于创建Model connection。
    1. 模型连接名称: 请为Model connection提供一个便于识别的名称。
    2. 描述(可选)： 添加一个有意义的简短描述来定义连接。
    3. 选择供应商： 从支持的供应商列表中选择一个基础模型供应商。 要使用 Amazon Bedrock 创建 Grounded by knowledge base Model connection，您需要从下拉列表中选择 Amazon Bedrock。
    4. 选择类型： 选择 Grounded by knowledge base 以使用 RAG 功能。
    5. 选择一个模型或创建一个自定义模型： 从 Amazon Bedrock 的已验证模型下拉列表中选择一个模型。
      另外，我们也支持未显示在下拉列表中的来自 Amazon Bedrock 的其他型号。 您可以使用 模型 ID 或 模型 ARN 来添加到列表中。 请参阅：从 AWS Services 添加 Amazon Bedrock 模型。
      要查看每个基础模型供应商支持的完整模型列表，请参见General FAQs。
    6. 单击下一步以继续到身份验证详细信息部分。
  3. 在Authentication details部分中，配置以下设置：
    1. 区域： 选择所选模型的部署区域对 Model connection 进行身份验证。 您还可以通过参考 Amazon Bedrock 中的列表，添加未显示在下拉列表中的区域。 以这种格式输入以将该区域添加到列表中。 例如：us-east-1。
      有关 Amazon Bedrock 模型支持的部署区域列表，请参阅 。Amazon Bedrock 知识库的支持区域和模型 .
    2. 知识库 ID： 提供您从 Amazon Bedrock 获取的知识库 ID。.
      请参阅 Amazon Bedrock 知识库
    3. 访问密钥： 此 AWS 访问密钥可用作 AWS 生态系统中的唯一标识符。 这是身份验证过程的基本部分，允许 AWS Services 识别和验证您的访问权限。
    4. Secret 访问密钥： 此密钥是与您的访问密钥 ID 相对应的机密密钥。 此密钥用于签署发送给 AWS 的服务请求，通过确保只有授权的个人或系统可以访问您的 AWS 资源来增强安全性。
    5. 会话令牌（可选）： 这是一个可选字段。 除了上述信息之外，您还可以包含一个会话令牌，这是在使用临时安全凭据时使用的具有时间限制的临时令牌。 它提供了一个额外的安全层，特别是在需要临时访问的情况下，例如使用临时安全凭证时。
    6. 在设置好认证详细信息后，确认并单击下一步，以进入测试连接部分来测试Model connection。
    注： 有关为 Amazon Bedrock 设置 访问密钥、Secret 访问密钥和会话令牌的详细信息，请参阅：Amazon Bedrock: 身份验证 action。
  4. 单击测试连接以确保所有连接详细信息已正确定义，并检查连接是否正常工作。
    这是一个使用Bot Agent的桌面操作。 使用 Bot Agent 22.60.10 及更高版本进行成功测试。
    • 如果连接按预期工作，系统将处理请求，并且您将收到系统生成的成功消息。
    • 如果连接未按预期工作，您将收到一条系统生成的消息，说明连接失败的原因。 例如，如果您尚未将支持的基础模型包下载到您的工作区，您将收到一条错误消息。 您需要下载该软件包，然后重新测试Model connection。
    • 如果测试Model connection不成功，或者如果您未完成任务，Model connection将不会被保存，您将不得不重新开始创建Model connection的过程。
  5. 单击下一步以进入邀请角色部分，开始为用户分配自定义角色。
    自动化管理员将创建自定义角色并将Model connections分配给该角色，然后可以将其分配给用户。 只有被分配到此自定义角色的用户才能使用此Model connection。
  6. 通过自定义角色（使用 RBAC）为专业开发人员分配访问权限，以使用此 Model connection 创建 AI Skill。
  7. 单击 创建模型连接 以完成 Model connection 的创建。
    在成功创建 Model connection 之后，专业开发人员将使用它来创建 AI Skill。

    请参阅：使用 Grounded by knowledge base Model connections 创建 AI Skills

    .

后续步骤

在创建和测试Model connection之后，您将其分配给专业开发人员，他们将使用此连接创建AI Skills。

请参阅 使用 Grounded by knowledge base Model connections 创建 AI Skills。

注： 当您在 AI 技能屏幕中创建或测试AI Skill时，可以在以下导航屏幕中查看成功或失败的详细信息以及模型响应：
  • 管理 > AI 管理 > AI 提示日志
  • 管理 > AI 管理 > 事件日志
  • 管理 > 审核日志

请参阅 AI Governance。

作为任务序列的下一步，请前往 使用 Grounded by knowledge base Model connections 创建 AI Skills，创建一个 AI Skill，并连接到 Grounded by knowledge base Model connection，以便最终在自动化中使用。