AI21 Labs 聊天 AI action

AI21 Labs 聊天 AI 操作将自动化连接到 Amazon Bedrock AI21 Labs 聊天 AI 功能。 此操作使自动化能够与用户进行自然、信息丰富且具备上下文意识的对话，从而提供更个性化和引人入胜的自动化体验。

先决条件

  • 要在机器人中使用 AI21 Labs 聊天 AI 操作，您必须拥有 Bot Creator 角色。
  • 确保您拥有发送请求所需的凭据，并在调用任何 Amazon Bedrock 操作之前包含 Amazon Bedrock: 身份验证 action。

此示例展示了如何使用 AI21 Labs 聊天 AI 操作发送自然语言消息并获得适当的响应。

过程

  1. 在 Control Room 中，导航到操作窗格，选择 生成式人工智能 > Amazon Bedrock，拖动 AI21 Labs： 聊天 AI，并将其放置在画布中。
  2. 输入或选择以下字段：

    Amazon Bedrock AI21 Labs 聊天 AI

    1. 输入区域。 有关地区的信息，请参阅 Amazon Bedrock GA 地区。
    2. 单击模型下拉菜单，然后选择一个用于通信的模型。
      • Jurassic-2 Mid： Jurassic-2 Mid 是 Jurassic-2 系列中的中型模型，用于各种语言理解和生成任务。
      • Jurassic-2 Mid（已弃用 - 2024 年 8 月 31 日） Jurassic-2 Mid 是 Jurassic-2 系列中的中型模型，用于各种语言理解和生成任务。 由于此模型已弃用，其功能有限。
      • Jurassic-2 Ultra： Jurassic-2 Ultra 是 Jurassic-2 系列中更好的模型，专为最复杂的语言生成任务而设计。
      • Jurassic-2 Ultra（已弃用 - 2024 年 8 月 31 日） Jurassic-2 Ultra 是 Jurassic-2 系列中更好的模型，专为最复杂的语言生成任务而设计。 由于此模型已弃用，其功能有限。
      • Jamba-Instruct： Jamba-Instruct 是一种指令调整基础模型，以其 256K 令牌的超大上下文窗口而著称。
      • Jamba 1.5 Large： Jamba 1.5 Large 是 Jamba 1.5 系列中的基础模型，采用 Mamba-Transformer 混合架构。
      • Jamba 1.5 Mini： Jamba 1.5 Mini 是 Jamba 1.5 模型的更小、更高效版本，同样采用 Mamba-Transformer 混合架构。
      • 其他支持的版本： 要输入上述模型的其他支持版本。 有关更多信息，请参阅 AI21 Labs models。
      注： 生成式人工智能软件包依赖于模型的特定输入/输出模式才能正常运行。 由于不同的模型通常具有不同的架构，因此只能集成同一模型的不同版本。 如需了解其他受支持的版本，请查阅超大规模云服务提供商文档中关于模型支持版本的信息。
    3. 输入聊天消息，以供模型生成回复。
      注： 聊天操作会在同一会话中保留前一个聊天操作的结果。 如果您连续调用聊天操作，模型可以理解后续消息并将其与之前的消息关联起来。 然而，所有聊天记录在会话结束后都会被删除。
    4. 输入最大完成长度。
      默认情况下，如果您不输入值，则最大完成长度会自动设置，以确保在考虑生成响应的长度后，将其保持在所选模型的最大上下文长度范围内。
    5. 输入温度。 该值指的是响应的随机性。 当温度接近零时，响应变得更为具体。 该值越高，响应就越随机。
    6. 输入 默认 作为会话名称，以将会话限制为当前会话。
    7. 要管理可选参数，请单击显示更多选项并选择是。 如果您选择是，您可以添加其他参数，例如： Top P、添加说明、存在惩罚、计数惩罚、频率惩罚、惩罚特殊标记和停止序列。 有关这些可选参数的信息，请参阅 学习模型。
    8. 将响应保存到变量。 在此示例中，响应保存到 AWS_AI21-Labs-response。
  3. 单击运行启动 bot。
    您可以通过打印消息框 action 中的响应来读取字段的值。 在此示例中，str_AI21Labs_chatResponse 打印响应。 您可以添加额外的聊天请求以获得更多响应。
    提示： 要在同一个机器人中维护多个聊天，您需要用不同的名称或变量创建多个会话。