AI Guardrails 常见问题解答

有关 AI guardrail 的功能和特性的一般问题，请参阅此常见问题解答。 这是为了在自动化中使用 GenAI 时保护提示和模型响应中的敏感数据。

什么是 AI guardrail？

使用公开托管的 LLM 和生成式 AI 模型会给企业带来重大的隐私和安全风险。AI Guardrails 是一种智能化的标记化解决方案，可以保护与 LLM 共享或由 LLM 处理的敏感数据，同时维护上下文。 此功能旨在确保数据保护，为客户提供最高级别的隐私和安全，并监控内容中的毒性级别，防止出现影响品牌声誉的意外结果。AI Guardrails 通过以下功能使您能够精确管理生成式 AI 自动化中的敏感数据：

  • 在与生成式 AI 模型集成的自动化中管理 AI guardrail 敏感数据的策略。
  • 在提示和模型响应中定义管理敏感数据的规则。
  • 根据数据类别（例如 PII、PHI 和 PCI）指定数据处理偏好。
  • 在执行期间执行自动化策略。
  • 监控和审计数据处理以及在自动化中执行提示的毒性评分。
此功能是否使用 AI？
是的，我们利用一个成熟的命名实体识别 (NER) 模型，这是一种专门的用于识别敏感数据的 AI 形式。
NER 是自然语言处理 (NLP) 的一个子领域，可识别和定位文本提示中的敏感信息，例如姓名、地址、电话号码和日期。 这样，我们就可以屏蔽或编辑此数据，保护隐私并确保遵守数据保护法规。 从本质上讲，NER 是识别文本数据集中需要屏蔽的内容的第一步。
AI Guardrails 需要哪些许可证？
您需要购买 Enterprise Platform 许可证以及 AI Guardrails，这是一种按使用量计费的许可证。 有关 Enterprise Platform 许可证的详细信息，请参阅 Enterprise Platform
管理 AI Guardrails 需要哪些权限？
需要管理 AI 防护机制权限才能配置、编辑或删除 AI Guardrails 策略。 查看 AI 防护机制权限允许用户查看已配置的 AI Guardrails 策略。
AI Guardrails 是否可用于本地部署？

AI Guardrails 目前不支持本地部署。

目前在哪些地区受支持？

AI Guardrails 目前在美国和欧盟受支持。

AI Guardrails 如何保护我的敏感数据？

在自动化上强制执行时，AI Guardrails 会拦截每个使用生成式 AI 命令包和 AI Skill 命令包执行的提示。 该服务扫描提示中的敏感数据，并将其替换为标记化值以去识别化。 这些标记化提示然后发送到 LLM。 收到响应后，服务会再次扫描，并用原始值重建响应。 这是默认的屏蔽行为。AI Guardrails 还支持通过防护机制策略配置的不可逆匿名化。

我可以在哪里查看与敏感数据保护相关的日志？

活动跟踪可在 AI Governance 提示日志和事件日志中找到。 使用 AI 提示日志中的详细视图查看包含屏蔽内容和毒性分数的提示和响应。

敏感数据映射的存储时间有多长？

敏感数据映射存储在 Automation 360 云内的安全保管库中，使用符合 FIPS 197 标准的定期轮换 AES-256 密钥进行加密。 映射也会在客户生产租户环境的数据库中安全存储 30 天，然后安全清除。 30 天后，将为每笔交易创建新的映射。

对存储的敏感数据应用了哪些安全控制措施？

敏感数据映射采用行业标准加密和以下安全控制措施进行保护：具有受限连接的网络隔离、基于最小权限原则限制授权用户的访问、以及静态和传输中加密。

在屏蔽/解除屏蔽期间，AI Guardrails 是否会将敏感数据发送到第三方 LLM 或云端？

不，所有敏感数据都在 Automation 360 Cloud 租户内进行处理。在屏蔽或解除屏蔽中，AI Guardrails 不与任何第三方 LLM 或外部云服务集成。

支持的最大提示大小是多少？
当前限制是每个提示 100000 个单词。
AI Guardrails 是否支持除英语以外的其他语言？
不支持。虽然提供了多种语言的 AI Guardrails 用户界面 (UI)，但有害内容检测和数据屏蔽的核心功能（PII、PCI、PHI）目前仅支持英文。

这意味着即使您使用不同语言的 Control Room，AI Guardrails 也不会检测或屏蔽用其他语言编写的提示和回复中的敏感数据或有害内容。

AI Guardrails 是否支持多模态内容（例如视频或音频）？

目前，AI Guardrails 主要支持基于文本的内容。