AI 防护机制 常见问题解答

有关 AI 防护机制 的功能和特性的一般问题，请参阅此常见问题解答。 这是为了在自动化中使用 GenAI 时保护提示和模型响应中的敏感数据。

什么是 AI 防护机制？

使用公开托管的 LLM 和生成式 AI 模型会给企业带来重大的隐私和安全风险。AI 防护机制 是一种智能化的标记化解决方案，可以保护与 LLM 共享或由 LLM 处理的敏感数据，同时维护上下文。 此功能旨在确保数据保护，为客户提供最高级别的隐私和安全，并监控内容中的毒性级别，防止出现影响品牌声誉的意外结果。AI 防护机制 通过以下功能使您能够精确管理生成式 AI 自动化中的敏感数据：

  • 在与生成式 AI 模型集成的自动化中管理 AI 防护机制 敏感数据的策略。
  • 在提示和模型响应中定义管理敏感数据的规则。
  • 根据数据类别（例如 PII、PHI 和 PCI）指定数据处理偏好。
  • 在执行期间执行自动化策略。
  • 监控和审计数据处理以及在自动化中执行提示的毒性评分。
此功能是否使用 AI？
是的，我们利用一个成熟的命名实体识别 (NER) 模型，这是一种专门的用于识别敏感数据的 AI 形式。
NER 是自然语言处理 (NLP) 的一个子领域，可识别和定位文本提示中的敏感信息，例如姓名、地址、电话号码和日期。 这样，我们就可以屏蔽或编辑此数据，保护隐私并确保遵守数据保护法规。 从本质上讲，NER 是识别文本数据集中需要屏蔽的内容的第一步。
AI 防护机制 需要哪些许可证？
您需要购买 企业平台 许可证以及 AI 防护机制，这是一种按使用量计费的许可证。 有关 企业平台 许可证的详细信息，请参阅 企业平台
管理 AI 防护机制 需要哪些权限？
需要管理 AI 防护机制权限才能配置、编辑或删除 AI 防护机制 策略。 查看 AI 防护机制权限允许用户查看已配置的 AI 防护机制 策略。
AI 防护机制 是否可用于本地部署？

AI 防护机制 目前不支持本地部署。

目前在哪些地区受支持？

AI 防护机制 目前在美国和欧盟受支持。

AI 防护机制 如何保护我的敏感数据？

在自动化上强制执行时，AI 防护机制 会拦截每个使用生成式 AI 命令包和 AI 技能 命令包执行的提示。 该服务扫描提示中的敏感数据，并将其替换为标记化值以去识别化。 这些标记化提示然后发送到 LLM。 收到响应后，服务会再次扫描，并用原始值重建响应。 这是默认的屏蔽行为。AI 防护机制 还支持通过防护机制策略配置的不可逆匿名化。

我可以在哪里查看与敏感数据保护相关的日志？

活动跟踪可在 AI 治理 提示日志和事件日志中找到。 使用 AI 提示日志中的详细视图查看包含屏蔽内容和毒性分数的提示和响应。

敏感数据映射的存储时间有多长？

敏感数据映射存储在 Automation 360 云内的安全保管库中，使用符合 FIPS 197 标准的定期轮换 AES-256 密钥进行加密。 映射也会在客户生产租户环境的数据库中安全存储 30 天，然后安全清除。 30 天后，将为每笔交易创建新的映射。

对存储的敏感数据应用了哪些安全控制措施？

敏感数据映射采用行业标准加密和以下安全控制措施进行保护：具有受限连接的网络隔离、基于最小权限原则限制授权用户的访问、以及静态和传输中加密。

在屏蔽/解除屏蔽期间，AI 防护机制 是否会将敏感数据发送到第三方 LLM 或云端？

不，所有敏感数据都在 Automation 360 Cloud 租户内进行处理。在屏蔽或解除屏蔽中，AI 防护机制 不与任何第三方 LLM 或外部云服务集成。

支持的最大提示大小是多少？
当前限制是每个提示 100000 个单词。
AI 防护机制 是否支持除英语以外的其他语言？
不支持。虽然提供了多种语言的 AI 防护机制 用户界面 (UI)，但有害内容检测和数据屏蔽的核心功能（PII、PCI、PHI）目前仅支持英文。

这意味着即使您使用不同语言的 Control Room，AI 防护机制 也不会检测或屏蔽用其他语言编写的提示和回复中的敏感数据或有害内容。

AI 防护机制 是否支持多模态内容（例如视频或音频）？

目前，AI 防护机制 主要支持基于文本的内容。