AI 治理
- Updated: 2025/05/22
AI 治理
加强治理，通过 AI 治理 进行强有力的监控和审计，维护自动化中 生成式 AI 交互和事件的完整性。
注：
生成式 AI 模型可能会产生错误和/或错误地表示它们生成的信息。 建议核实 AI 模型生成内容的准确性、可靠性和完整性。
概述
AI 治理 作为平台功能在 AI Agent Studio 产品套件中提供。 其目的是为您提供管理员工具，确保安全使用人工智能，管理对基础模型的访问，并在执行 生成式 AI 驱动的自动化时提供监控和审计功能。
AI 治理 在用户在其自动化中使用基础模型时提供审计信息。 具有适当权限的用户可以查看审计摘要和详细信息。 Control Room 使客户能够管理其数据记录偏好、控制查看日志的访问权限，并通过加密保护敏感数据。
AI 治理 中支持以下功能：
- 基于角色的访问控制 (RBAC) 通过权限管理用户访问，以管理数据记录和查看 AI 交互日志及详细信息。
- AI 提示日志 整合显示自动化执行中发生的基础模型交互。
- 事件日志 可跟踪与基础模型交互期间发生的所有 生成式 AI 事件。
- 搜索和导出项目到 CSV 以导出和转发日志记录到其支持的安全信息和事件管理 (SIEM) 平台。
下图显示了 AI 治理 工作流程的概述：
优势
通过 AI 治理 内置的安全防护措施，加强负责任的 AI 使用：
- 合规管理： 遵守即将出台的 AI 法规和框架。 监控日志以主动检测敏感数据泄露的风险，并根据最佳实践及时使用。 用于授权访问模型的提示数据和凭据使用行业标准加密算法安全存储。
- 监控和审计： 在自动化执行中审核和监控模型交互使用情况，以确保遵循治理政策。 在自动化中跟踪模型交互，以确保模型的正确使用和性能。
- 安全防护措施： 通过对已批准模型进行基于角色的访问控制，为 模型连接 和提示数据实施更强的安全管理。 所有与已批准模型的连接均集中管理，并可用于自动化。
- 使用情况洞察： 深入了解自动化中使用的提示使用情况和 生成式 AI 模型。
- 查看和跟踪日志详细信息： 在 AI 提示日志 和 事件日志 选项卡中查看会话交互及其对应的事件详细信息。
- AI 治理 分析： 在创建和执行自动化过程中，通过 AI 治理 仪表板将汇总数据整合为可视化表示，跟踪、监控和管理 生成式 AI 的使用。
- 代码分析规则： 通过 AI 治理 代码分析规则确保负责任且合规地使用 AI，该规则允许您通过通知监控和执行 AI 使用政策，以便立即采取补救措施。
可用性
使用 AI Agent Studio 的 AI 治理 功能需要 企业平台 许可证。
有关此功能支持版本的信息，请参阅企业平台。