AI Governance 代码分析规则
- Updated: 2025/04/30
AI Governance 代码分析规则
新的 AI Governance 代码分析规则可以确保 AI 使用的慎重性和合规性。 通过代码分析增强功能，您可以通过通知监控并强制执行 AI 使用策略，以便及时进行修正。
概述
使用未经测试的基础模型可能会对使用这些模型的用户和应用程序构成重大安全风险。 如果不使用安全控件对 generative AI 模型的访问进行管理，用户和应用程序将面临与模型使用相关的风险。 为降低这些风险，实施与组织所采用负责任的 AI 和安全使用策略相一致的管理策略。 除了按地区规定执行规则外，还应设置访问权限，仅可访问已批准和已测试的模型，从而管理使用响应质量未经验证的模型的风险。
新规则通过代码分析在自动化的设计和开发过程中强制使用模型。 这种易于执行的策略有助于确保在将自动化签入实际正式文件夹进行执行之前的合规性。 该策略将检查并报告实际正式环境中的自动化是否违反策略，并在使用这些受损和未经批准的模型时提供风险可见性。 从而为您提供了修正这些事件的机会。.
请参阅 代码分析规则 和 配置和分配代码分析策略。
优势
- 限制模型的使用 - 仅可使用经过测试和验证的模型
- 监控策略违反情况
- 防止代码签入违反策略
用户和权限
自动化管理员、专业开发人员或自动化负责人将是 AI Governance 代码分析策略的主要用户。 他们将为 Bot Creators 和专业开发人员定义规则，以监控并强制执行对模型使用和令牌消耗的策略限制。 角色可以通过 Control Room 策略管理器定义策略，并将其分配给包含自动化的文件夹。
在开发自动化后，当专业开发人员保存并签入自动化时，策略检查将被触发，并通知其自动化代码中的策略违规情况。 专业开发人员必须解决策略违规问题，以成功完成代码签入过程。
- 支持的超大规模发布者列表
- 超大规模发布者的模型列表
- 支持的部署区域
有关权限详情，请参阅 代码分析。
可用性
此功能需要 Enterprise Platform 许可证。 有关此功能支持版本的信息，请参阅 企业平台。
访问 AI Governance 代码分析策略
- 在策略屏幕中，单击创建策略或+图标，以显示创建策略页面，并可在该页面选择添加策略详情。
- 滚动到AI 管理策略，并启用切换功能。
- 单击添加模型，开始添加发布者，即超大规模云提供商，添加模型，即支持的供应商模型，以及添加部署区域。注： 可以手动输入模型名称。 我们建议在输入模型名称时使用以下格式：
- Amazon Bedrock ： Jurassic-2 Mid、Jurassic-2 Ulta、Claude Instant v1.2、Claude v1.3、Claude v2.1（其他支持版本）、Titan Text G1 - Lite 和 Titan Text G1 - Express（其他支持版本）
- Google Vertex AI ：chat-bison（最新）、chat-bison-32k（最新）、chat-bison-32k@002、chat-bison@001、chat-bison@002、codechat-bison、codechat-bison-32k、codechat-bison-32k@002、codechat-bison@001、codechat-bison@002（其他支持版本）、text-bison（最新）、text-bison-32k（最新）、text-bison-32k@002、text-bison@001、text-bison@002、text-unicorn@001、code-bison（最新）、code-bison-32k@002、code-bison@001、code-bison@002、code-gecko@001、code-gecko@002、code-gecko（其他支持版本）和Gemini Pro。
- OpenAI ：gpt-3.5-turbo（默认）、gpt-3.5-turbo-16k、gpt-4、gpt-4-32k（其他支持版本）、text-davinci-003、text-davinci-002、davinci、text-curie-001、curie、text-babbage-001、babbage、text-ada-001 和自定义模型。
- 通过单击添加模型按钮，您可以在 允许的模型表格中添加新行。
- 接下来，根据代码分析策略将严重度级别添加为严重。注： 我们建议将严重级别添加为严重，以防止专业开发人员在违反规则的情况下签入自动化。
- 然后，保存更改。