AI ガバナンス コード分析ルール

新しいAI ガバナンスコード分析ルールにより、AIの責任ある使用とコンプライアンスを確保できるようになりました。 コード分析の強化により、即時の是正措置のための通知を通じてAI使用ポリシーを監視および徹底することができます。

注: この機能を使用するには Enterprise Platform のライセンスが必要です。 この機能のサポートされているバージョンについては、「Enterprise プラットフォーム」を参照してください。

概要

検証されていない基盤モデルを使用することは、それを使用するユーザーやアプリケーションに重大な安全リスクをもたらす可能性があります。 生成 AI モデルへのアクセスを管理するためのセキュリティコントロールがないと、ユーザーやアプリケーションはモデルの使用に関連するリスクにさらされることになります。 ガバナンスポリシーを実施して、これらのリスクを軽減するために、組織の責任あるAIおよび安全な使用のポリシーと整合させます。 承認され、テストされたモデルへのアクセスを制限し、良好な応答品質のために審査されていないモデルを使用する際のリスクを管理します。地域の制限に従ったルールを施行することに加えて。

新しいルールは、コード分析を通じて自動化の設計と開発中にモデルの使用を強制します。 この簡単に施行できるポリシーは、オートメーションが実行のためにプロダクションフォルダーにチェックインされる前に、コンプライアンスを確保するのに役立ちます。 このポリシーは、ポリシーに違反している本番環境の自動化をチェックし、報告し、これらの侵害された未承認モデルが使用される際のリスクを可視化します。 これにより、これらのインシデントを修正する機会が得られます。.

「コード分析ルール」および「コード分析ポリシーの構成と割り当て」を参照してください。

福利厚生

AI ガバナンス の新しいコード分析ルール

コード分析を通じて施行されるモデル使用ポリシーを通じて、承認されたモデルと出版社のみの使用を強制します。
  • テスト済みおよび検証済みのモデルのみにモデル使用を制限する
  • ポリシー違反を監視する
  • ポリシー違反によるコードのチェックインを防止する

ユーザーおよび権限

自動化管理者、プロ開発者、または自動化リードが AI ガバナンス コード分析ポリシーの主なユーザーとなります。 彼らは Bot 作成者 とプロ開発者のためのルールを定義し、モデルの使用とトークン消費に関するポリシー制限を監視および強制する。 ペルソナは Control Room ポリシーマネージャーを通じてポリシーを定義し、自動化を含むフォルダーに割り当てることができます。

自動化を開発した後、プロ開発者がそれを保存してチェックインすると、ポリシーチェックがトリガーされ、自動化コード内のポリシー違反について通知されます。 プロ開発者は、コードチェックインプロセスを成功裏に完了するために、ポリシー違反に対処し解決しなければなりません。

この新しいポリシールールは、オートメーション管理者、プロ開発者、またはオートメーションリードが以下を定義できることを許可します。
  • サポートされているハイパースケーラーパブリッシャーのリスト
  • ハイパースケーラーパブリッシャーからのモデルのリスト
  • デプロイのサポート対象地域
注: ルール違反が発生した場合に、プロ開発者が自動化をチェックインしないように、重大度レベルを Critical として追加することをお勧めします。

権限の詳細は、「コード分析」をご覧ください。

可用性

この機能には エンタープライズプラットフォーム ライセンスが必要です。 この機能のサポートされているバージョンについては、「Enterprise プラットフォーム」を参照してください。

AI ガバナンスコード分析ポリシーへのアクセス

[管理] > [ポリシー] に移動して、Control Room で AI ガバナンス ポリシーを定義します。
注: コード分析ポリシーの管理 を参照して、コード分析ポリシーを有効化、作成、および割り当てます。
  1. [ポリシー]画面で、[ポリシーの作成]または+アイコンをクリックして、[ポリシーの作成]ページを表示し、ポリシーの詳細を追加するオプションを選択します。
  2. [AI ガバナンス] ポリシーまでスクロールして、トグルを有効にします。
  3. モデルを追加をクリックし、ハイパースケーラーのベンダーであるパブリッシャー、ベンダーからのサポートモデルであるモデル、およびデプロイメントのリージョンを追加し始めます。
    注: モデル名は手動で入力できます。 モデル名を入力する際は、以下の形式を使用することをお勧めします。
    • Amazon Bedrock : Jurassic-2 Mid、Jurassic-2 Ulta、Claude Instant v1.2、Claude v1.3、Claude v2.1 (その他のサポートされているバージョン)、Titan Text G1 - LiteおよびTitan Text G1 - Express (他のサポートされているバージョン)
    • Google Vertex AI : chat-bison (最新)、chat-bison-32k (最新)、chat-bison-32k@002、chat-bison@001、chat-bison@002、codechat-bison、codechat-bison-32k、codechat-bison-32k@002、codechat-bison@001、codechat-bison@002 (その他のサポートされているバージョン)、text-bison (最新)、text-bison-32k (最新)、text-bison-32k@002、text-bison@001、text-bison@002、text-unicorn@001、code-bison (latest)、code-bison-32k@002、code-bison@001、code-bison@002、code-gecko@001、code-gecko@002、code-gecko (その他のサポートされているバージョン)、Gemini Pro
    • OpenAI : gpt-3.5-turbo (デフォルト), gpt-3.5-turbo-16k, gpt-4, gpt-4-32k (その他のサポートされているバージョン), text-davinci-003, text-davinci-002, davinci, text-curie-001, curie, text-babbage-001, babbage, text-ada-001, およびカスタムモデル。
  4. モデルを追加 ボタンをクリックすると、許可されたモデル テーブルに新しい行を追加できます。
  5. 次に、コード分析ポリシーに従って、重大度レベルを クリティカル として追加します。
    注: ルール違反が発生した場合に、プロ開発者が自動化をチェックインしないように、重大度レベルを クリティカル として追加することをお勧めします。
  6. 次に、変更を保存します。
注:
重要な参考文献