AI ガバナンス
- 最終更新日2024/10/17
AI ガバナンス
生成 AIによる堅牢な監視と監査を通じて、ガバナンスを強化し、オートメーション内のAI ガバナンス インタラクションとイベントの整合性を維持します。
注: 生成 AI モデルは、誤りを生み出したり、生成した情報を誤って伝えたりすることがあります。 AI モデルによって生成されたコンテンツの正確性、信頼性、および完全性を検証することをお勧めします。
概要
AI ガバナンスは、AI Agent Studio 製品群のプラットフォーム機能として提供されています。 これは、AI の安全な使用を実現する管理者ツールを提供し、基礎モデルへのアクセスを管理し、生成 AI を使用したオートメーションを実行する際の監視および監査機能を提供するように設計されています。
AI ガバナンスでは、ユーザーがオートメーションで基礎モデルを使用する際の監査情報が提供されます。 適切な権限を持つユーザーは、監査の概要と詳細情報を確認できます。 Control Room は、お客様がデータ ロギングの設定を管理し、ログを表示するためのアクセス権を制御し、暗号化によって機密データを保護できるようにします。
次のビデオでは、AI ガバナンス の概要について、価値提供に重点を置いて説明しています。
AI ガバナンスでは、次の機能がサポートされています。
- データ ロギングの管理、AI インタラクション ログと詳細の表示権限により、ユーザー アクセスを管理するロール ベースのアクセス制御 (RBAC)。
- オートメーション実行中に発生する基礎モデル インタラクションの AI プロンプト ログ の統合表示。
- 基礎モデルとのインタラクション中に発生するすべてのイベント ログ イベントを追跡する 生成 AI。
- ログ レコードをサポートされているセキュリティ情報とイベント管理 (SIEM) プラットフォームにエクスポートし、転送する [検索] と [CSV に項目をエクスポート]。
次の図は、AI ガバナンス ワークフローの概要を示しています。
福利厚生
AI ガバナンスでセキュリティのためのガードレールを組み込み、責任ある AI の使用を支援します。
- コンプライアンス管理: 今後の AI 規制やフレームワークへのコンプライアンスを維持します。 ログを監視して、機密データ漏洩のリスクを事前に検知し、ベスト プラクティスに従って速やかに対応します。 モデルへのアクセス承認のためのプロンプト データと資格情報を、業界標準の暗号化アルゴリズムを使用して安全に保存します。
- 監視と監査: オートメーション実行におけるモデル インタラクションの使用状況を監査、監視し、ガバナンス ポリシーに準拠していることを確認します。 オートメーションにおけるモデル インタラクションを追跡し、モデルの適切な使用とパフォーマンスを保証します。
- セキュリティ ガードレール: 承認されたモデルへのロール ベースのアクセス制御で、モデル接続 およびプロンプト データのより強固なセキュリティを管理します。 承認されたモデルへの接続はすべて一元管理され、オートメーション内で使用されます。
- 使用状況のインサイト: オートメーション内で使用されるプロンプトの使用状況と生成 AI モデルに関するインサイトを取得します。
- ログの詳細の表示と追跡: セッションのインタラクションと、それに対応するイベントの詳細を AI プロンプト ログ タブと イベント ログ タブで表示します。
- AI ガバナンス アナリティクス: オートメーションの作成と実行中に、生成 AIの使用を追跡、監視、管理し、AI ガバナンスダッシュボードを使用して視覚的に表現された集約データの統一ビューを持ちます。
- コード分析ルール: AIの責任ある使用とコンプライアンスを確保するために、通知を通じてAI使用ポリシーを監視し、即時の是正措置を講じることができるAI ガバナンスコード分析ルールを使用してください。
可用性
の Enterprise Platform 機能を使用するには、AI ガバナンス ライセンスがAI Agent Studio必要です。
この機能のサポートされているバージョンについては、「Enterprise プラットフォーム」を参照してください。