AI Guardrails に関するよくある質問

AI guardrailの特徴や機能に関する一般的な質問については、よくある質問を参照してください。 これは、GenAIが自動化内で使用される際に、プロンプトとモデルの応答内の機密データを保護するように設計されています。

AI guardrailとは何ですか?

公開ホストされたLLMや生成 AIモデルを使用することは、企業にとって重大なプライバシーとセキュリティのリスクをもたらします。AI Guardrailsは、LLMと共有または処理される機密データを保護しつつ、コンテキストを維持するインテリジェントなトークナイゼーションソリューションです。 この機能は、データ保護を確保し、顧客に最大限のプライバシーとセキュリティを提供し、コンテンツの毒性レベルを監視してブランドの評判に影響を与える意図しない結果を防ぐように設計されています。AI Guardrails により、次の機能を通じて生成 AI オートメーション内の機密データを正確に管理することができます。

  • 自動化において生成 AI モデルと統合する際の機密データに関するAI guardrailポリシーを管理します。
  • プロンプトとモデルの応答内での機密データを管理するためのルールを定義します。
  • PII、PHI、PCIなどのデータカテゴリに基づいてデータ処理の好みを指定してください。
  • 実行中に自動化にポリシーを適用します。
  • 自動化内で実行されたプロンプトのデータ処理と毒性スコアを監視および監査します。
この機能はAIを使用していますか？
はい、私たちは敏感なデータを特定するために、確立された名前付きエンティティ認識（NER）モデルというAIの専門的な形式を活用しています。
NERは自然言語処理（NLP）のサブフィールドであり、名前、住所、電話番号、日付などのテキストプロンプト内の機密情報を特定し、位置を特定します。 これにより、私たちはこのデータをマスクまたは編集することができ、プライバシーを保護し、データ保護規制に準拠することを保証します。 本質的に、NERはテキストデータセット内でマスクする必要があるものを特定する最初のステップとして機能します。
AI Guardrailsに必要なライセンスは何ですか？
Enterprise Platform のライセンスと、消費ベースのライセンスである AI Guardrails を購入する必要があります。 Enterprise Platform ライセンスの詳細については、[Enterprise Platform]を参照してください。
AI Guardrailsを管理するために必要な権限は何ですか？
AI Guardrailsポリシーを設定、編集、または削除するためには、AI ガードレールの管理権限が必要です。 AI ガードレイル閲覧 権限により、ユーザーは設定されたAI Guardrailsポリシーを表示できます。
AI Guardrails はオンプレミスのデプロイに利用できますか。

AI Guardrails は現在、オンプレミス展開には対応していません。

現在どの地域でサポートされていますか？

AI Guardrails は現在、米国およびEUでサポートされています。

AI Guardrailsは個人の機密データをどのように保護しますか？

オートメーションに適用されると、AI Guardrails は生成 AI コマンドパッケージおよび AI Skill コマンドパッケージを使用して実行される各プロンプトを傍受します。 サービスはプロンプトをスキャンして機密データを検出し、それをトークン化された値に置き換えて非識別化します。 これらのトークン化されたプロンプトは、その後LLMに送信されます。 応答を受け取ると、サービスはそれらを再スキャンし、元の値で再構築します。 これはデフォルトのマスキング動作です。AI Guardrails は、ガードレールポリシーを通じて設定可能な不可逆的匿名化もサポートしています。

機密データ保護に関連するログはどこで確認できますか？

アクティビティ追跡は、AI Governance プロンプト ログおよびイベント ログで利用可能です。 AIプロンプトログの詳細ビューを使用して、マスクされたコンテンツと毒性スコアを含むプロンプトと応答を表示します。

敏感データマッピングはどのくらいの期間保存されますか？

機密データのマッピングは、Automation 360 クラウド内の安全なボールトに保存されており、定期的にローテーションされる AES-256 キーで暗号化されており、FIPS 197 に準拠しています。 マッピングは、顧客の本番テナント環境内のデータベースに30日間安全に保存され、その後安全に削除されます。 各取引のために30日後に新しいマッピングが作成されます。

保存された機密データに適用されるセキュリティコントロールは何ですか？

機密データのマッピングは、業界標準の暗号化と以下のセキュリティコントロールを使用して保護されています：接続が制限されたネットワークの分離、最小特権の原則に基づいて承認されたユーザーに制限されたアクセス、静止時および転送中の暗号化。

AI Guardrails はマスキング/アンマスキング中にサードパーティの LLM やクラウドに機密データを送信しますか？

いいえ、すべての機密データは Automation 360 Cloud テナント内で処理されます。AI Guardrails はマスキングまたはアンマスキングのために、サードパーティのLLMや外部クラウドサービスと統合されていません。

サポートされている最大プロンプトサイズは何ですか？
現在の制限は1回のプロンプトにつき100,000ワードです。
AI Guardrails は英語以外の他の言語でサポートされていますか？
いいえ。AI Guardrails ユーザーインターフェース (UI) は複数の言語で利用可能ですが、毒性検出およびデータマスキング (PII、PCI、PHI) のコア機能は現在英語のみでサポートされています。

これは、Control Roomを別の言語で使用している場合でも、AI Guardrailsが他の言語で書かれたプロンプトや応答の敏感なデータや有害なコンテンツを検出またはマスクしないことを意味します。

AI Guardrailsはマルチ モーダル コンテンツ（ビデオやオーディオなど）に対応していますか？

現在、AI Guardrailsは主にテキストベースのコンテンツをサポートしています。