AI Agent Studio v.36 リリース

v.36 リリースの AI Agent Studio の最新情報と変更点、および修正と制限事項について確認してください。

最新情報

AI ガードレール

このリリースでは、AI ガードレールという新機能が導入され、機密データを保護し、責任あるAIの使用を促進します。AI ガードレールは、LLMに送信されるプロンプト内のPII、PHI、およびPCIをマスキングすることで機密データを保護します。 さらに、彼らは潜在的に有害な言語に対するプロンプトと応答を監視します。 管理者はデータマスキングルールを設定し、それを特定のフォルダーに割り当てることで、オートメーション全体で一貫したデータ保護を確保できます。

重要: AI ガードレールAutomation 360 クラウド で利用可能であり、エンタープライズプラットフォーム ライセンスと共に AI ガードレール (LLM プロンプトの数) ライセンスで使用できるようになります。 このライセンスの詳細については、[エンタープライズ プラットフォーム]を参照してください。

AI ガードレール

システム プロンプトAI スキル

AI スキル の中で、システム プロンプト と呼ばれる新機能が導入されます。 この任意フィールドは、AI スキルを表示または編集するアクセス権を持つ人に見えるもので、基礎となるモデルに初期の指示やコンテキストを提供することができます。 システム プロンプトはモデルを方向付けたり基盤を提供したりし、ユーザーのプロンプトに対する応答に影響を与え、より関連性が高く正確な出力を保証します。 システム プロンプト フィールドはすべてのモデルに表示されます。 システム プロンプト をサポートするモデルの場合、提供されたテキストは システム プロンプト として送信されます。 システムプロンプトをサポートしていないモデルの場合、システム プロンプト フィールドに提供されたテキストは ユーザー プロンプト の前に配置されます。

システム プロンプト

ポリシーを AI ガードレール 内でグローバルに有効または無効にするControl Room

管理者は、AI ガードレールControl Roomをクラウド ライセンスで有効にできるようになりました。管理<4> > 設定<5> > AI ガードレール に移動して、

この設定を有効にすると、プロ開発者はAI ガードレールを作成して、機密情報を保護するためのルールを適用し、責任あるAIの使用をプロモートできます。

ロールと権限を割り当てて AI ガードレール を有効にする

RAG機能をサポートしAI Agent Studioモデル接続 を使用して、グラウンドされた を作成します。Azure OpenAI AI検索によって基盤を整えられた

AI検索によって基盤を整えられた モデル接続を作成するために、RAGのネイティブAzure OpenAI(retrieval-augmented generation)機能を使用して、Azure AI Searchのインデックスから情報を取得し、より正確で関連性の高い応答を生成します。

モデル接続 Azure OpenAIの機能でグラウンディングされたRAGを作成します

AI ガードレール をテストAI スキル

デプロイ前にAI スキルに対してAI ガードレールの信頼性と安全性をテストすることで向上させます。 この新しい機能では、選択したガードレールがプロンプトやモデルの応答に与える影響をシミュレートできます。 このアップデートは、毒性およびデータマスキングの結果を提供します。 データマスキング実行を表示 オプションをクリックすると、機密データのトークン化されたマスク値を表示できます。 ガードレールが有効な状態で、あなたの AI スキル が本番環境でどのように機能するかについて貴重な洞察を得ることができます。 AI スキル エディタ内でこの機能にアクセスし、各テストの詳細な記録のために AI ガバナンス ログを確認してください。

AI スキルを作成

カスタムモデル定義 - AWS Signature 認証で認証する

このリリースでは、AI Agent Studio でカスタムモデルを定義する際に AWS Signature 認証のサポートが追加されました。 この強化により、この認証方法を使用するより広範なAWSベースのAI/MLサービスとシームレスに統合できるようになります。 新しいカスタムモデルを定義する際に、authTypeAWS SIGNATUREに設定できるようになりました。 例えば: "authType" : "AWS_SIGNATURE_V4". これには、アクセスキーID、シークレットアクセスキー、セッションキー(任意)、リージョンといった必要なAWS資格情報が必要となります。

例えば:

{
   "name":"Bedrock - Claude2.1",
   "description":"string",
   "version":"string",
   "auth_action":{
      "auth_type":"AWS_SIGNATURE_V4",
      "awsSignatureV4":{
         "accessKey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "secretkey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "sessionkey":{
            "location":"header",
            "keyName":"aws_sign_session_key"
         }
      }
   },
   "api_type":"REST",
   "actions":[
      {
         .... 
      }
   ]
}

カスタムモデル定義

カスタムモデル定義 - 既存モデルの更新

このリリースでは、新しく導入されたPUTおよびPATCHメソッドを使用して、既存のカスタムモデル定義を変更する機能が追加されました。 以前は、既存のカスタムモデルへの変更はサポートされていませんでした。

PUT(モデル全体を置き換える/更新する): 既存のカスタムモデル定義を完全に置き換えるか更新するには、PUTエンドポイントを使用します。 このメソッドは、モデルの複数のプロパティを更新する必要があるときに使用されます。
PUT https://{ControlRoom}/gai/prompttools/v1/custommodel
注: このアクションは、関連するモデル接続がないカスタムモデルに制限されています。
PATCH(部分更新 - 名前と説明): 既存のカスタムモデル定義の名前と説明のみを更新するには、PATCHエンドポイントを使用します。
PATCH https://{ControlRoom}/gai/prompttools/v1/custommodel

両方のエンドポイントは、更新されるカスタムモデルを特定するために vendorNamemodelName を必要とし、成功した実行時に更新されたモデルの詳細を含む 200 OK レスポンスを返します。

カスタムモデル定義

カスタムモデル定義 - ベンダー名でフィルタリング可能なカスタムモデルAPIのリスト

このリリースでは、ベンダー名でカスタムモデルのリストをフィルタリングし、特定の基準に基づいて結果をソートする機能が追加されました。

POST https://{ControlRoom}/gai/prompttools/v1/custommodel/list
リクエスト本文:
{
   "sort":[
      {
         "field":"name",
         "direction":"asc"
      }
   ],
   "filter":{
      "operator":"and",
      "operands":[
         {
            "operator":"eq",
            "field":"name",
            "value":"CustomVendor"
         }
      ]
   }
}

AI エージェント Studio API

RAG 機能をサポートし、AI Agent Studio を使用して、グラウンドされた モデル接続 を作成します。Azure OpenAI AI検索によって基盤を整えられた

AI検索によって基盤を整えられた モデル接続を作成するために、RAGのネイティブAzure OpenAI(retrieval-augmented generation)機能を使用して、Azure AI Searchのエンタープライズデータと大規模言語モデルを組み合わせた充実した検索体験を構築します。

モデル接続 Azure OpenAIの機能でグラウンディングされたRAGを作成します

GenAIモデルコールウィジェットの紹介

新しいGenAIモデルは、ホーム画面のAI ガバナンスダッシュボード内でウィジェットを呼び出し、オートメーションで使用されるトップ5のGenAIモデルを表示します。 モデル名をクリックすると、そのモデル用に事前フィルタリングされた AI ガバナンス イベントログに詳細が表示されます。

AI ガバナンス ダッシュボード ウィジェットを使用する

変更内容

カスタムモデル統合の機能強化 (Service Cloud ケース ID: 02147228)

AI Agent Studio は、あなたが開発または展開したカスタム大規模言語モデル(LLM)の統合をサポートしています。 この機能には、これらのカスタムモデルの完全なライフサイクル管理のためのAPIが含まれており、定義、取得、変更、削除を行うことができ、AI Agent Studio内で専門的なAIモデルを使用する能力を提供します。

カスタムモデル定義

作成 モデル接続 ウィザードで役割を検索して追加

を作成中に役割を検索して追加できるようになりましたモデル接続

モデル接続の作成と管理

親/子Bot実行のための強化されたAI ガバナンスログ

AI ガバナンス のログは、子Botを起動する際に親Botの詳細を正確に反映することで、Botの実行に対する可視性を向上させます。これは、生成 AI コマンドパッケージと、AI スキル を活用する自動化の両方に適用されます。 以前、ログには子Botの情報が表示され、不整合が生じていました。 この強化により、ログには親BotのID、名前、およびフォルダパスが含まれるようになり、監査証跡が改善されます。 たとえば、親Bot ID 103が子Botをトリガーした場合、ログには子BotのIDではなく、正しく103が表示されます。 この改善は、AI ガバナンス 内のプロンプトとイベントログの両方に影響を与えます。

AI ガバナンス

AI ガバナンス AI プロンプト ログ および イベント ログ タブ: 新しい AI ガードレール

新しい列 AI ガードレールAI ガバナンス AI プロンプト ログイベント ログ の画面に追加されました。 セッションの詳細やイベントには、個々のプロンプトやイベントログを開くときに新しいフィールド AI ガードレール も含まれています。 この列は、各プロンプトおよびイベントに適用される特定のガードレールに関する情報を提供します。

AI プロンプト ログ のインタラクションをモニターする | イベント ログ のインタラクションをモニターする

の機能強化 AI ガバナンス AI プロンプト ログ : 新しい毒性分析と システム プロンプト/ユーザー プロンプト
  1. 全体的な有害性: 毒性スコアは、システムとユーザーのプロンプトの両方に対して表示されるようになりました。
  2. 応答の毒性: LLMの応答の毒性レベルも含まれており、生成されたコンテンツの評価がより良く行えるようになっています。
  3. デュアル プロンプトの表示: システム プロンプトユーザー プロンプト の両方が今はっきりと表示されています。 これは、ユーザープロンプトとともにシステムプロンプトが導入されることで、インタラクションの文脈を明確にします。 前の プロンプト フィールドは ユーザープロンプト に名前が変更されました。
  4. モデル接続タイプ: AI プロンプト ログ は現在 モデル接続タイプ を表示しており、標準、ファインチューニング、またはさまざまなグラウンドオプションなど、モデルがどのように接続されているかを詳述しています。

AI プロンプト ログ のインタラクションをモニターする

の機能強化 AI ガバナンス イベント ログ : 新しい毒性分析と システム プロンプト/ユーザー プロンプト
  1. 全体的な有害性: 毒性スコアは、システムとユーザーのプロンプトの両方に対して表示されるようになりました。
  2. 応答の毒性: LLMの応答の毒性レベルも含まれており、生成されたコンテンツの評価がより良く行えるようになっています。
  3. デュアル プロンプトの表示: システム プロンプトユーザー プロンプト の両方が今はっきりと表示されています。 これは、ユーザープロンプトとともにシステムプロンプトが導入されることで、インタラクションの文脈を明確にします。 前の プロンプト フィールドは ユーザープロンプト に名前が変更されました。
  4. モデル接続タイプ: イベント ログ は現在 モデル接続タイプ を表示しており、標準、ファインチューニング、またはさまざまなグラウンドオプションなど、モデルがどのように接続されているかを詳述しています。

イベント ログ のインタラクションをモニターする

修正

Anthropic Claude 2.1 および Anthropic Claude 3.5 モデルは、Amazon Bedrock でファインチューニングされたモデルとしてサポートされていないため、Amazon Bedrock のファインチューニングされたタイプ内の利用可能なモデルオプションから削除されました。 以前は、これらのモデルが Amazon Bedrock の下でタイプとしてファインチューニングを選択した際に、モデル選択で誤って表示されていました。
AI ガバナンス ログがリアルタイムモード(Attended オートメーション)で実行される API タスク に対応していなかった問題の修正。 この制限はこのリリースで解決されました。
誤解を招くエラーメッセージの修正。このメッセージは、正確なBot エージェントロギングのためにAI ガバナンスが更新が必要であると誤って示しています。 以前、このエラーは AI ガバナンス セクション内、特に AI プロンプト ログイベント ログ において Bot エージェント バージョン 22.100.xx 以降で観察されました。
AIガバナンス監査ログのBot エージェント更新を促す通知が誤って届く問題の修正。 以前、この通知は 管理 > 設定 > AIデータ管理 > データロギング設定 設定および AI ガバナンス ログ ( AI プロンプト ログ および イベント ログ) に誤って表示されていました。互換性のある Bot エージェント バージョン (22.60.10以降) を使用している場合でも。

制限事項

フォルダーをに割り当てる AI ガードレール
  • AI ガードレール は親フォルダーにのみ割り当てることができます。 親フォルダー内の子フォルダーは、特定のガードレールの割り当てを継承したり持ったりしません。
  • 親Botが異なるフォルダーにある子Botを呼び出すと、親Botのフォルダーに関連付けられたガードレールポリシーが適用されます。
ダッシュボード内で、ホーム画面の", ":最も使用されているモデルAI ガバナンスウィジェットにある特別な文字(例えば「*」、「?」、「+」、「=」、「&&」、「||」、「>」、「<」、「!」、「(」、「)」、「{」、「}」、「[」、「]」、「^」、「~」、または二重引用符で囲まれた単語)を含むモデル名をクリックすると、次のスクリーンショットに似たエラーメッセージが表示されます。 この現象は、AI ガバナンス ダッシュボード内の検索機能が現在、これらの特殊文字をサポートしていないために発生します。

特殊文字を含むモデル名をクリックしたときのエラーメッセージ

フォルダーフィールドは、ファイルプロパティ内のAI スキルまたはAI スキルテンプレートで現在意図した通りに機能していません。 この画面でフォルダーの場所を変更しても、変更が保存されるときに AI スキル または AI スキル テンプレートが指定された場所に実際に移動するわけではありません。
AI ガードレールテストは に対して システム プロンプト で利用できません AI スキル

AI ガードレール エディタ内のシステムプロンプトに対して AI スキル でのテストは現在サポートされていません。 自動化内で使用され、実行時に実行されるシステムプロンプトに対して、ガードレールは正しく機能します。 これは、AI スキル 開発フェーズ中にシステムプロンプトへのガードレールの適用を直接テストできないことを意味します。 この制限は AI ガードレール でのテストにのみ影響します。

AI スキル API タスク ログインの問題

AI スキル のオンデマンド API タスク によってトリガーされた実行は、AI ガバナンス イベント ログ への応答をログに記録しません。 の後に少なくとも 1 秒の遅延アクションを追加していますAI スキル: すべてのオンデマンド API タスク 実行に対してアクションを実行することは、このログ記録の問題を解決するための現在の一時的な解決策です。


AI スキル オンデマンドでの実行ログの問題 API タスク

インターフェースの更新

AI ガードレール
AI ガードレールにアクセスするための新しいナビゲーション メニューが導入されました。

にアクセスするための新しいナビゲーション AI ガードレール

AI ガードレール