AI Agent Studio v.36 リリース

v.36 リリースの AI Agent Studio の最新情報と変更点、および修正と制限事項について確認してください。

最新情報

AI ガードレール

このリリースでは、AI ガードレールという新機能が導入され、機密データを保護し、責任あるAIの使用を促進します。AI ガードレールは、LLMに送信されるプロンプト内のPII、PHI、およびPCIをマスキングすることで機密データを保護します。 さらに、彼らは潜在的に有害な言語に対するプロンプトと応答を監視します。 管理者はデータマスキングルールを設定し、それを特定のフォルダーに割り当てることで、オートメーション全体で一貫したデータ保護を確保できます。

重要: AI ガードレール の提供は Automation 360 クラウド で利用可能であり、エンタープライズプラットフォーム ライセンスと共に AI ガードレール (LLM プロンプトの数) ライセンスで使用できるようになります。 このライセンスの詳細については、「エンタープライズ プラットフォーム」を参照してください。

AI ガードレール

システム プロンプト の AI スキル

AI スキル の中で、システム プロンプト と呼ばれる新機能が導入されます。 この任意フィールドは、AI スキルを表示または編集するアクセス権を持つ人に見えるもので、基礎となるモデルに初期の指示やコンテキストを提供することができます。 システム プロンプトはモデルを方向付けたり基盤を提供したりし、ユーザーのプロンプトに対する応答に影響を与え、より関連性が高く正確な出力を保証します。 システム プロンプト フィールドはすべてのモデルに表示されます。 システム プロンプト をサポートするモデルの場合、提供されたテキストは システム プロンプト として送信されます。 システムプロンプトをサポートしていないモデルの場合、システム プロンプト フィールドに提供されたテキストは ユーザー プロンプト に追加されます。

システム プロンプト

AI ガードレール ポリシーを Control Room 内でグローバルに有効または無効にする

管理者は、AI ガードレールのControl Roomをクラウド ライセンスで有効にできるようになりました。管理 > 設定 > AI ガードレール に移動して、

この設定を有効にすると、プロ開発者はAI ガードレールを作成して、機密情報を保護するためのルールを適用し、責任ある AI の使用を促進できます。

ロールと権限を割り当てて AI ガードレール を有効にする

の RAG 機能をサポートし、AI Agent Studio を使用して、グラウンドされた モデル接続 を作成します。Azure OpenAI AI検索によって基盤を整えられた

AI検索によって基盤を整えられた モデル接続を作成するために、RAGのネイティブAzure OpenAI（retrieval-augmented generation）機能を使用して、Azure AI Searchのインデックスから情報を取得し、より正確で関連性の高い応答を生成します。

グラウンディングされた モデル接続をAzure OpenAI RAG機能で作成します

カスタムモデル定義 - AWS Signature 認証で認証する

このリリースでは、AI Agent Studio でカスタムモデルを定義する際に AWS Signature 認証のサポートが追加されました。 この強化により、この認証方法を使用するより広範なAWSベースのAI/MLサービスとシームレスに統合できるようになります。 新しいカスタムモデルを定義する際に、authTypeをAWS SIGNATUREに設定できるようになりました。 次に例を示します。 "authType" : "AWS_SIGNATURE_V4". これには、アクセスキーID、シークレットアクセスキー、セッションキー（任意）、リージョンといった必要なAWS資格情報が必要となります。

次に例を示します。

{
   "name":"Bedrock - Claude2.1",
   "description":"string",
   "version":"string",
   "auth_action":{
      "auth_type":"AWS_SIGNATURE_V4",
      "awsSignatureV4":{
         "accessKey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "secretkey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "sessionkey":{
            "location":"header",
            "keyName":"aws_sign_session_key"
         }
      }
   },
   "api_type":"REST",
   "actions":[
      {
         .... 
      }
   ]
}

カスタムモデル定義

カスタムモデル定義 - 既存モデルの更新

このリリースでは、新しく導入されたPUTおよびPATCHメソッドを使用して、既存のカスタムモデル定義を変更する機能が追加されました。 以前は、既存のカスタムモデルへの変更はサポートされていませんでした。

PUT（モデル全体を置き換える/更新する）: 既存のカスタムモデル定義を完全に置き換えるか更新するには、PUTエンドポイントを使用します。 このメソッドは、モデルの複数のプロパティを更新する必要があるときに使用されます。
PUT https://{ControlRoom}/gai/prompttools/v1/custommodel
注: このアクションは、関連するモデル接続がないカスタムモデルに制限されています。
PATCH（部分更新 - 名前と説明）: 既存のカスタムモデル定義の名前と説明のみを更新するには、PATCHエンドポイントを使用します。
PATCH https://{ControlRoom}/gai/prompttools/v1/custommodel

両方のエンドポイントは、更新されるカスタムモデルを特定するために vendorName と modelName を必要とし、成功した実行時に更新されたモデルの詳細を含む 200 OK レスポンスを返します。

カスタムモデル定義

カスタムモデル定義 - ベンダー名でフィルタリング可能なカスタムモデルAPIのリスト

このリリースでは、ベンダー名でカスタムモデルのリストをフィルタリングし、特定の基準に基づいて結果をソートする機能が追加されました。

POST https://{ControlRoom}/gai/prompttools/v1/custommodel/list
リクエスト本文:
{
   "sort":[
      {
         "field":"name",
         "direction":"asc"
      }
   ],
   "filter":{
      "operator":"and",
      "operands":[
         {
            "operator":"eq",
            "field":"name",
            "value":"CustomVendor"
         }
      ]
   }
}

AI Agent Studio API

の RAG 機能をサポートし、AI Agent Studio を使用して、グラウンドされた モデル接続 を作成します。Azure OpenAI AI検索によって基盤を整えられた

AI検索によって基盤を整えられた モデル接続を作成するために、RAGのネイティブAzure OpenAI（retrieval-augmented generation）機能を使用して、Azure AI Searchのエンタープライズデータと大規模言語モデルを組み合わせた充実した検索体験を構築します。

グラウンディングされた モデル接続をAzure OpenAI RAG機能で作成します

GenAIモデルコールウィジェットの紹介

新しいGenAIモデルは、ホーム画面のAI ガバナンスダッシュボード内でウィジェットを呼び出し、オートメーションで使用されるトップ5のGenAIモデルを表示します。 モデル名をクリックすると、そのモデル用に事前フィルタリングされた AI ガバナンス イベントログに詳細が表示されます。

AI ガバナンス ダッシュボード ウィジェットを使用する

変更内容

カスタムモデル統合の機能強化 (Service Cloud ケース ID: 02147228)

あなたは今、AI Agent Studioを使って独自のプロプライエタリLLMラッパーAPIを活用できます。 主要な機能には、カスタムモデル定義の作成、読み取り、更新、および削除のためのAPIが含まれており、AI Agent Studio 内でのカスタムモデルのシームレスな統合と管理を可能にします。

カスタムモデル定義

作成 モデル接続 ウィザードで役割を検索して追加

モデル接続 を作成中に役割を検索して追加できるようになりました。

モデル接続の作成と管理

親/子Bot実行のための強化されたAI ガバナンスログ

AI ガバナンス のログは、子Botを起動する際に親Botの詳細を正確に反映することで、Botの実行に対する可視性を向上させます。これは、生成 AI コマンドパッケージと、AI スキル を活用する自動化の両方に適用されます。 以前、ログには子Botの情報が表示され、不整合が生じていました。 この強化により、ログには親BotのID、名前、およびフォルダパスが含まれるようになり、監査証跡が改善されます。 たとえば、親Bot ID 103が子Botをトリガーした場合、ログには子BotのIDではなく、正しく103が表示されます。 この改善は、AI ガバナンス 内のプロンプトとイベントログの両方に影響を与えます。

AI ガバナンス

AI ガバナンス AI プロンプト ログ および イベント ログ タブ: 新しいAI ガードレール 列の

新しい列 AI ガードレール が AI ガバナンス AI プロンプト ログ と イベント ログ の画面に追加されました。 セッションの詳細やイベントには、個々のプロンプトやイベントログを開くときに新しいフィールド AI ガードレール も含まれています。 この列は、各プロンプトおよびイベントに適用される特定のガードレールに関する情報を提供します。

AI プロンプト ログ のインタラクションをモニターする | イベント ログ のインタラクションをモニターする

AI ガバナンス AI プロンプト ログ の機能強化 : 新しい毒性分析と システム プロンプト/ユーザー プロンプト
  1. 全体的な有害性: 毒性スコアは、システムとユーザーのプロンプトの両方に対して表示されるようになりました。
  2. 応答の毒性: LLMの応答の毒性レベルも含まれており、生成されたコンテンツの評価がより良く行えるようになっています。
  3. デュアル プロンプトの表示: システム プロンプト と ユーザー プロンプト の両方が今はっきりと表示されています。 これは、ユーザープロンプトとともにシステムプロンプトが導入されることで、インタラクションの文脈を明確にします。 前の プロンプト フィールドは ユーザープロンプト に名前が変更されました。
  4. モデル接続タイプ: AI プロンプト ログ は現在 モデル接続タイプ を表示しており、標準、ファインチューニング、またはさまざまなグラウンドオプションなど、モデルがどのように接続されているかを詳述しています。

AI プロンプト ログ のインタラクションをモニターする

AI ガバナンス イベント ログ の機能強化 : 新しい毒性分析と システム プロンプト/ユーザー プロンプト
  1. 全体的な有害性: 毒性スコアは、システムとユーザーのプロンプトの両方に対して表示されるようになりました。
  2. 応答の毒性: LLMの応答の毒性レベルも含まれており、生成されたコンテンツの評価がより良く行えるようになっています。
  3. デュアル プロンプトの表示: システム プロンプト と ユーザー プロンプト の両方が今はっきりと表示されています。 これは、ユーザープロンプトとともにシステムプロンプトが導入されることで、インタラクションの文脈を明確にします。 前の プロンプト フィールドは ユーザープロンプト に名前が変更されました。
  4. モデル接続タイプ: イベント ログ は現在 モデル接続タイプ を表示しており、標準、ファインチューニング、またはさまざまなグラウンドオプションなど、モデルがどのように接続されているかを詳述しています。

イベント ログ のインタラクションをモニターする

修正

Anthropic Claude 2.1 および Anthropic Claude 3.5 モデルは、Amazon Bedrock でファインチューニングされたモデルとしてサポートされていないため、Amazon Bedrock のファインチューニングされたタイプ内の利用可能なモデルオプションから削除されました。 以前は、これらのモデルが Amazon Bedrock の下でタイプとしてファインチューニングを選択した際に、モデル選択で誤って表示されていました。
AI ガバナンス ログがリアルタイムモード（Attended オートメーション）で実行される API タスク に対応していなかった問題の修正。 この制限はこのリリースで解決されました。

制限事項

フォルダーをAI ガードレールに割り当てる
  • AI ガードレール は親フォルダーにのみ割り当てることができます。 親フォルダー内の子フォルダーは、特定のガードレールの割り当てを継承したり持ったりしません。
  • 親Botが異なるフォルダーにある子Botを呼び出すと、親Botのフォルダーに関連付けられたガードレールポリシーが適用されます。
", ":最も使用されているモデルAI ガバナンスウィジェットのホーム画面にあるダッシュボード内で、特別な文字（例えば「*」、「?」、「+」、「=」、「&&」、「||」、「>」、「<」、「!」、「(」、「)」、「{」、「}」、「[」、「]」、「^」、「~」、または二重引用符で囲まれた単語）を含むモデル名をクリックすると、次のスクリーンショットに似たエラーメッセージが表示されます。 この現象は、AI ガバナンス ダッシュボード内の検索機能が現在、これらの特殊文字をサポートしていないために発生します。

特殊文字を含むモデル名をクリックしたときのエラーメッセージ

フォルダーフィールドは、ファイルプロパティ内のAI スキルまたはAI スキルテンプレートで現在意図した通りに機能していません。 この画面でフォルダーの場所を変更しても、変更が保存されるときに AI スキル または AI スキル テンプレートが指定された場所に実際に移動するわけではありません。
テストはAI ガードレールに対してシステム プロンプトで利用できませんAI スキル

AI ガードレール エディタ内のシステムプロンプトに対して AI スキル でのテストは現在サポートされていません。 自動化内で使用され、実行時に実行されるシステムプロンプトに対して、ガードレールは正しく機能します。 これは、AI スキル 開発フェーズ中にシステムプロンプトへのガードレールの適用を直接テストできないことを意味します。 この制限は AI ガードレール でのテストにのみ影響します。
AI スキル API タスク ログインの問題

AI スキル のオンデマンド API タスク によってトリガーされた実行は、AI ガバナンス イベント ログ への応答をログに記録しません。 AI スキル の後に少なくとも 1 秒の遅延アクションを追加しています: すべてのオンデマンド API タスク 実行に対してアクションを実行することは、このログ記録の問題を解決するための現在の一時的な解決策です。

AI スキル オンデマンドでの実行ログの問題 API タスク