AI Agent Studio v.36 publication

Découvrez les nouveautés, les modifications, ainsi que les correctifs et les limitations de AI Agent Studio pour la version v.36.

Nouveautés

Garde-fous IA

Cette version introduit Garde-fous IA, une nouvelle fonctionnalité qui protège les données sensibles et promeut l\'utilisation responsable de l\'IA. Garde-fous IA protègent les données sensibles en masquant les PII, PHI et PCI dans les invites envoyées aux LLM. De plus, ils surveillent les invites et les réponses pour détecter un langage potentiellement nuisible. Les administrateurs peuvent configurer des règles de masquage des données et les attribuer à des dossiers spécifiques, garantissant ainsi une protection cohérente des données dans toutes les automatisations.

Important : L\'offre de Garde-fous IA est disponible le Automation 360 cloud et sera utilisable avec la licence AI Guardrail (Nombre de demandes LLM) ainsi qu\'avec la licence Plateforme Enterprise. Pour plus de détails sur cette licence, reportez-vous à Enterprise Platform.

Garde-fous IA

Invite système dans le Compétences IA

Dans Compétences IA, une nouvelle fonctionnalité appelée Invite Système sera introduite. Ce champ facultatif, visible par toute personne ayant accès pour voir ou modifier le Compétence en IA, vous permet de fournir des instructions initiales ou un contexte au modèle sous-jacent. Le Invite système aide à orienter ou à ancrer le modèle, influençant ses réponses aux invites des utilisateurs et garantissant des résultats plus pertinents et précis. Le champ Invite système est affiché pour tous les modèles. Pour les modèles qui prennent en charge Invite système, le texte fourni sera envoyé en tant que Invite système. Pour les modèles qui ne prennent pas en charge les invites système, le texte fourni dans le champ Invite système sera ajouté à Invite de l\'utilisateur.

Invite du système

Activer ou désactiver les Garde-fous IAstratégies globalement au sein du Control Room

Les administrateurs peuvent désormais activer le Garde-fous IA dans la Control Room avec une licence cloud en accédant à Administration > Paramètres > Garde-fous IA .

Lorsque ce paramètre est activé, les développeurs professionnels peuvent créer Garde-fous IA pour appliquer des règles visant à protéger les informations sensibles et promouvoir l\'utilisation responsable de l\'IA.

Attribution des rôles et des autorisations pour activer la Garde-fous IA

Prise en charge de la capacité RAG dans AI Agent Studio pour créer des Connexions des modèles ancrés à l\'aide de Azure OpenAI Ancré par recherche IA

Créez Ancré par recherche IA Connexions des modèles en utilisant la capacité native de RAG (génération augmentée par extraction) de Azure OpenAI pour extraire des informations des index Recherche Azure AI pour des réponses plus précises et pertinentes.

Créer Grounded Connexions des modèles avec Azure OpenAI RAG la capacité

Définitions de modèle personnalisé - Authentifier avec l\'authentification AWS Signature

Cette version introduit la prise en charge de l\'authentification AWS Signature lors de la définition de modèles personnalisés dans AI Agent Studio. Cette amélioration vous permet de vous intégrer de manière transparente à un plus large éventail de services IA/ML basés sur AWS qui utilisent cette méthode d\'authentification. Vous pouvez désormais définir le authType sur SIGNATURE AWS lors de la création d\'un nouveau modèle personnalisé. Par exemple : "authType" :[AWS_SIGNATURE_V4] Cela nécessitera de fournir les informations d\'identification AWS nécessaires - Access Key ID, Secret Access Key, Session Key (Facultatif), Region.

Par exemple :

{
   "name":"Bedrock - Claude2.1",
   "description":"string",
   "version":"string",
   "auth_action":{
      "auth_type":"AWS_SIGNATURE_V4",
      "awsSignatureV4":{
         "accessKey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "secretkey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "sessionkey":{
            "location":"header",
            "keyName":"aws_sign_session_key"
         }
      }
   },
   "api_type":"REST",
   "actions":[
      {
         .... 
      }
   ]
}

Définitions de modèles personnalisés

Définitions de modèle personnalisé - Mettre à jour le modèle existant

Cette version introduit la possibilité de modifier les définitions de modèles personnalisés existants en utilisant les nouvelles méthodes PUT et PATCH. Auparavant, les modifications d\'un modèle personnalisé existant n\'étaient pas prises en charge.

METTRE (Remplacer/Mettre à jour l\'ensemble du modèle) : Utilisez le point de terminaison PUT pour remplacer ou mettre à jour complètement une définition de modèle personnalisé existante. Cette méthode est utilisée lorsque vous devez mettre à jour plusieurs propriétés du modèle.
PUT https://{ControlRoom}/gai/prompttools/v1/custommodel
Remarque : Cette action est limitée aux modèles personnalisés qui n\'ont pas de connexions de modèle associées.
[Mise à jour partielle - Nom et description] : Utilisez le point de terminaison PATCH pour mettre à jour uniquement le nom et la description d\'une définition de modèle personnalisé existante.
PATCH https://{ControlRoom}/gai/prompttools/v1/custommodel

Les deux points de terminaison nécessitent le nomDuFournisseur et le nomDuModèle pour identifier le modèle personnalisé à mettre à jour et renverront une réponse 200 OK avec les détails du modèle mis à jour après une exécution réussie.

Définitions de modèles personnalisés

Définitions de modèles personnalisés - Liste de l\'API des modèles personnalisés, pouvant être filtrée par nom de fournisseur

Cette version introduit la possibilité de filtrer la liste des modèles personnalisés par nom de fournisseur et de trier les résultats selon des critères spécifiques.

POST https://{ControlRoom}/gai/prompttools/v1/custommodel/list
Corps de la demande :
{
   "sort":[
      {
         "field":"name",
         "direction":"asc"
      }
   ],
   "filter":{
      "operator":"and",
      "operands":[
         {
            "operator":"eq",
            "field":"name",
            "value":"CustomVendor"
         }
      ]
   }
}

API du Studio d\'Agent IA

Prise en charge de la capacité RAG dans AI Agent Studio pour créer des Connexions des modèles ancrés à l\'aide de Azure OpenAI Ancré par recherche IA

Créez Ancré par recherche IA Connexions des modèles en utilisant la capacité native de RAG (génération augmentée par extraction) de Azure OpenAI pour construire des expériences de recherche enrichies qui combinent de grands modèles de langage avec des données d\'entreprise de Recherche Azure AI.

Créer Grounded Connexions des modèles avec Azure OpenAI RAG la capacité

Présentation du widget d\'appels de modèle GenAI

Le nouveau modèle GenAI appelle le widget dans le tableau de bord Gouvernance de l\'IA sur l\'écran d\'accueil, affichant les 5 principaux modèles GenAI utilisés dans les automatisations. En cliquant sur le nom d\'un modèle, vous accédez au journal des événements Gouvernance de l\'IA, pré-filtré pour ce modèle.

Utilisation des widgets du tableau de bord Gouvernance de l\'IA

Qu\'est-ce qui a changé ?

Améliorations de l\'intégration du modèle personnalisé (ID de cas Service Cloud : 02147228)

Vous pouvez désormais exploiter vos propres API d\'encapsulation LLM propriétaires avec AI Agent Studio. Les principales fonctionnalités incluent des API pour créer, lire, mettre à jour et supprimer des définitions de modèles personnalisés, permettant une intégration et une gestion fluides des modèles personnalisés au sein du AI Agent Studio.

Définitions de modèles personnalisés

Rechercher et ajouter des rôles dans l\'assistant de création Connexions des modèles

Vous pouvez désormais rechercher et ajouter des rôles lors de la création de Connexions des modèles.

Création et gestion de Connexions des modèles

Amélioration de la journalisation Gouvernance de l\'IA pour l\'exécution du Bot parent/enfant

Les journaux Gouvernance de l\'IA offrent désormais une visibilité améliorée sur l\'exécution du robot en reflétant avec précision les détails du Bot parent lors de l\'initiation des robots enfants, applicable à la fois aux packages de commande d\'IA générative et aux automatisations utilisant Compétences IA. Auparavant, les journaux affichaient des informations sur le robot enfant, créant une incohérence. Cette amélioration garantit que les journaux incluent désormais l\'ID du parent Bot, le nom et le chemin du dossier pour améliorer les pistes d\'audit. Par exemple, si le Bot parent ID 103 déclenche un robot enfant, les journaux afficheront correctement 103, et non l\'ID du robot enfant. Cette amélioration affecte à la fois les journaux d\'invite et d\'événements au sein de Gouvernance de l\'IA.

Gouvernance de l\'IA

Gouvernance de l\'IA Journal des invites générées par l\'IA et Journal des événements onglets : Nouvelle Garde-fou IA colonne

Une nouvelle colonne, Garde-fou IA, a été ajoutée aux écrans Gouvernance de l\'IA Journal des invites générées par l\'IA et Journal des événements. Un nouveau champ Garde-fou IA est également inclus dans les détails de la session ou des événements lorsque vous ouvrez les journaux de demandes ou d\'événements individuels. Cette colonne fournit des informations sur les garde-fous spécifiques appliqués à chaque invite et événement.

Surveiller les interactions Journal des invites générées par l\'IA | Surveiller les interactions Journal des événements

Amélioration du Gouvernance de l\'IA Journal des invites générées par l\'IA : [Nouvelle analyse de toxicité et Invite système/Invite de l\'utilisateur ]
  1. Toxicité globale: Les scores de toxicité sont désormais affichés pour les invites du système et de l\'utilisateur.
  2. Toxicité de la réponse: Le niveau de toxicité de la réponse du LLM est également inclus, permettant une meilleure évaluation du contenu généré.
  3. Affichage à double invite : Les deux Invite système et Invite de l\'utilisateur sont maintenant clairement affichés. Cela clarifie le contexte de l\'interaction, notamment avec l\'introduction de messages système en plus des messages utilisateur. Le champ Prompt précédent a été renommé en Invite utilisateur.
  4. Type de connexion du modèle : L\'Journal des invites générées par l\'IA affiche désormais le Type de connexion du modèle détaillant comment les modèles sont connectés, tels que Standard, Ajusté ou diverses options ancrées.

Surveiller les interactions Journal des invites générées par l\'IA

Amélioration du Gouvernance de l\'IA Journal des événements : [Nouvelle analyse de toxicité et Invite système/Invite de l\'utilisateur ]
  1. Toxicité globale: Les scores de toxicité sont désormais affichés pour les invites du système et de l\'utilisateur.
  2. Toxicité de la réponse: Le niveau de toxicité de la réponse du LLM est également inclus, permettant une meilleure évaluation du contenu généré.
  3. Affichage à double invite : Les deux Invite système et Invite de l\'utilisateur sont maintenant clairement affichés. Cela clarifie le contexte de l\'interaction, notamment avec l\'introduction de messages système en plus des messages utilisateur. Le champ Prompt précédent a été renommé en Invite utilisateur.
  4. Type de connexion du modèle : L\'Journal des événements affiche désormais le Type de connexion du modèle détaillant comment les modèles sont connectés, tels que Standard, Ajusté ou diverses options ancrées.

Surveiller les interactions Journal des événements

Correctifs

Les modèles Anthropic Claude 2.1 et Anthropic Claude 3.5, qui ne sont pas pris en charge sur Amazon Bedrock en tant que modèles ajustés, ont été retirés des options de modèles disponibles dans les Amazon Bedrock types ajustés. Auparavant, ces modèles étaient affichés de manière incorrecte dans la sélection de modèles lors du choix de l\'option "Ajusté" comme type sous Amazon Bedrock.
Correction d\'un problème où les journaux Gouvernance de l\'IA n\'étaient pas pris en charge pour Tâches API exécuté en mode temps réel (automatisation assistée). Cette limitation a été résolue dans cette version.

Limites

Affectation de dossiers à Garde-fous IA
  • Garde-fous IA ne peut être attribué qu\'aux dossiers parents. Les sous-dossiers dans le dossier parent n\'héritent pas ou n\'ont pas d\'assignations spécifiques de garde-fou.
  • Lorsqu\'un robot parent invoque un robot enfant résidant dans un dossier différent, la politique de garde-fou associée au dossier du Bot parent sera appliquée.
Lorsqu\'on clique sur un nom de modèle contenant des caractères spéciaux (tels que "*", "?", "+", "=", "&&", "||", ">", "<", "!", "(", ")", "{", "}", "[", "]", "^", "~", ":", ou des mots entre guillemets doubles) dans le tableau de bord Gouvernance de l\'IA sur l\'écran d\'accueil du widget Modèles les plus utilisés, un message d\'erreur s\'affiche, similaire à la capture d\'écran suivante. Cela se produit parce que la fonctionnalité de recherche dans le tableau de bord Gouvernance de l\'IA ne prend actuellement pas en charge ces caractères spéciaux.

Message d\'erreur lors du clic sur un nom de modèle contenant des caractères spéciaux

Le champ Dossier dans les Propriétés du fichier d\'un modèle Compétence en IA ou Compétence en IA ne fonctionne pas actuellement comme prévu. Modifier l\'emplacement du dossier dans cet écran ne déplace pas réellement le modèle Compétence en IA ou Compétence en IA vers l\'emplacement spécifié lorsque les modifications sont enregistrées.
[Test avecGarde-fou IA est indisponible pour Invite système en Compétences IA]

Test avec Garde-fou IA n\'est actuellement pas pris en charge pour les invites système dans l\'Compétences IA éditeur. Bien que les garde-fous fonctionneront correctement pour les invites système lorsqu\'ils sont utilisés dans des automatisations et exécutés en temps réel. Cela signifie que vous ne pouvez pas tester directement l\'application des garde-fous aux invites du système pendant la Compétence en IA phase de développement. Cette limitation n\'affecte que les tests avec Garde-fou IA.
Compétence en IA Tâche API problème de journalisation

Compétence en IA Les exécutions déclenchées à la demande via Tâches API ne consignent pas les réponses dans le Gouvernance de l\'IA Journal des événements. Ajout d\'une action de délai d\'au moins 1 seconde après le Compétence en IA : Exécuter l\'action pour toutes les exécutions à la demande de Tâche API est une solution temporaire actuelle pour résoudre ce problème de journalisation.

Compétence en IA Problème de journalisation d\'exécution à la demande Tâches API