Créer des Modèles d'invite (développeur professionnel)

Le développeur professionnel crée des Modèles d'invite en fonction des besoins métier d'une organisation et les met à la disposition des utilisateurs, tels que des développeurs citoyens, des développeurs professionnels et des utilisateurs professionnels qui peuvent les obtenir à partir du package Éditeur de robots > Modèle d'invite pour l'IA générative.

Le développeur professionnel crée des Modèles d'invite en se connectant à des Connexions des modèles et en affinant les invites dans les modèles de base afin de trouver la meilleure réponse aux besoins d'automatisation de l'organisation. Ces Modèles d'invite peuvent être mis à la disposition des développeurs et des utilisateurs professionnels pour qu'ils les réutilisent afin d'accélérer la création d'automatisations dans l'ensemble des solutions. Pour cette version préliminaire de la fonctionnalité, les modèles de base suivants sont disponibles :
  • Azure OpenAI
  • OpenAI

Cette rubrique explique les étapes à suivre pour créer un Modèle d'invite.

Prérequis

Le développeur professionnel requiert les autorisations et rôles suivants pour créer et tester un Modèle d'invite.
  • Rôles :
    • Bot_Creator
    • Bot_Runner
    • AAE_Basic
    • Rôle personnalisé
    • Développeur citoyen
  • Paramètres requis dans la Control Room :
    • Connexions du modèle > Afficher les connexions du modèle
    • Gestion des données de l'IA > Paramètres de journalisation des données
    • Lecture seule
    • Administration > Afficher les paramètres
  • Autorisations et tâches :
    • Créer/Modifier/Exécuter l'automatisation
    • Créer/Afficher/Modifier/Enregistrer/Configurer le Modèle d'invite
    • Afficher les Connexions des modèles et y accéder
    • Configurer les valeurs de configuration de modèle pour les modèles GenAI tiers
    • Entrer/Modifier une Invite
    • Ajouter/Modifier des variables d'entrée pour l'Invite
    • Tester une Invite avec le modèle GenAI spécifié dans la Connexion du modèle
    • Afficher les réponses de l'Invite
    • Automatisation d'archivage et d'extraction
    • Afficher les paramètres :
      • Activer la journalisation des données
      • Tester le Modèle d'invite
    • Afficher les détails de la Connexion du modèle, par exemple :
      • Le fournisseur du modèle GenAI
      • La version du modèle
      • La description de la Connexion du modèle
    • Afficher le package du Modèle d'invite pour l'IA générative
    • Créer des dossiers de référentiel
    • Lire la valeur du Credential Vault

En plus des rôles et des autorisations, vous devez être connecté à un Agent de robot (v22.31 et versions ultérieures). Dans le cadre du test de la Connexion du modèle, vous devez exécuter le robot sur votre bureau. Veillez donc à ce que le Agent de robot soit configuré pour votre utilisateur. Si vous devez basculer la connexion vers une autre Control Room, voir : Basculer l'enregistrement de périphérique entre des instances de la Control Room

Procédure

  1. Connectez-vous à la Control Room et accédez à Automatisation > Créer un nouveau ou icône + et choisissez Modèle d'invite.
  2. Indiquez un nom et une description et cliquez sur Créer et modifier pour afficher le schéma du modèle. Créons un exemple avec le nom Address Parser.
  3. Dans l'écran Modèle d'invite, cliquez sur Choisir une connexion du modèle pour effectuer une sélection dans la liste des Connexions des modèles auxquelles vous avez accès.
    Ces Connexions des modèles sont créées par l'administrateur de l'automatisation et attribuées à votre utilisateur avec un rôle personnalisé.
  4. Après avoir sélectionné une Connexion du modèle, le Modèle d'invite est configuré avec les paramètres par défaut optimaux pour le modèle choisi. Vous pouvez modifier les paramètres en fonction de vos besoins.
    Paramètres du modèle d'invite
    Les valeurs des paramètres pour la création d'une Invite sont renseignées en fonction du modèle de base que vous avez sélectionné. Il s'agit des paramètres pour les modèles Azure OpenAI et OpenAI pris en charge :
    • Pénalité de fréquence :

      ce paramètre permet d'éviter les répétitions dans le texte généré en limitant l'utilisation répétitive des jetons en fonction de leur fréquence d'utilisation. Plus un jeton est utilisé dans un texte, moins il est susceptible d'être répété. Choisissez une valeur entre -2,0 et 2 avec des incréments de valeur décimale.

    • Jetons max :

      ce paramètre indique le nombre maximal de jetons utilisés dans une réponse générée. Vous pouvez choisir une valeur comprise entre 1 et 2 048, la valeur par défaut étant 2 048. La réponse à votre invite sera affectée en fonction de la valeur définie ici. Allouer plus de jetons vous permet d'obtenir une réponse plus complète et plus détaillée.

    • Température :

      une valeur plus élevée renvoie des réponses diverses et moins prévisibles. Vous pouvez choisir une valeur entre 0 et 1 avec des incréments de valeur décimale. Cela signifie que plus la valeur est élevée, plus les réponses renvoyées sont variées.

    • N :

      ce paramètre définit le nombre de réponses générées par le modèle pour une invite spécifique. Choisissez une valeur entre 1 et 9, la valeur par défaut étant 1. Si vous attribuez plus de jetons, que vous configurez une valeur de température plus élevée et que vous choisissez une valeur N élevée de 9, vous obtiendrez 9 réponses variées dont les détails comprendront 2 048 jetons.

    • Pénalité de présence :

      ce paramètre permet d'éviter la répétition de jetons dans le texte généré en limitant leur utilisation en fonction de leur fréquence d'apparition. Plus un jeton est utilisé dans un texte, moins il est susceptible d'être répété. Choisissez une valeur entre -2,0 et 2 avec des incréments de valeur décimale.

    • Top P :

      ce paramètre détermine la diversité de la réponse générée. Une valeur plus élevée permet d'obtenir des réponses plus diversifiées. Nous recommandons de modifier la valeur P ou la valeur de la température, mais pas les deux. Choisissez une valeur entre 0 et 1 avec des incréments de valeur décimale.

    Remarque : Vous pouvez définir différentes valeurs de paramètres pour tester et déterminer les valeurs les mieux adaptées à votre cas d'utilisation. La modification des valeurs des paramètres influence la réponse du modèle.
  5. Vous pouvez maintenant commencer à créer une Invite et ajouter des entrées d'invite selon les besoins. Prenons un exemple pour vous guider dans les étapes.

Exemple :

le développeur professionnel crée un Modèle d'invite qui sera utilisé pour analyser et extraire l'adresse de différents types de documents lors de leur traitement à des fins d'extraction de données.
Le développeur professionnel créera un Modèle d'invite avec le nom suivant : Address Parser. Ce Modèle d'invite sera axé sur l'extraction des informations d'adresse à partir de documents. Le modèle sera mis à la disposition des développeurs citoyens et des utilisateurs professionnels qui le réutiliseront dans une action d'automatisation.

Créer un modèle d'invite

  1. Vous avez déjà sélectionné une Connexion du modèle dans votre liste (voir étape 3 plus haut) et allez maintenant procéder à la création de votre Invite.
  2. Dans le champ Invite, saisissez :
    Analyse l'adresse $inputAddress$ et retourne les informations formatées comme suit :
    • street : rue
    • city : ville
    • state : État
    • zip code : code postal
  3. Cliquez hors du champ de saisie Invite.
  4. La section Entrée d'invite est automatiquement renseignée avec des entrées d'invite d'espace réservé pour lesquelles vous définissez des valeurs. Dans ce cas, le champ Entrée d'invite $inputAddress$ est créé par le système.
    L'Invite est censé renvoyer une réponse contenant la rue, la ville, l'État et le code postal de l'adresse, formatés sur des lignes séparées.
    Remarque : Vous pouvez également ajouter une Entrée d'invite manuellement en cliquant sur Ajouter une entrée d'invite.
  5. Saisissez ensuite l'adresse suivante dans le champ Entrée d'invite inputAddress : « 1502 royal oak dr, tx, 75243 ».
  6. Cliquez sur Obtenir une réponse pour obtenir une réponse du modèle en fonction de votre Invite.
    Remarque :

    Testez et essayez différentes invites et valeurs d'Entrée d'invite pour obtenir la réponse souhaitée des modèles et choisissez celle qui vous satisfait le plus.

    Les détails des données de l'invite peuvent contenir des PHI, des PII ou d'autres données sensibles que vous choisissez d'entrer dans l'Invite. Nous vous recommandons d'en tenir compte lorsque vous testez et exécutez une Invite.

  7. Lorsque vous êtes satisfait de la réponse, enregistrez le Modèle d'invite.

Étapes suivantes

La prochaine étape consistera à archiver le Modèle d'invite, afin de le mettre à disposition du développeur citoyen et de l'utilisateur professionnel dans le package Modèle d'invite pour l'IA générative pour qu'ils puissent les utiliser dans leur opérations d'automatisation.
Remarque : Lorsque vous créez ou testez un Modèle d'invite dans l'écran Modèle d'invite, les détails de réussite ou d'échec ainsi que les réponses de modèle peuvent être affichés dans Administration > Journal d'audit et Administration > Gouvernance de l'IA > Journal des invites générées par l'IA. Reportez-vous à la rubrique Gouvernance de l'IA
Pourquoi archiver un Modèle d'invite ?

Après avoir créé un Modèle d'invite, archivez-le dans le dossier Public. De cette manière, le développeur professionnel, l'utilisateur professionnel ou le développeur citoyen pourront obtenir le Modèle d'invite à partir du package Modèle d'invite pour l'IA générative.

Vous pouvez ajouter un Robot de tâches, avec un ou plusieurs Modèles d'invite intégrés, à une automatisation plus large pour exécuter un scénario de flux de travail complet.

Remarque : Pour en savoir plus, consultez les rubriques :