Gouvernance de l'IA
- Dernière mise à jour2024/05/30
Gouvernance de l'IA
La Gouvernance de l'IA est conçue pour vous fournir des outils d'administration permettant de contrôler et d'auditer l'utilisation de l'IA dans le cadre de l'automatisation. Elle vise également à fournir une visibilité sur les interactions de modèle qui surviennent pendant l'exécution de l'automatisation.
- Les modèles d'IA générative peuvent produire des erreurs et/ou déformer les informations qu'ils génèrent. Il est conseillé de vérifier l'exactitude, la fiabilité et l'exhaustivité du contenu généré par le modèle d'IA.
- Gouvernance de l'IA n'est disponible que pour les déploiements Cloud.
La Gouvernance de l'IA donne des informations d'audit lorsque les utilisateurs utilisent des modèles d'IA dans leurs automatisations. Les utilisateurs disposant des autorisations nécessaires peuvent afficher le résumé de l'audit et les informations détaillées. La Control Room permet aux clients de gérer leurs préférences en matière de journalisation des données, de contrôler l'accès pour afficher les journaux et de sécuriser les données sensibles par le biais du chiffrement.
L'image suivante présente une vue d'ensemble du flux de travail de la Gouvernance de l'IA :
Les fonctionnalités Gouvernance de l'IA suivantes sont prises en charge :
- Gestion des données : configurez et gérez vos préférences en matière de journalisation des données.
- Contrôles d'accès basés sur les rôles (RBAC) : gérez l'accès des utilisateurs en attribuant des autorisations pour gérer la journalisation des données et afficher les journaux et les détails de la Gouvernance de l'IA.
- Audit et surveillance : interactions de modèle qui surviennent pendant les cycles d'automatisation.
Journaux de la Gouvernance de l'IA
Des journaux d'invites et d'événements générés par l'IA sont disponibles pour enregistrer les interactions de modèle qui surviennent pendant l'exécution de l'automatisation.
- Journal des invites générées par l'IA : permet d'afficher chaque session et les événements correspondants survenus au cours d'une interaction de modèle.
- Journal des événements : permet d'afficher chaque événement survenu au cours d'une interaction de modèle.
- Vous pouvez exporter et rechercher ces enregistrements.
- Vous pouvez afficher les détails de la session lorsque vous disposez de l'autorisation Afficher les détails des invites générées par l'IA.
- Vous pouvez afficher les détails de la session lorsque vous disposez de l'autorisation Afficher les détails des événements générés par l'IA. Les journaux des événements contiennent les actions dont le statut indique Réussi et Non réussi.
Autorisations Gouvernance de l'IA
Un utilisateur avec l'autorisation Gérer les rôles peut créer et attribuer des rôles aux utilisateurs pour leur donner un accès aux fonctionnalités et aux opérations.
| Autorisation | Description |
|---|---|
| Afficher les paramètres | Permet aux utilisateurs d'afficher l'option Gestion des données de l'IA sur la page Paramètres. |
| Gérer les paramètres | Permet aux utilisateurs d'activer ou de désactiver l'option Paramètres de journalisation des données. |
| Afficher les journaux des invites générées par l'IA | Permet aux utilisateurs d'afficher les journaux d'invites générées par l'IA et d'effectuer des recherches, des tris et d'exporter les journaux dans un fichier csv. |
| Afficher les détails des invites générées par l'IA | Permet aux utilisateurs d'afficher les détails relatifs à une session. |
| Afficher les journaux des événements générés par l'IA | Permet aux utilisateurs d'afficher les journaux d'événements générés par l'IA et de rechercher, de trier et d'exporter les journaux dans un fichier csv. |
| Afficher les détails des événements générés par l'IA | Permet aux utilisateurs d'afficher les détails des événements. |
Démonstration de la gouvernance de l'IA
La vidéo suivante explique comment activer et utiliser la Gouvernance de l'IA :