Gouvernance de l'IA

Renforcer la gouvernance et préserver l'intégrité des interactions et des événements IA générative au sein des automatisations grâce à une surveillance et à un audit accrus avec Gouvernance de l'IA.

Présentation

Remarque :
  • Les modèles d'IA générative peuvent produire des erreurs et/ou déformer les informations qu'ils génèrent. Il est conseillé de vérifier l'exactitude, la fiabilité et l'exhaustivité du contenu généré par le modèle d'IA.
  • Gouvernance de l'IA n'est disponible que pour les déploiements cloud.

Gouvernance de l'IA est disponible en tant que fonctionnalité de plateforme dans la suite de produits AI Agent Studio. Elle a été conçue pour vous fournir des outils d'administration offrant une utilisation sécurisée de l'IA, un accès contrôlé aux modèles de base et une fonctionnalité de contrôle et d'audit lors de l'exécution d'automatisations optimisées par l'IA générative.

La Gouvernance de l'IA fournit des informations d'audit lorsque les utilisateurs utilisent des modèles de base dans leurs automatisations. Les utilisateurs disposant des autorisations nécessaires peuvent afficher le résumé de l'audit et les informations détaillées. La Control Room permet aux clients de gérer leurs préférences en matière de journalisation des données, de contrôler l'accès pour afficher les journaux et de sécuriser les données sensibles par le biais du chiffrement.

La vidéo suivante vous donne un aperçu de Gouvernance de l'IA en mettant l'accent sur l'offre de valeur :

Les fonctionnalités suivantes sont prises en charge dans la Gouvernance de l'IA :
  • Contrôles d'accès basés sur les rôles (RBAC) pour gérer l'accès des utilisateurs via des autorisations afin de contrôler la journalisation des données et visualiser les journaux et les détails des interactions avec l'IA.
  • Affichage consolidé par le Journal des invites générées par l'IA des interactions entre les modèles de base au cours de l'exécution d'une automatisation.
  • Journal des événements pour suivre tous les événements d'IA générative survenant au cours des interactions avec les modèles de base.
  • Rechercher et Exporter les éléments vers CSV pour exporter et transférer les enregistrements de journaux vers les plateformes de gestion des informations et des événements de sécurité (SIEM) prises en charge.

L'image suivante présente une vue d'ensemble du flux de travail de la Gouvernance de l'IA :

Flux de travail de la Gouvernance de l'IA

Avantages

La fonctionnalité Gouvernance de l'IA permet une utilisation responsable de l'IA grâce à des garde-fous de sécurité intégrés :
  • Gestion de la conformité : restez en conformité avec les futures réglementations liées à l'IA et avec le cadre de travail associé. Surveillez les journaux afin de détecter de manière proactive les risques d'exposition des données sensibles et d'utilisation des données d'invite conformément aux meilleures pratiques. Les données d'invite et les infos d'identification pour l'accès autorisé aux modèles sont stockées en toute sécurité à l'aide d'algorithmes de chiffrement standard.
  • Contrôle et audit : auditez et contrôlez l'utilisation des interactions de modèle dans les exécutions d'automatisations afin d'assurer la conformité aux politiques de gouvernance. Suivez les interactions de modèle dans les automatisations afin de garantir l'utilisation correcte et la performance des modèles.
  • Garde-fous de sécurité : renforcez la sécurité des Connexions des modèles et des données d'invite grâce à des contrôles d'accès basés sur les rôles pour les modèles approuvés. Toutes les connexions aux modèles approuvés sont gérées de manière centralisée et utilisées dans les automatisations.
  • Perspectives d'utilisation : obtenez des perspectives sur l'utilisation des invites et des modèles d'IA générative utilisés dans les automatisations.
  • Affichage et suivi des détails du journal : les onglets Journal des invites générées par l'IA et Journal des événements permettent d'afficher les interactions au sein d'une session et les détails des événements correspondants.

Disponibilité

Une licence Plateforme Enterprise est nécessaire pour activer la fonctionnalité Gouvernance de l'IA pour AI Agent Studio. La licence AI Studio est disponible dans toutes les régions cloud. Lorsque la licence est attribuée, la fonctionnalité Gouvernance de l'IA est disponible pour tous les utilisateurs disposant de chacun de ces rôles et paramètres :
  • Rôle : rôle personnalisé pour la Gouvernance de l'IA
  • Paramètres : activez Gestion des données de l'IA > Paramètres de journalisation des données.
  • Sélectionnez :Gouvernance de l'IA > Afficher les journaux des invites générées par l'IA > Afficher les détails des invites générées par l'IA
  • Sélectionnez : Gouvernance de l'IA > Afficher les journaux des événements générés par l'IA > Afficher les détails des événements générés par l'IA
Remarque : Reportez-vous à la rubrique Attribution des rôles et des autorisations pour activer la Gouvernance de l'IA.

Pour plus d'informations sur la licence Plateforme Enterprise, voir Plateforme Enterprise.