Garde-fous IA

Garde-fous IA fournit un mécanisme d\'interception en ligne qui applique les Stratégies de sécurité et de conformité, protégeant les données sensibles et garantissant des pratiques éthiques en matière d\'IA.

Il utilise une tokenisation intelligente pour identifier les données sensibles utilisées dans les invites et les remplacer par des valeurs tokenisées. De même, il intercepte les réponses du modèle pour reconstruire et remplacer les valeurs tokenisées, garantissant ainsi la pertinence de la réponse. De plus, il surveille les niveaux de toxicité des invites et des réponses du modèle pour auditer les niveaux de toxicité.

Lors de la configuration de Garde-fous IA dans Automation 360, la mise en place de règles de masquage des données et la compréhension de la surveillance de la toxicité sont cruciales. Ces fonctionnalités définissent comment le système traite différents types de données sensibles et évalue la pertinence du langage utilisé dans les interactions avec les LLMs, évitant ainsi les problèmes potentiels lors de l\'exécution du robot. Ce sujet fournit des informations sur la mise en œuvre et la fonctionnalité de Garde-fous IA, en soulignant leur rôle dans la promotion de la sécurité des données et des pratiques d\'IA responsables.


Garde-fous IA

Au cœur de Garde-fous IA se trouve la fonctionnalité de masquage des données, qui fonctionne en identifiant et en substituant les éléments de données sensibles dans l\'invite d\'un robot par des valeurs tokenisées avant de transmettre la demande au Large Language Model (LLM). Ce processus protège les informations sensibles contre tout traitement direct par le LLM tout en préservant le contexte nécessaire pour générer une réponse précise. De plus, la capacité de surveillance de la toxicité surveille les invites envoyées aux LLM et les réponses générées par eux pour détecter tout langage potentiellement dangereux.

Avantages

Masquage des données
La masquage des données est une technique d\'obfuscation qui permet d\'identifier les données sensibles connues et de les remplacer par des valeurs fictives.
Catégories de données sensibles pour le masquage

Pour garantir une protection robuste des données, il est crucial d\'identifier et de masquer efficacement les informations sensibles. Garde-fous IA vous aide à établir des règles précises de masquage des données adaptées aux catégories critiques suivantes : Informations personnelles identifiables (PII), informations de santé protégées (PHI) et données de l\'industrie des cartes de paiement (PCI).

Ces catégories permettent l\'organisation et l\'application d\'un comportement de masquage cohérent à des types particuliers de données sensibles. Par exemple, vous pouvez choisir d\'anonymiser de manière irréversible toutes les données PCI pour empêcher leur stockage ou leur utilisation sous quelque forme que ce soit, tout en choisissant le masquage réversible pour les données PII afin de maintenir la fonctionnalité.

En adoptant ces approches stratégiques, les organisations peuvent protéger les données sensibles, se conformer aux réglementations et atténuer les risques potentiels.

Configuration du comportement de masquage

Dans Automation 360 Garde-fous IA, vous avez la flexibilité de déterminer comment chaque catégorie de données est gérée :

  • Masque: Un processus réversible où les données sensibles sont temporairement remplacées par un jeton. Les données originales sont récupérées et rétablies dans la réponse du LLM avant d\'être présentées à l\'utilisateur.
  • Anonymiser: Un processus irréversible qui remplace définitivement les données sensibles par un jeton. Les données originales ne sont ni stockées ni utilisées pour reconstruire la réponse finale, ce qui les rend adaptées aux scénarios avec des interdictions strictes de conservation des données.
  • Autoriser : Pour des cas d\'utilisation spécifiques nécessitant l\'accès à des données sensibles, vous pouvez choisir d\'autoriser l\'envoi des données au LLM en texte clair.

Par défaut, le système applique Mask si aucun comportement spécifique n\'est sélectionné, garantissant ainsi un niveau de protection de base pour toutes les données sensibles. Vous pouvez configurer ces règles et les attribuer à des dossiers désignés, en vous assurant que tout robot opérant dans un dossier avec une règle attribuée applique automatiquement le comportement de masquage défini.

Surveillance de la toxicité

Garde-fous IA analyser à la fois les invites envoyées aux LLM et les réponses générées par les LLM pour détecter un langage potentiellement dangereux, en les classant comme étant de toxicité faible, modérée ou élevée. Bien qu\'actuellement en mode « observation uniquement », cette fonctionnalité permet d\'identifier une utilisation potentiellement problématique du langage. Les futures versions incluront la possibilité de bloquer les invites en fonction de leur niveau de toxicité.

Suivi et journalisation

Automation 360 enregistre toutes les actions de guardrail, y compris les détails du processus de masquage des données. Ce journal complet fournit une piste d\'audit, permettant aux administrateurs de surveiller la fonctionnalité des Garde-fous IA et de vérifier la conformité avec les stratégies de protection des données.

Exigences de licence

Pour activer et utiliser le service Garde-fous IA pour l\'application, vous devez acheter un SKU de consommation - AI Guardrails (Nombre d\'invocations LLM) avec la licence Plateforme Enterprise. Voir, Plateforme Enterprise.
Remarque : Garde-fous IA crédits de votre volume acheté sont consommés lors de l\'exécution de demandes à partir d\'automatisations ou Compétences IA dans un espace de travail public, ou lors des tests dans l\'éditeur Compétences IA au sein d\'un espace de travail privé.