Gouvernance de l\'IA règle d\'analyse du code
- Dernière mise à jour2024/10/31
Gouvernance de l\'IA règle d\'analyse du code
Avec la nouvelle règle d\'analyse de code Gouvernance de l\'IA, vous pouvez garantir une utilisation responsable et conforme de l\'IA. Les améliorations de l\'analyse de code vous permettent de surveiller et d\'appliquer votre politique d\'utilisation de l\'IA via des notifications pour une correction immédiate.
Présentation
L\'utilisation de modèles fondamentaux qui n\'ont pas été testés pourrait présenter des risques de sécurité importants pour les utilisateurs et les applications qui les utilisent. Sans les contrôles de sécurité régissant l\'accès aux modèles IA générative, les utilisateurs et les applications seraient exposés aux risques associés à l\'utilisation du modèle. Mettre en œuvre des stratégies de gouvernance qui sont alignées avec les stratégies d\'IA responsable et d\'utilisation sécurisée de votre organisation pour atténuer ces risques. Limitez l\'accès aux modèles approuvés et testés pour gérer les risques lors de l\'utilisation de modèles qui n\'ont pas été vérifiés pour une bonne qualité de réponse, en plus d\'appliquer la règle conformément aux restrictions régionales.
La nouvelle règle impose l\'utilisation du modèle lors de la conception et du développement des automatisations grâce à l\'analyse du code. Cette politique facile à appliquer aide à garantir la conformité avant que les automatisations ne soient enregistrées dans le dossier Production pour exécution. La politique vérifie et signale les automatisations en production qui enfreignent la politique et offre une visibilité sur le risque lorsque ces modèles compromis et non approuvés sont utilisés. Cela vous donne l\'occasion de remédier à ces incidents.
Reportez-vous aux rubriques Règles d\'analyse du code et Configurer et assigner une politique d'analyse de code.
Avantages
- Limiter l\'utilisation du modèle aux seuls modèles testés et validés
- Surveiller les violations de la politique
- Empêcher les validations de code avec des violations de politique
Utilisateurs et autorisations
L\'administrateur de l\'automatisation, le développeur professionnel ou le responsable de l\'automatisation seraient les principaux utilisateurs de la politique d\'analyse de code Gouvernance de l\'IA. Ils définiraient la règle pour les Créateurs de Bot et les développeurs Pro afin de surveiller et d\'appliquer les restrictions de politique sur l\'utilisation du modèle et la consommation de jetons. Les personas peuvent définir la politique via le gestionnaire de politiques Control Room et les attribuer à des dossiers contenant des automatisations.
Après avoir développé les automatisations, lorsque le développeur Pro les enregistre et les valide, les vérifications de politique sont déclenchées et les avertissent de toute violation de politique dans le code d\'automatisation. Les développeurs professionnels doivent traiter et résoudre les violations de politique pour terminer avec succès le processus d\'enregistrement du code.
- Liste des éditeurs hyperscaler pris en charge
- Liste des modèles des éditeurs d\'hyperscaler
- Régions de déploiement prises en charge
Pour plus de détails sur les autorisations, consultez Analyse de code.
Disponibilité
Pour utiliser cette fonctionnalité, vous devez disposer de la licence Plateforme Enterprise. Pour plus d\'informations sur la version prise en charge par cette fonctionnalité, consultez Enterprise Platform.
Accès à la politique d\'analyse du code Gouvernance de l\'IA
- Dans l\'écran Stratégies, cliquez sur Créer une stratégie ou sur l\'icône + pour afficher la page Créer une stratégie avec l\'option d\'ajouter les Détails de la stratégie.
- Faites défiler jusqu\'à la politique Gouvernance de l\'IA et activez la bascule.
- Cliquez sur Ajouter un modèle et commencez à ajouter l\'Éditeur qui est le fournisseur de l\'hyperscaler, le Modèle, qui est le modèle pris en charge par le fournisseur, et la Région de déploiement.Remarque : Le nom du modèle peut être saisi manuellement. Nous vous recommandons d\'utiliser le format suivant lors de la saisie du nom du modèle :
- Amazon Bedrock : Jurassic-2 Mid, Jurassic-2 Ulta, Claude Instant v1.2, Claude v1.3, Claude v2.1 (autres versions prises en charge), Titan Text G1 - Lite et Titan Text G1 - Express (autres versions prises en charge).
- Google Vertex AI : chat-bison (dernier), chat-bison-32k (dernier), chat-bison-32k@002, chat-bison@001, chat-bison@002, codechat-bison, codechat-bison-32k, codechat-bison-32k@002, codechat-bison@001, codechat-bison@002 (autres versions prises en charge), text-bison (dernier), text-bison-32k (dernier), text-bison-32k@002, text-bison@001, text-bison@002, text-unicorn@001, code-bison (dernier), code-bison-32k@002, code-bison@001, code-bison@002, code-gecko@001, code-gecko@002, code-gecko (autres versions prises en charge), et Gemini Pro.
- OpenAI : gpt-3.5-turbo (par défaut), gpt-3.5-turbo-16k, gpt-4, gpt-4-32k (autres versions prises en charge), text-davinci-003, text-davinci-002, davinci, text-curie-001, curie, text-babbage-001, babbage, text-ada-001 et modèles personnalisés.
- Cliquer sur le bouton Ajouter un modèle vous permet d\'ajouter une nouvelle ligne dans le tableau Modèles autorisés.
- Ensuite, ajoutez le niveau de gravité comme Critique conformément à la politique d\'analyse de code.Remarque : Nous vous recommandons d\'ajouter le niveau de gravité Critique pour empêcher le développeur Pro d\'enregistrer une automatisation, en cas de violation des règles.
- Ensuite, enregistrez les modifications.