KI-Governance Code-Analyse-Regel
- Zuletzt aktualisiert2024/10/31
KI-Governance Code-Analyse-Regel
Mit der neuen Codeanalyseregel KI-Governance können Sie einen verantwortungsvollen und konformen Einsatz von KI sicherstellen. Dank der Verbesserungen der Codeanalyse können Sie Ihre Richtlinien zur KI-Nutzung überwachen und durchsetzen und erhalten Benachrichtigungen für eine sofortige Behebung.
Übersicht
Die Verwendung nicht getesteter Basismodelle könnte erhebliche Sicherheitsrisiken für Benutzer und die Anwendungen darstellen, die sie verwenden. Ohne Sicherheitskontrollen zur Regelung des Zugriffs auf die generative KI-Modelle wären die Benutzer und Anwendungen den mit der Verwendung der Modelle verbundenen Risiken ausgesetzt. Implementieren Sie Governance-Richtlinien, die mit den Richtlinien für verantwortungsvolle KI und sichere Nutzung Ihrer Organisation übereinstimmen, um diese Risiken zu mindern. Beschränken Sie den Zugriff auf genehmigte und getestete Modelle, um das Risiko bei der Verwendung von Modellen zu verwalten, die nicht auf eine gute Antwortqualität geprüft wurden, und setzen Sie außerdem Regeln gemäß regionalen Beschränkungen durch.
Die neue Regel erzwingt die Verwendung von Modellen während des Entwurfs und der Entwicklung von Automatisierungen durch Codeanalyse. Diese leicht durchsetzbare Richtlinie trägt dazu bei, die Einhaltung der Vorschriften sicherzustellen, bevor Automatisierungen zur Ausführung in den Produktionsordner eingecheckt werden. Die Richtlinie überprüft und meldet Automatisierungen in der Produktion, die gegen die Richtlinie verstoßen, und bietet Einblick in das Risiko, das bei der Verwendung dieser kompromittierten und nicht genehmigten Modelle entsteht. Dies gibt Ihnen die Möglichkeit, diese Vorfälle zu beheben..
Siehe Regeln der Code-Analyse und Konfigurieren und Zuweisen einer Codeanalyse-Richtlinie.
Vorteile
- Beschränken Sie die Modellnutzung ausschließlich auf getestete und validierte Modelle.
- Überwachen Sie Verstöße gegen die Richtlinie
- Code-Check-Ins mit Richtlinienverstößen verhindern
Benutzer und Berechtigungen
Der Automation Admin, der Pro Developer oder der Automation Lead wären die primären Benutzer der KI-Governance Codeanalyserichtlinie. Sie würden die Regel für die Bot Creators- und Pro-Entwickler definieren, um Richtlinienbeschränkungen für die Modellverwendung und den Tokenverbrauch zu überwachen und durchzusetzen. Die Personae können die Richtlinie über den Control Room Richtlinien-Manager definieren und sie Ordnern zuweisen, die Automatisierungen enthalten.
Nachdem der Pro-Entwickler die Automatisierungen entwickelt hat und sie speichert und eincheckt, werden die Richtlinienprüfungen ausgelöst und er wird über etwaige Richtlinienverletzungen im Automatisierungscode benachrichtigt. Die Pro-Entwickler müssen die Richtlinienverstöße ansprechen und beheben, um den Code-Check-in-Prozess erfolgreich abzuschließen.
- Liste der unterstützten Hyperscaler-Publisher
- Liste der Modelle von den Hyperscaler-Publishern
- Unterstützte Regionen der Bereitstellung
Weitere Berechtigungsdetails finden Sie unter Code-Analyse.
Verfügbarkeit
Für diese Funktion ist die Enterprise Platform-Lizenz erforderlich. Informationen zu den unterstützten Versionen dieser Funktion finden Sie unter Enterprise Platform.
Zugriff auf KI-Governance Codeanalyse-Richtlinie
- Im Richtlinien-Bildschirm klicken Sie auf Richtlinie erstellen oder das +-Symbol, um die Richtlinie erstellen-Seite mit der Option zum Hinzufügen der Richtliniendetails anzuzeigen.
- Scrollen Sie zur Richtlinie AI Governance und aktivieren Sie den Schalter.
- Klicken Sie auf Modell hinzufügen und beginnen Sie mit dem Hinzufügen des Herausgebers, also des Hyperscaler-Anbieters, des Modells, also des vom Anbieter unterstützten Modells, und der Region der Bereitstellung.Anmerkung: Der Modellname kann manuell eingegeben werden. Wir empfehlen, beim Eingeben des Modellnamens das folgende Format zu verwenden:
- Amazon Bedrock : Jurassic-2 Mid, Jurassic-2 Ulta, Claude Instant v1.2, Claude v1.3, Claude v2.1 (andere unterstützte Versionen), Titan Text G1 – Lite und Titan Text G1 – Express (andere unterstützte Versionen).
- Google Vertex AI : chat-bison (neueste), chat-bison-32k (neueste), chat-bison-32k@002, chat-bison@001, chat-bison@002, codechat-bison, codechat-bison-32k, codechat-bison-32k@002, codechat-bison@001, codechat-bison@002 (andere unterstützte Versionen), text-bison (neueste), text-bison-32k (neueste), text-bison-32k@002, text-bison@001, text-bison@002, text-unicorn@001, code-bison (neueste), code-bison-32k@002, code-bison@001, code-bison@002, code-gecko@001, code-gecko@002, code-gecko (andere unterstützte Versionen) und Gemini Pro.
- OpenAI : gpt-3.5-turbo (Standard), gpt-3.5-turbo-16k, gpt-4, gpt-4-32k (andere unterstützte Versionen), text-davinci-003, text-davinci-002, davinci, text-curie-001, curie, text-babbage-001, babbage, text-ada-001 und benutzerdefinierte Modelle.
- Durch Klicken auf die Schaltfläche Modell hinzufügen können Sie eine neue Zeile in der Tabelle Zulässige Modelle hinzufügen.
- Fügen Sie als Nächstes gemäß der Codeanalyserichtlinie den Schweregrad als Kritisch hinzu.Anmerkung: Wir empfehlen, den Schweregrad als Kritisch hinzuzufügen, um zu verhindern, dass der Pro-Entwickler bei Regelverletzungen eine Automatisierung eincheckt.
- Als Nächstes speichern Sie die Änderungen.