KI-Governance

Stärkung der Governance und Wahrung der Integrität von generative KI-Interaktionen und -Ereignissen innerhalb von Automatisierungen durch robuste Überwachung und Prüfung mit KI-Governance

Übersicht

Anmerkung:
  • Generative KI-Modelle können Fehler produzieren und/oder die von ihnen generierten Informationen falsch darstellen. Es ist ratsam, die Genauigkeit, Zuverlässigkeit und Vollständigkeit der vom KI-Modell generierten Inhalte zu überprüfen.
  • KI-Governance ist nur in Cloud-Bereitstellungen verfügbar.

KI-Governance wird als Plattformfunktion in der AI Agent Studio-Produktsuite angeboten. Damit stehen Ihnen Administrator-Werkzeuge zur Verfügung, die eine sichere Nutzung von KI ermöglichen, den Zugriff auf die Basismodelle regeln und die Ausführung von generative KI-gestützten Automatisierungen überwachen und prüfen können.

KI-Governance liefert Auditinformationen, wenn Nutzer Basismodelle in ihren Automatisierungen verwenden. Nutzer mit entsprechenden Berechtigungen können die Auditzusammenfassung sowie detaillierte Informationen einsehen. Der Control Room bietet Kunden die Möglichkeit, ihre Datenprotokollierungseinstellungen zu verwalten, den Zugriff auf die Protokolle zu kontrollieren und sensible Daten durch Verschlüsselung zu schützen.

Das folgende Video gibt Ihnen einen Überblick über KI-Governance mit Fokus auf das Wertversprechen:

Die folgenden Fähigkeiten werden in KI-Governance unterstützt:
  • Rollenbasierte Zugriffskontrolle (RBAC) zur Verwaltung des Nutzerzugriffs über Berechtigungen zur Verwaltung der Datenprotokollierung und zur Anzeige von KI-Interaktionsprotokollen und -details.
  • KI-Eingabeaufforderungs-Protokoll-konsolidierte Anzeige der Basismodellinteraktionen, die innerhalb einer Automatisierungsausführung stattfinden.
  • Ereignisprotokoll, um alle generative KI-Ereignisse zu verfolgen, die während der Interaktion mit den Basismodellen auftreten.
  • Nutzen Sie Suchen und Elemente nach CSV exportieren zum Exportieren und Weiterleiten von Protokolldatensätzen an die unterstützten SIEM-Plattformen (Security Information and Event Management).

Die folgende Abbildung zeigt einen Überblick über den KI-Governance-Workflow:

KI-Governance-Workflow

Vorteile

Schaffen Sie die Rahmenbedingungen für eine verantwortungsvolle KI-Nutzung mit eingebauten Schutzvorrichtungen für die Sicherheit mit KI-Governance:
  • Compliance-Management: Bleiben Sie konform mit den kommenden KI-Vorschriften und -Rahmenbedingungen. Überwachen Sie die Protokolle, um proaktiv Risiken für die Offenlegung sensibler Daten und bei der Nutzung von Eingabeaufforderungen zu erkennen entsprechend den Best Practices. Sofortige Daten und Berechtigungsnachweise für den autorisierten Zugriff auf Modelle werden sicher unter Verwendung von Industriestandard-Verschlüsselungsalgorithmen gespeichert.
  • Überwachung und Prüfung: Prüfen und überwachen Sie die Verwendung von Modellinteraktionen innerhalb von Automatisierungsausführungen, um die Einhaltung von Governance-Richtlinien zu gewährleisten. Verfolgen Sie Modellinteraktionen in Automatisierungen, um die ordnungsgemäße Verwendung und Leistung von Modellen sicherzustellen.
  • Schutzvorrichtungen: Schaffen Sie erhöhte Sicherheit für Modellverbindungen und Eingabeaufforderungsdaten mit rollenbasierter Zugriffskontrolle auf genehmigte Modelle. Alle Verbindungen zu genehmigten Modellen, die in Automatisierungen verwendet werden, werden zentral verwaltet.
  • Insights über die Verwendung: Verschaffen Sie sich einen Überblick über die Verwendung von Eingabeaufforderungen und generative KI-Modellen in Automatisierungen.
  • Anzeigen und Verfolgen von Protokolldetails: Zeigen Sie Sitzungsinteraktionen und die entsprechenden Ereignisdetails auf den Registerkarten KI-Eingabeaufforderungs-Protokoll und Ereignisprotokoll an.

Verfügbarkeit

Eine Enterprise Platform-Lizenz ist erforderlich, um die KI-Governance-Fähigkeit für AI Agent Studio zu aktivieren. Die AI Studio-Lizenz ist für alle Cloud-Regionen erhältlich. Nachdem die Lizenz zugewiesen wurde, stehen die Funktionen von KI-Governance allen Nutzern mit den folgenden Rollen und Einstellungen zur Verfügung:
  • Rolle: Benutzerdefinierte Rolle für KI-Governance
  • Einstellungen: Aktivieren Sie KI-Datenverwaltung > Datenprotokollierungseinstellungen.
  • Wählen Sie: KI-Governance > KI-Eingabeaufforderungs-Protokolle anzeigen > KI-Eingabeaufforderungs-Details anzeigen
  • Wählen Sie: KI-Governance > KI-Ereignisprotokolle anzeigen > KI-Ereignisdetails anzeigen
Anmerkung: Einzelheiten finden Sie unter Zuweisung von Rollen und Berechtigungen zur Aktivierung von KI-Governance.

Einzelheiten zu der Enterprise Platform-Lizenz finden Sie unter Enterprise Platform.