KI-Schutzvorrichtungen

KI-Schutzvorrichtungen bieten einen Inline-Abfangmechanismus, der Sicherheits- und Compliance-Richtlinien durchsetzt, sensible Daten schützt und ethische KI-Praktiken fördert.

Es verwendet eine intelligente Tokenisierung, um sensible Daten, die in Eingabeaufforderungen verwendet werden, zu identifizieren und sie durch tokenisierte Werte zu ersetzen. Ähnlich fängt es die Modellantworten ab, um die tokenisierten Werte zu rekonstruieren und zu ersetzen, wodurch die Relevanz der Antwort sichergestellt wird. Darüber hinaus überwacht es die Toxizitätsstufen von Eingaben und Modellantworten, um die Toxizitätsstufen zu überprüfen.

Beim Konfigurieren von KI-Schutzvorrichtungen in Automation 360 sind das Einrichten von Datenmaskierungsregeln und das Verstehen der Toxizitätsüberwachung entscheidend. Diese Funktionen definieren, wie das System verschiedene Arten sensibler Daten behandelt und die Angemessenheit der in Interaktionen mit LLMs verwendeten Sprache bewertet, um potenzielle Probleme während der Bot-Ausführung zu verhindern. Dieses Thema bietet Einblicke in die Implementierung und Funktionalität von KI-Schutzvorrichtungen und betont ihre Rolle bei der Förderung der Datensicherheit und verantwortungsvoller KI-Praktiken.


KI-Schutzvorrichtungen

Das Herzstück von KI-Schutzvorrichtungen ist die Datenmaskierungsfunktion, die sensible Datenelemente in der Eingabeaufforderung eines Bots identifiziert und durch tokenisierte Werte ersetzt, bevor die Anfrage an das Large Language Model (LLM) übermittelt wird. Dieser Prozess verhindert, dass sensible Informationen direkt vom LLM verarbeitet werden, während der Kontext erhalten bleibt, der für die Erstellung einer genauen Antwort erforderlich ist. Darüber hinaus kontrolliert die Toxizitätsüberwachung die an LLMs gesendeten Eingabeaufforderungen und die von ihnen generierten Antworten auf potenziell anstößige Sprache.

Vorteile

Maskierung von Daten
Datenmaskierung ist eine Verschleierungstechnik, um bekannte sensible Daten zu identifizieren und sie durch fiktive Werte zu ersetzen.
Kategorien sensibler Daten zur Maskierung

Um einen robusten Datenschutz zu gewährleisten, müssen sensible Informationen effektiv identifiziert und maskiert werden. KI-Schutzvorrichtungen helfen Ihnen dabei, präzise Datenmaskierungsregeln zu erstellen, die auf die folgenden kritischen Kategorien zugeschnitten sind: Persönlich identifizierbare Informationen (PII), geschützte Gesundheitsinformationen (PHI) und Bankkartendaten (PCI).

Mit diesen Kategorien können Sie ein einheitliches Maskierungsverhalten für bestimmte Arten sensibler Daten verwalten und anwenden. Sie können beispielsweise alle PCI-Daten irreversibel anonymisieren, um deren Speicherung oder Verwendung in jeglicher Form zu verhindern, während Sie für PII-Daten eine reversible Maskierung wählen, um die Funktionalität zu erhalten.

Durch die Annahme dieser strategischen Ansätze können Organisationen sensible Daten schützen, Vorschriften einhalten und potenzielle Risiken mindern.

Maskierungsverhalten konfigurieren

Innerhalb von Automation 360-KI-Schutzvorrichtungen können Sie flexibel festlegen, wie die einzelnen Datenkategorien behandelt werden:

  • Maskieren: Ein umkehrbarer Prozess, bei dem sensible Daten vorübergehend durch ein Token ersetzt werden. Die Originaldaten werden abgerufen und in der Antwort des LLM wiederhergestellt, bevor sie dem Nutzer präsentiert werden.
  • Anonymisieren: Ein irreversibler Prozess, der sensible Daten dauerhaft durch ein Token ersetzt. Die Originaldaten werden nicht gespeichert oder verwendet, um die endgültige Antwort zu rekonstruieren, was es für Szenarien mit strengen Verboten zur Datenaufbewahrung geeignet macht.
  • Erlauben: Für bestimmte Anwendungsfälle, die den Zugriff auf vertrauliche Daten erfordern, können Sie die Übermittlung der Daten an das LLM im Klartext zulassen.

Standardmäßig wendet das System Mask an, wenn kein bestimmtes Verhalten ausgewählt ist, um ein grundlegendes Schutzniveau für alle vertraulichen Daten zu bieten. Sie können diese Regeln konfigurieren und ihnen bestimmte Ordner zuweisen, damit jeder Bot, der in einem Ordner mit einer zugewiesenen Regel ausgeführt wird, automatisch das definierte Maskierungsverhalten umsetzt.

Toxizitätsüberwachung

KI-Schutzvorrichtungen analysieren sowohl die an LLMs gesendeten Eingabeaufforderungen als auch die von LLMs generierten Antworten auf potenziell anstößige Sprache und klassifizieren sie als geringe, mittlere oder hohe Toxizität. Obwohl sich diese Funktion derzeit in einem „Nur Beobachten“-Modus befindet, ermöglicht sie die Identifizierung potenziell problematischer Sprachverwendung. In zukünftigen Versionen wird es möglich sein, Eingabeaufforderungen basierend auf ihrem Toxizitätsgrad zu blockieren.

Überwachung und Protokollierung

Automation 360 protokolliert alle Aktionen der Schutzvorrichtungen, einschließlich der Details des Datenmaskierungsprozesses. Diese umfassende Protokollierung bietet einen Prüfpfad, mit dem Administratoren die Funktionalität der KI-Schutzvorrichtungen überwachen und die Einhaltung der Datenschutzrichtlinien überprüfen können.

Lizenzanforderungen

Um den KI-Schutzvorrichtungen-Dienst zur Durchsetzung zu aktivieren und zu nutzen, müssen Sie ein Verbrauchs-SKU – KI-Schutzvorrichtung (Anzahl der LLM-Eingabeaufforderungen) zusammen mit der Enterprise Platform-Lizenz erwerben. Siehe, Enterprise Platform.
Anmerkung: KI-Schutzvorrichtungen-Credits aus Ihrem gekauften Volumen werden verbraucht, wenn Sie Eingabeaufforderungen aus Automatisierungen ausführen oder KI-Fähigkeiten in einem öffentlichen Arbeitsbereich, oder wenn Sie im KI-Fähigkeiten Editor innerhalb eines privaten Arbeitsbereichs testen.