AI Agent Studio v.36 Veröffentlichung

Sehen Sie sich neue Funktionen und Änderungen sowie Fehlerbehebungen und Einschränkungen in AI Agent Studio v.36 an.

Neue Funktionen

KI-Schutzvorrichtungen

Diese Veröffentlichung führt KI-Schutzvorrichtungen ein, eine neue Funktion zum Schutz sensibler Daten und zur Förderung einer verantwortungsvollen Nutzung von KI. KI-Schutzvorrichtungen schützen sensible Daten, indem sie PII, PHI und PCI in Aufforderungen, die an LLMs gesendet werden, maskieren. Darüber hinaus überwachen sie Eingaben und Antworten auf potenziell anstößige Sprache. Administratoren können Regeln zur Datenmaskierung konfigurieren und sie bestimmten Ordnern zuweisen, um einen konsistenten Datenschutz in allen Automatisierungen zu gewährleisten.

Wichtig: Das KI-Schutzvorrichtungen-Angebot ist ab Automation 360 Cloud verfügbar und kann mit der KI-Schutzvorrichtung-Lizenz (Anzahl der LLM-Eingabeaufforderungen) zusammen mit der Enterprise Platform-Lizenz genutzt werden. Einzelheiten zu dieser Lizenz finden Sie unter Enterprise Platform.

KI-Schutzvorrichtungen

System-Prompt in KI-Fähigkeiten

Innerhalb von KI-Fähigkeiten wird eine neue Funktion namens System-Eingabeaufforderung eingeführt. Dieses optionale Feld, das für jeden sichtbar ist, der Zugriff auf die Ansicht oder Bearbeitung der KI-Fähigkeit hat. Darin können Sie anfängliche Anleitungen oder Kontext für das zugrunde liegende Modell bereitstellen. Die System-Prompt hilft, das Modell zu orientieren oder zu verankern, beeinflusst seine Reaktionen auf Nutzereingaben und macht Ergebnisse relevanter und genauer. Das Feld System-Prompt wird für alle Modelle angezeigt. Für Modelle, die System-Prompt unterstützen, wird der bereitgestellte Text als System-Prompt gesendet. Für Modelle, die System-Eingabeaufforderungen nicht unterstützen, wird der im Feld System-Prompt angegebene Text vor die Nutzer-Prompt gestellt.

System-Eingabeaufforderung

Aktivieren oder deaktivieren Sie KI-Schutzvorrichtungen-Richtlinien global innerhalb des Control Rooms

Administratoren können jetzt die KI-Schutzvorrichtungen im Control Room mit einer Cloud-Lizenz aktivieren, indem sie zu Administration > Einstellungen > KI-Schutzvorrichtungen navigieren.

Wenn diese Einstellung aktiviert ist, können professionelle Entwickler KI-Schutzvorrichtungen erstellen, um Regeln zum Schutz sensibler Informationen durchzusetzen und die verantwortungsvolle Nutzung von KI zu fördern.

Zuweisung von Rollen und Berechtigung zur Aktivierung von KI-Schutzvorrichtungen

Unterstützung für die RAG-Fähigkeit in AI Agent Studio, um fundierte Modellverbindungen mithilfe von - zu erstellen Azure OpenAI Grounding durch AI Search

Erstellen Sie Grounding durch AI Search-Modellverbindungen unter Verwendung der nativen RAG-Funktion (retrieval-augmented generation) von Azure OpenAI, um Informationen aus Azure AI Search-Indizes abzurufen und genauere und relevantere Antworten zu erhalten.

Grounded-Modellverbindungen mit Azure OpenAI-RAG-Fähigkeit erstellen

Mit KI-Schutzvorrichtung in testen KI-Fähigkeiten

Verbessern Sie die Zuverlässigkeit und Sicherheit Ihrer KI-Fähigkeiten, indem Sie sie vor der Bereitstellung gegen die KI-Schutzvorrichtungen testen. Mit dieser neuen Funktion können Sie, die Auswirkungen Ihrer gewählten Schutzvorrichtungen auf Eingabeaufforderungen und Modellantworten zu simulieren. Dieses Update liefert Ergebnisse zur Toxizität und Datenmaskierung. Sie können die Option Datenmaskierungsausführung anzeigen anklicken, um die tokenisierten maskierten Werte sensibler Daten anzuzeigen. Gewinnen Sie wertvolle Einblicke, wie Ihre KI-Fähigkeit in einer Produktionsumgebung mit aktivierten Schutzvorrichtungen funktionieren wird. Greifen Sie auf diese Funktionalität im KI-Fähigkeiten-Editor zu und überprüfen Sie die KI-Governance-Protokolle, um eine detaillierte Aufzeichnung jedes Tests zu erhalten.

Erstellen von KI-Fähigkeitens

Benutzerdefinierte Modelldefinitionen – Authentifizieren mit AWS Signature-Authentifizierung

Diese Version führt die Unterstützung für die AWS Signature-Authentifizierung ein, wenn benutzerdefinierte Modelle in AI Agent Studio definiert werden. Mit dieser Verbesserung können Sie nahtlos mit einer größeren Auswahl an AWS-basierten KI/ML-Diensten integrieren, die diese Authentifizierungsmethode verwenden. Sie können jetzt den authType auf AWS SIGNATURE setzen, wenn Sie ein neues benutzerdefiniertes Modell definieren. Beispiel: "authType" : "AWS_SIGNATURE_V4". Hierfür müssen die erforderlichen AWS-Anmeldeinformationen bereitgestellt werden – Access Key ID, Secret Access Key, Session Key (Optional), Region.

Zum Beispiel:

{
   "name":"Bedrock - Claude2.1",
   "description":"string",
   "version":"string",
   "authAction":{
      "authType":"AWS_SIGNATURE_V4",
      "awsSignatureV4":{
         "accessKey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "secretkey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "sessionkey":{
            "location":"header",
            "keyName":"aws_sign_session_key"
         }
      }
   },
   "api_type":"REST",
   "actions":[
      {
         .... 
      }
   ]
}

Benutzerdefinierte Modelldefinitionen

Benutzerdefinierte Modelldefinitionen – Vorhandenes Modell aktualisieren

Diese Version führt die Möglichkeit ein, bestehende benutzerdefinierte Modelldefinitionen mit den neu eingeführten PUT- und PATCH-Methoden zu ändern. Bisher wurden Änderungen an einem bestehenden benutzerdefinierten Modell nicht unterstützt.

PUT (Gesamtes Modell ersetzen/aktualisieren): Verwenden Sie den PUT-Endpunkt, um eine vorhandene benutzerdefinierte Modelldefinition vollständig zu ersetzen oder zu aktualisieren. Diese Methode wird verwendet, wenn Sie mehrere Eigenschaften des Modells aktualisieren müssen.
PUT https://{ControlRoom}/gai/prompttools/v1/custommodel
Anmerkung: Diese Aktion ist auf benutzerdefinierte Modelle beschränkt, die keine zugeordneten Modellverbindung haben.
PATCH (Teilaktualisierung – Name und Beschreibung): Verwenden Sie den PATCH-Endpunkt, um nur den Namen und die Beschreibung einer vorhandenen benutzerdefinierten Modelldefinition zu aktualisieren.
PATCH https://{ControlRoom}/gai/prompttools/v1/custommodel

Beide Endpunkte erfordern den vendorName und modelName, um das benutzerdefinierte Modell zu identifizieren, das aktualisiert werden soll, und geben bei erfolgreicher Ausführung eine 200 OK-Antwort mit den aktualisierten Modelldetails zurück.

Benutzerdefinierte Modelldefinitionen

Benutzerdefinierte Modelldefinitionen – Liste der benutzerdefinierten Modell-API, kann nach Anbieternamen gefiltert werden

Diese Version führt die Möglichkeit ein, die Liste der benutzerdefinierten Modelle nach Anbieternamen zu filtern und die Ergebnisse basierend auf bestimmten Kriterien zu sortieren.

POST https://{ControlRoom}/gai/prompttools/v1/custommodel/list
Anforderungstext:
{
   "sort":[
      {
         "field":"name",
         "direction":"asc"
      }
   ],
   "filter":{
      "operator":"and",
      "operands":[
         {
            "operator":"eq",
            "field":"name",
            "value":"CustomVendor"
         }
      ]
   }
}

AI Agent Studio API

Unterstützung für die RAG-Fähigkeit in AI Agent Studio, um fundierte Modellverbindungen mithilfe von Azure OpenAI-Grounding durch AI Search zu erstellen

Erstellen Sie Grounding durch AI Search-Modellverbindungen unter Verwendung der nativen RAG-Funktion (retrieval-augmented generation) von Azure OpenAI, um umfassende Sucherlebnisse zu gestalten, die große Sprachmodelle mit Unternehmensdaten von Azure AI Search kombinieren.

Grounded-Modellverbindungen mit Azure OpenAI-RAG-Fähigkeit erstellen

Einführung des GenAI-Modellaufruf-Widgets

Das neue GenAI-Modell ruft das Widget im KI-Governance-Dashboard auf dem Startbildschirm auf, das die Top 5 der in den Automatisierungen verwendeten GenAI-Modelle anzeigt. Durch Klicken auf einen Modellnamen gelangen Sie zum KI-Governance-Ereignisprotokoll, das bereits für dieses Modell vorgefiltert ist.

Verwenden von KI-Governance-Dashboard-Widgets

Änderungen

Verbesserungen der benutzerdefinierten Modellintegration (Service Cloud-Fall-ID: 02147228)

AI Agent Studio unterstützt jetzt die Integration von benutzerdefinierten Large Language Models (LLMs), die Sie entwickelt oder bereitgestellt haben. Diese Funktion umfasst nun APIs für das vollständige Lebenszyklusmanagement dieser benutzerdefinierten Modelle – einschließlich der Definition, des Abrufs, der Modifizierung und der Entfernung – wodurch Sie die Möglichkeit erhalten, spezialisierte KI-Modelle innerhalb des AI Agent Studios zu verwenden.

Benutzerdefinierte Modelldefinitionen

Rollen im Modellverbindungen-Erstellungs-Assistenten suchen und hinzufügen

Sie können jetzt Rollen suchen und hinzufügen, während Sie Modellverbindungen erstellen.

Modellverbindungen erstellen und verwalten

Verbesserte KI-Governance-Protokollierung für die Ausführung von übergeordneten/untergeordneten Bots

KI-Governance-Protokolle bieten jetzt eine verbesserte Sichtbarkeit in die Bot-Ausführung, indem sie die Details des übergeordneten Bots genau widerspiegeln, wenn untergeordnete Bots initiiert werden. Dies gilt sowohl für Generative KI-Befehls-Pakete als auch für Automatisierungen, die KI-Fähigkeiten nutzen. Zuvor zeigten Protokolle Informationen über den untergeordneten Bot an, was zu Inkonsistenzen führte. Dank dieser Verbesserung enthalten Protokolle jetzt die ID des übergeordneten Bots, den Namen und den Ordnerpfad für verbesserte Prüfpfade. Zum Beispiel, wenn der übergeordnete Bots mit der ID 103 einen untergeordneten Bot auslöst, werden die Protokolle korrekt 103 anzeigen, nicht die ID des untergeordneten Bots. Diese Verbesserung betrifft sowohl die Eingabeaufforderungs- als auch die Ereignisprotokolle innerhalb von KI-Governance.

KI-Governance

KI-Governance KI-Prompt-Protokoll- und Ereignisprotokoll-Registerkarten: Neue Spalte fürKI-Schutzvorrichtungen

Eine neue Spalte, KI-Schutzvorrichtung, wurde zu den Bildschirmen KI-Governance KI-Prompt-Protokoll und Ereignisprotokoll hinzugefügt. Ein neues Feld KI-Schutzvorrichtung ist ebenfalls in den Sitzungsdetails oder Ereignissen enthalten, wenn Sie einzelne Eingabeaufforderungs- oder Ereignisprotokolle öffnen. Diese Spalte enthält Informationen über die spezifischen Schutzvorrichtungen, die auf jede Eingabeaufforderung und jedes Ereignis angewendet werden.

KI-Prompt-Protokoll | Ereignisprotokoll

Optimierung für das KI-Governance-KI-Prompt-Protokoll : Neue Toxizitätsanalyse und System-Prompt/Nutzer-Prompt
  1. Gesamte Toxizität: Toxizitätswerte werden jetzt sowohl für die System- als auch für die Benutzereingaben angezeigt.
  2. Reaktionstoxität: Der Toxizitätsgrad der Antwort des LLM ist ebenfalls enthalten, was eine bessere Bewertung des generierten Inhalts ermöglicht.
  3. Anzeige beider Eingabeauforderungen: Sowohl die System-Prompt als auch die Nutzer-Prompt sind jetzt deutlich sichtbar. Dies klärt den Kontext der Interaktion, insbesondere mit der Einführung von System-Eingabeaufforderungen neben Nutzer-Eingabeaufforderungen. Das vorherige Feld Eingabeaufforderung wurde in Benutzer-Eingabeaufforderung umbenannt.
  4. Modellverbindungstyp: Der KI-Prompt-Protokoll zeigt jetzt den Modellverbindungstyp an, der detailliert beschreibt, wie Modelle verbunden sind, wie zum Beispiel Standard, Feinabstimmung oder verschiedene grounded Optionen.

KI-Prompt-Protokoll

Optimierung für das KI-Governance-Ereignisprotokoll : Neue Toxizitätsanalyse und System-Prompt/Nutzer-Prompt
  1. Gesamte Toxizität: Toxizitätswerte werden jetzt sowohl für die System- als auch für die Benutzereingaben angezeigt.
  2. Reaktionstoxität: Der Toxizitätsgrad der Antwort des LLM ist ebenfalls enthalten, was eine bessere Bewertung des generierten Inhalts ermöglicht.
  3. Anzeige beider Eingabeauforderungen: Sowohl die System-Prompt als auch die Nutzer-Prompt sind jetzt deutlich sichtbar. Dies klärt den Kontext der Interaktion, insbesondere mit der Einführung von System-Eingabeaufforderungen neben Nutzer-Eingabeaufforderungen. Das vorherige Feld Eingabeaufforderung wurde in Benutzer-Eingabeaufforderung umbenannt.
  4. Modellverbindungstyp: Der Ereignisprotokoll zeigt jetzt den Modellverbindungstyp an, der detailliert beschreibt, wie Modelle verbunden sind, wie zum Beispiel Standard, Feinabstimmung oder verschiedene grounded Optionen.

Ereignisprotokoll

Korrekturen

Die Modelle Anthropic Claude 2.1 und Anthropic Claude 3.5, die auf Amazon Bedrock nicht als feinabgestimmte Modelle unterstützt werden, wurden aus den verfügbaren Modelloptionen innerhalb der Amazon Bedrock feinabgestimmten Typen entfernt. Zuvor wurden diese Modelle fälschlicherweise in der Modellauswahl angezeigt, wenn unter Amazon Bedrock der Typ Feinabgestimmt ausgewählt wurde.
Korrektur für ein Problem, bei dem KI-Governance-Protokolle für API-Aufgaben im Echtzeitmodus (beaufsichtigte Automatisierung) nicht unterstützt wurden. Dieses Problem wurde in dieser Version behoben.
Korrektur der irreführenden Fehlermeldung, die fälschlicherweise angibt, dass Bot-Agent ein Update für eine genaue KI-Governance-Protokollierung benötigt. Zuvor wurde dieser Fehler in den KI-Governance-Abschnitten beobachtet, insbesondere in den KI-Prompt-Protokoll und Ereignisprotokoll für Bot-Agent Versionen 22.100.xx oder später.
Korrektur für ein Problem, bei dem Sie fälschlicherweise eine Benachrichtigung über ein Bot-Agent-Update für AI-Governance-Auditprotokolle erhalten. Zuvor erschien diese Benachrichtigung fälschlicherweise in den Einstellungen Administration > Einstellungen > KI-Datenverwaltung > Datenprotokollierungseinstellungen und KI-Governance-Protokollen ( KI-Prompt-Protokoll und Ereignisprotokoll), selbst bei Verwendung kompatibler Bot-Agent-Versionen (22.60.10 und höher).
Behebung eines Problems, das Sie daran hindert, ap-southeast-2 als Region hinzuzufügen, während Sie eine Modellverbindung erstellen. Bisher wurde die Region bei Eingabe von ap-southeast-2 nicht korrekt hinzugefügt.

Service Cloud-Fall-ID: 02175254
Behebung eines Problems, das Sie daran hindert, eine Modellverbindung zu erstellen, wenn Sie Automation Anywhere Enterprise Knowledge verwenden. Zuvor schlug der Versuch, die Modellverbindung zu erstellen, fehl.

Service Cloud-Fall-ID: 02204046

Einschränkungen

Ordner KI-Schutzvorrichtungen zuweisen
  • KI-Schutzvorrichtungen kann nur übergeordneten Ordnern zugewiesen werden. Unterordner innerhalb des übergeordneten Ordners erben keine oder haben keine spezifischen Schutzvorrichtungszuweisungen.
  • Wenn ein übergeordneter Bot einen untergeordneten Bot aufruft, der sich in einem anderen Ordner befindet, wird die Schutzvorrichtungsrichtlinie des Ordners des übergeordneten Bots angewendet.
Datei nicht gefunden Fehler auf der Startseite der Schutzvorrichtungen:

In dieser Version kann beim Versuch, die Schutzvorrichtungs-Startseite aufzurufen, ein Datei nicht gefunden-Fehler auftreten. Dies tritt auf, wenn Ihnen die Berechtigung zum Anzeigen von Inhalten für einen Ordner fehlt, dem eine Schutzvorrichtung zugewiesen ist, unabhängig davon, ob diese Schutzvorrichtung von Ihnen oder einem anderen Nutzer erstellt wurde oder ob sie Ihnen direkt zugewiesen ist. Diese Einschränkung verhindert die allgemeine Navigation und Verwaltung von Schutzvorrichtungen.
Beim Klicken auf einen Modellnamen, der Sonderzeichen enthält (wie "*", "?", "+", "=", "&&", "||", ">", "<", "!", "(", ")", "{", "}", "[", "]", "^", "~", ":" oder Wörter, die in Anführungszeichen stehen) im KI-Governance-Dashboard-Tab auf dem Startbildschirm, wird eine Fehlermeldung angezeigt, die dem folgenden Screenshot ähnelt. Dies tritt auf, weil die Suchfunktion im KI-Governance-Dashboard derzeit diese Sonderzeichen nicht unterstützt.

Fehlermeldung beim Klicken auf Modellname mit Sonderzeichen

Das Feld Ordner innerhalb der Dateieigenschaften einer KI-Fähigkeit oder einer KI-Fähigkeiten-Vorlage funktioniert derzeit nicht wie vorgesehen. Das Ändern des Ordnerstandorts in diesem Bildschirm verschiebt die KI-Fähigkeit oder die KI-Fähigkeiten-Vorlage nicht tatsächlich an den angegebenen Ort, wenn die Änderungen gespeichert werden.
Das Testen mit KI-Schutzvorrichtung ist für die System-Prompt in der nicht verfügbarKI-Fähigkeiten

Der Test mit der KI-Schutzvorrichtung wird derzeit im KI-Fähigkeitenen-Editor für Systemaufforderungen nicht unterstützt. Während Schutzvorrichtungen bei System-Eingabeaufforderungen korrekt funktionieren, wenn sie innerhalb von Automatisierungen verwendet und zur Laufzeit ausgeführt werden. Das bedeutet, dass Sie die Anwendung von Schutzvorrichtungen auf System-Eingabeaufforderungen während der Entwicklungsphase der KI-Fähigkeit nicht direkt testen können. Diese Einschränkung betrifft nur das Testen mit KI-Schutzvorrichtungen.
KI-Fähigkeit API-Aufgabe Protokollierungsproblem

KI-Fähigkeit Ausführungen, die über On-Demand-API-Aufgaben ausgelöst werden, protokollieren keine Antworten im KI-Governance-Ereignisprotokoll. Hinzufügen einer Verzögerungsaktion von mindestens 1 Sekunde nach der KI-Fähigkeit: Die Ausführung von Aktionen für alle On-Demand-API-Aufgabe-Ausführungen ist eine aktuelle temporäre Lösung, um dieses Protokollierungsproblem zu beheben.


KI-FähigkeitProblem bei der Protokollierung der Ausführung von im Zusammenhang mit On-Demand-API-Aufgaben

Aktualisierungen der Schnittstelle

KI-Schutzvorrichtungen
Ein neues Navigationsmenü wird eingeführt, um auf KI-Schutzvorrichtungen zuzugreifen:

Neue Navigation zum Zugriff auf KI-Schutzvorrichtungen

KI-Schutzvorrichtungen