Benutzerdefinierte Modelldefinitionen

Mithilfe benutzerdefinierter Modelldefinitionen können Sie externe generative KI-Modelle integrieren und nutzen, die auf unterschiedlichen Plattformen in verschiedenen Umgebungen gehostet werden, darunter Lokal-Infrastrukturen, Private Clouds und öffentliche Cloud-Plattformen.

Mit den benutzerdefinierten Modell-APIs können Sie sich mit jedem REST API-kompatiblen Modell verbinden, was Ihnen die Möglichkeit gibt, auf eine breitere Palette von KI-Lösungen zuzugreifen.

Der Bedarf an benutzerdefinierten Modellen

Die rasante Weiterentwicklung von generative KI-Technologien hat dazu geführt, dass eine Vielzahl von grundlegenden Modellen verfügbar ist, von denen jedes seine eigenen Stärken und Spezialisierungen hat. Automation Anywhere bietet zwar eine Auswahl an vorintegrierten Modellen in AI Agent Studio, aber es kann auch notwendig sein, andere Modelle zu nutzen, und zwar aus folgenden Gründen:

Spezialisierte Modelle

Sie haben Modelle entwickelt oder erworben, die auf spezifischen Datensätzen trainiert oder für einzigartige Aufgaben abgestimmt sind, die für Ihre geschäftlichen Anforderungen relevant sind.

Datensicherheit und -residenz

Organisationen mit strengen Datensicherheitsrichtlinien oder regulatorischen Anforderungen müssen möglicherweise Modelle verwenden, die in ihren eigenen sicheren Umgebungen gehostet werden, wie z. B. On-Premises-Infrastruktur oder private Clouds.

Nutzung vorhandener Investitionen

Organisationen, die bereits in die Entwicklung und Bereitstellung von KI-Modellen auf Plattformen investiert haben, können davon profitieren, diese Modelle direkt in ihre Automation Anywhere-Arbeitsabläufe zu integrieren.

Benutzerdefinierte Modell-APIs

Um hier Abhilfe zu schaffen, hat Automation Anywhere benutzerdefinierte Modell-APIs entwickelt, um benutzerdefinierte generative KI-Modelle zu definieren und mit ihnen zu verbinden. Diese APIs funktionieren, indem sie Informationen über das Modell, einschließlich dessen Anbieter, Name, Authentifizierungsmechanismus, Eingabeparameter und Ausgabemapping, in die Datenbank einer Control Room-Instanz einspeisen.


Benutzerdefinierte Modell-API
Die folgenden vier APIs, die zur Verwaltung benutzerdefinierter Modelle in AI Agent Studio entwickelt wurden, umfassen:
  1. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel
    • Diese API erstellt eine neue benutzerdefinierte Modelldefinition.
    • Es erfordert ein JSON-Nutzlastschema, das Informationen über das Modell kapselt. Das Schema definiert Attribute wie den Namen des Anbieters, den Namen des spezifischen Modells, Authentifizierungsprotokolle, API-Endpunktdetails (einschließlich Pfadparameter, Abfrageparameter und erforderliche Header) sowie die Struktur der Anfrage- und Antwortkörper.
    • Mit dieser API definieren Nutzer die Variablen innerhalb der Anfrage und Antwortkörper, die zur Laufzeit dynamisch befüllt werden können. Diese Variablen können für verschiedene Zwecke mithilfe von spezifische Anmerkungen verwendet werden:
      • PROMPT_QUERY : Diese Anmerkung bedeutet, dass die entsprechende Variable mit der Eingabeaufforderung, die vom Nutzer auf der Seite KI-Fähigkeiten bereitgestellt wurde, ersetzt werden sollte. Dies ist entscheidend für die Weitergabe der Nutzereingabeaufforderungen an das Modell.
      • Die Annotation REQUEST_PARAMETER : Dies gibt an, dass die Variable als ein konfigurierbarer Parameter auf der Modellverbindungen-Seite exponiert werden soll.
      • MODEL_PARAMETER : Ähnlich wie REQUEST_PARAMETER bezeichnet diese Annotation die Variable für die Konfiguration auf der Seite KI-Fähigkeiten.
      • Die Annotation RESPONSE_PARAMETER : Dies bedeutet, dass die Variable in der Antwort des KI-Modells zurückgegeben wird.
    • Die API gibt eine 200 OK-Antwort mit dem erstellten Modell nach erfolgreicher Erstellung zurück.
  2. GET https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Diese API ruft die Definition eines vorhandenen benutzerdefinierten Modells ab.
    • Es erfordert den Namen des Anbieters (vendorName) und den Modellname (modelName) als Pfadparameter.
    • Die API gibt eine 200 OK Antwort zurück, die die Objekte, die das angeforderte Modell darstellen, enthält.
  3. DELETE https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Diese API löscht ein vorhandenes benutzerdefiniertes Modell.
    • Ähnlich wie die GET API verwendet es (vendorName) und (modelName) als Pfadparameter zur Identifizierung des Zielmodells.
      Anmerkung: Das Modell kann nur gelöscht werden, wenn es derzeit nicht mit einer aktiven Modellverbindungen verbunden ist. Das bedeutet, dass Sie zuerst jede KI-Fähigkeiten und jeden TaskBots entfernen müssen, die sich auf die Modellverbindung verlassen, bevor Sie versuchen, die Modelldefinition zu löschen.
    • Die API gibt eine 204 No Content Antwort nach erfolgreicher Löschung zurück.
  4. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/list
    • Diese API ruft eine Liste aller benutzerdefinierten Modelle ab, die für alle Anbieter innerhalb des Control Room definiert sind.
    • Es akzeptiert einen optionalen Anfragekörper, der ein FilterRequest-Objekt enthält, das es Nutzern ermöglicht, die Ergebnisse basierend auf spezifischen Kriterien zu filtern.
    • Die API gibt eine 200 OK-Antwort mit Objekten zurück, die die angeforderten Modelle enthalten.

Weitere Informationen zu diesen APIs finden Sie unter AI Agent Studio API. Laden Sie hier eine Postman-Sammlung für AI Agent Studio – benutzerdefinierte Modelldefinitionen, die Beispiel-API-Aufrufe enthalten, um eine Verbindung mit den benutzerdefinierten Modellen herzustellen.