Mithilfe benutzerdefinierter Modelldefinitionen können Sie externe generative KI-Modelle integrieren und nutzen, die auf unterschiedlichen Plattformen in verschiedenen Umgebungen gehostet werden, darunter Lokal-Infrastrukturen, Private Clouds und öffentliche Cloud-Plattformen.

Mit den benutzerdefinierten Modell-APIs können Sie sich mit jedem REST API-kompatiblen Modell verbinden, was Ihnen die Möglichkeit gibt, auf eine breitere Palette von KI-Lösungen zuzugreifen.

Der Bedarf an benutzerdefinierten Modellen

Die rasante Weiterentwicklung von generative KI-Technologien hat dazu geführt, dass eine Vielzahl von grundlegenden Modellen verfügbar ist, von denen jedes seine eigenen Stärken und Spezialisierungen hat. Automation Anywhere bietet zwar eine Auswahl an vorintegrierten Modellen in AI Agent Studio, aber es kann auch notwendig sein, andere Modelle zu nutzen, und zwar aus folgenden Gründen:

Spezialisierte Modelle

Sie haben Modelle entwickelt oder erworben, die auf spezifischen Datensätzen trainiert oder für einzigartige Aufgaben abgestimmt sind, die für Ihre geschäftlichen Anforderungen relevant sind.

Datensicherheit und -residenz

Organisationen mit strengen Datensicherheitsrichtlinien oder regulatorischen Anforderungen müssen möglicherweise Modelle verwenden, die in ihren eigenen sicheren Umgebungen gehostet werden, wie z. B. On-Premises-Infrastruktur oder private Clouds.

Nutzung vorhandener Investitionen

Organisationen, die bereits in die Entwicklung und Bereitstellung von KI-Modellen auf Plattformen investiert haben, können davon profitieren, diese Modelle direkt in ihre Automation Anywhere-Arbeitsabläufe zu integrieren.

Benutzerdefinierte Modell-APIs

Um hier Abhilfe zu schaffen, hat Automation Anywhere benutzerdefinierte Modell-APIs entwickelt, um benutzerdefinierte generative KI-Modelle zu definieren und mit ihnen zu verbinden. Diese API registriert Informationen über das Modell, einschließlich Anbieter, Name, Authentifizierungsmechanismus, Eingabeparameter und Ausgabezuordnung, innerhalb der Control Room-Datenbank.


Benutzerdefinierte Modell-API
Die folgenden vier APIs, die zur Verwaltung benutzerdefinierter Modelle in AI Agent Studio entwickelt wurden, umfassen:
  1. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel
    • Diese API erstellt eine neue benutzerdefinierte Modelldefinition.
    • Es erfordert ein JSON-Payload-Schema, das Informationen über das Modell enthält. Das Schema definiert Attribute wie den Namen des Anbieters, den Namen des spezifischen Modells, Authentifizierungsprotokolle, Details zum API-Endpunkt (einschließlich Pfadparameter, Abfrageparameter und erforderliche Header) sowie die Struktur der Anforderungs- und Antwortkörper.
    • Mit der API können Nutzer, Variablen innerhalb der Anforderungs- und Antwortkörper definieren, die zur Laufzeit dynamisch befüllt werden können. Diese Variablen können mithilfe spezifischer Anmerkungen für verschiedene Zwecke bestimmt werden:
      • PROMPT_EINGABE (Verpflichtend): Diese Anmerkung bedeutet, dass die entsprechende Variable durch die vom Nutzer auf der Seite KI-Fähigkeiten bereitgestellte Eingabe ersetzt werden sollte. Dies ist wesentlich, um Benutzereingabeaufforderungen an das Modell weiterzugeben.
      • ANFORDERUNGS_PARAMETER (Verpflichtend): Diese Anmerkung gibt an, dass die Variable als konfigurierbarer Parameter auf der Seite Modellverbindungen angezeigt werden soll.
      • MODELL_PARAMETER : Ähnlich wie ANFRAGE_PARAMETER kennzeichnet diese Anmerkung die Variable zur Konfiguration auf der KI-Fähigkeiten-Seite.
      • ANTWORT_PARAMETER (Verpflichtend): Diese Anmerkung bedeutet, dass die Variable in der Antwort des KI-Modells zurückgegeben wird.
    • Die API gibt eine 200 OK-Antwort mit dem erstellten Modell bei erfolgreicher Erstellung zurück.
  2. GET https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Diese API ruft die Definition der vorhandenen benutzerdefinierten Modelle ab.
    • Es erfordert den Anbieternamen (vendorName) und den Modellnamen (modelName) als Pfadparameter.
    • Die API gibt eine 200 OK -Antwort zurück, die die Objekte enthält, die das angeforderte Modell repräsentieren.
  3. DELETE https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Diese API löscht ein vorhandenes benutzerdefiniertes Modell.
    • Ähnlich wie die GET-API verwendet sie (vendorName) und (modelName) als Pfadparameter, um das Zielmodell zu identifizieren.
      Anmerkung: Das Modell kann nur gelöscht werden, wenn es derzeit nicht mit einer aktiven Modellverbindungen verbunden ist. Dies bedeutet, dass Sie zuerst alle KI-Fähigkeiten und TaskBots, die von Modellverbindung abhängen, entfernen müssen, bevor Sie versuchen, die Modelldefinition zu löschen.
    • Die API gibt eine 204 No Content Antwort bei erfolgreicher Löschung zurück.
  4. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/list
    • Diese API ruft eine Liste aller benutzerdefinierten Modelle ab, die für alle Anbieter innerhalb des Control Rooms definiert sind.
    • Sie akzeptiert einen optionalen Anfragekörper, der ein FilterRequest-Objekt enthält, sodass Nutzer die Ergebnisse basierend auf bestimmten Kriterien filtern können.
    • Die API gibt eine 200 OK-Antwort mit Objekten zurück, die die angeforderten Modelle enthalten.

Weitere Informationen zu diesen APIs finden Sie unter AI Agent Studio API. Laden Sie hier eine Postman-Sammlung für AI Agent Studio – benutzerdefinierte Modelldefinitionen, die Beispiel-API-Aufrufe enthalten, um eine Verbindung zu den benutzerdefinierten Modellen herzustellen.