Grounded-Modellverbindungen mit Google Vertex AI-RAG-Fähigkeit erstellen

Verwenden Sie die Fähigkeit Google Vertex AI RAG (Retrieval Augmented Generation), um Grounding durch Data Store Modellverbindungen zu erstellen, um genaue und kontextuell relevante Informationen zu generieren, die aus Google Data Source referenziert werden.

Anmerkung:

Google Vertex AI Grounding durch Data Store Modellverbindungen ist jetzt auch in der Automation 360 v34-Version auf Cloud verfügbar. In Cloud und Lokal können Sie diese Funktion nutzen.

Google Data Store mit aktivierter Dokument-Chunking-Funktion wird jetzt unterstützt, um optimale Ergebnisse bei der Automatisierungsausführung zu gewährleisten. Sie können die Dokumentaufteilung im Google Data Store aktivieren, um Google Vertex AI- Grounded-Modelle in AI Agent Studio zu verwenden.

Wir bieten Ihnen jetzt die Möglichkeit, Grounding durch Data Store Modellverbindungen mit dem Agent Builder-Dienst zu erstellen. Eine Suchanfrage auf dem Google Data Store ruft relevante Inhalte aus großen Datensätzen ab und leitet sie an das Modell weiter, um eine genaue Antwort zu generieren.

Während einer Automatisierungsausführung wird mit Modellverbindungen, die mit Grounding durch Data Store erstellt wurden, die Antwort abgerufen, indem Google Data Source in Google Data Store referenziert wird. Dadurch erhalten Sie eine optimierte Reaktion des relevanten Inhalts mit höherer Genauigkeit. Grounding ist ein wichtiger Aspekt bei der Verwendung eines grundlegenden Modells, da sie verankerte Antworten auf Basis von Organisationsdaten liefert und Ungenauigkeiten in den Antworten sowie Halluzinationen des Modells verhindert.
Anmerkung: Um die Google Vertex AI RAG-Funktion in AI Agent Studio zu verwenden, müssen Sie zuerst eine Datenquelle in Agent Builder erstellen. Dann erstellen Sie eine Modellverbindung mit der Option Grounding durch Data Store.

Siehe: Datenspeicher in Google Vertex AI .

Vorbereitungen

Der Automatisierungsadministrator benötigt diese Rollen und Berechtigungen zum Erstellen und Verwalten von Modellverbindungenen für seine Unternehmensorganisation.
  • Rolle: AAE_Basic, benutzerdefinierte Rolle Automatisierungsadministrator
  • Berechtigung: Beaufsichtigter Bot Runner
  • Einstellungen: KI-Datenverwaltung muss vom Automatisierungsadministrator aktiviert und das Kontrollkästchen für die Option Nutzern das Deaktivieren von Protokollen für KI-Fähigkeiten erlauben ausgewählt werden.

Siehe Rollen und Berechtigungen für KI-Werkzeuge für die benutzerdefinierten Rollenberechtigungen des Automatisierungsadministrators.

Sonstige Anforderungen:
  • Wie bereits erwähnt, würden Sie zunächst eine Google Data Source erstellen, um eine Grounding durch Data Store Modellverbindung zu erstellen und es erfolgreich in einer KI-Fähigkeit zu verwenden. Einzelheiten finden Sie unter .Datenspeicher und Erstellen von Vertex-Datenspeichers.
  • Wenn Sie Authentifizierungsdetails in einem Credential Vault speichern möchten, halten Sie diese Informationen bereit. Einzelheiten finden Sie unter Sicherer Anmeldedatenspeicher mit dem Credential Vault.
  • Um eine Modellverbindung zu testen, müssen Sie mit einem Bot-Agent 22.60.10 oder später verbunden sein. Im Rahmen des Tests müssten Sie den Bot auf Ihrem Desktop ausführen. Stellen Sie daher sicher, dass der Bot-Agent für Ihren Nutzer konfiguriert ist. Wenn Sie für diese Aufgabe die Verbindung zu einem anderen Control Room wechseln müssen, siehe: Umschalten der Geräteregistrierung zwischen Control Room-Instanzen.
  • Sie benötigen Zugriff auf das Recorder Paket und das KI-Fähigkeiten Paket, um die Verbindung erfolgreich zu testen. Es wird eine Test-Prompt durchgeführt, um die Modellverbindung zu testen.

Prozedur

  1. Navigieren Sie in Ihrer Control Room-Umgebung zu KI > Modellverbindungen > Modellverbindung erstellen.
  2. Im Bildschirm Modellverbindung erstellen konfigurieren Sie diese Verbindungseinstellungen:
    Erstellen Sie Grounded Modellverbindungen mit der Google Vertex AI RAG-Fähigkeit
    Sie können den Modellnamen manuell in das Feld Modell auswählen oder ein benutzerdefiniertes erstellen eingeben. Der eingegebene Name wird zur Erstellung der Modellverbindung verwendet.
    1. Name der Modellverbindung: Geben Sie einen Namen zur einfachen Identifizierung des Modellverbindung an.
    2. Beschreibung (optional): Fügen Sie eine aussagekräftige Kurzbeschreibung der Verbindung hinzu.
    3. Anbieter auswählen: Wählen Sie einen Anbieter eines Basismodells aus der Liste der unterstützten Anbieter aus. Um eine Grounding durch Data Store Modellverbindung mit Google Vertex AI zu erstellen, wählen Sie Google Vertex AI aus der Dropdown-Liste aus.
    4. Wählen Sie einen Typ aus: Wählen Sie Grounding durch Data Store, um die RAG-Funktion für Google Vertex AI zu nutzen.
    5. Modell wählen oder ein benutzerdefiniertes erstellen: Wählen Sie ein Modell aus der Dropdown-Liste aus.
      Zusätzlich unterstützen wir auch andere Modelle aus dem Google Data Store, die nicht in der Dropdown-Liste verfügbar sind. Wenn Sie ein Modell aus dem Google Data Store hinzufügen möchten, müssen Sie den Modellnamen und die Version zusammen mit der vollständigen URI des Modells eingeben. Beispiel: Wenn das Modell Gemini 1.5 Flash 001 ist, wäre das Format gemini-1.5-001/answer_gen/v1.
      Eine vollständige Liste der unterstützten Modelle für jeden Anbieter von grundlegenden Modellen finden Sie unter .
    6. Klicken Sie auf Weiter, um zum Abschnitt Authentifizierungsdetails zu gelangen.
  3. Gehen Sie im Bereich Authentifizierungsdetails wie folgt vor, um diese Einstellungen zu konfigurieren:
    1. Projektname: Dies ist das Google-Cloud-Konto-Projekt.
    2. Region: Wählen Sie eine Region aus der Dropdown-Liste für die Verbindung zur Authentifizierung der Modellverbindung. Sie können auch Ihre eigene Region hinzufügen, die Sie konfiguriert haben, als Sie eine Datenquelle im Agent Builder erstellt haben.
      Einzelheiten finden Sie unter .Erstellen Sie einen Datenspeicher. .
    3. Kontrollraum-OAuth-Verbindung: Erstellen Sie eine OAuth 2.0-Client-ID. Eine Client-ID wird verwendet, um eine einzelne Anwendung gegenüber den OAuth-Servern von Google zu identifizieren.
    4. Nachdem Sie die Authentifizierungsdetails eingerichtet haben, bestätigen Sie und klicken Sie auf Weiter, um zum Abschnitt Verbindung testen zu gelangen, um die Modellverbindung zu testen.
    Anmerkung: Einzelheiten zum Einrichten des Google Cloud-Projekts und der Control Room-OAuth-Verbindung für Google Vertex AI finden Sie unter Vertex AI: Aktion „Verbinden“.
  4. Klicken Sie auf Verbindung testen, um sicherzustellen, dass alle Verbindungsdetails korrekt definiert wurden, und um zu prüfen, ob die Verbindung funktioniert.
    Dies ist ein Desktopvorgang unter Verwendung eines Bot-Agent. Verwenden Sie Bot-Agent 22.60.10 und höher für erfolgreiche Tests.
    • Wenn die Verbindung wie erwartet funktioniert, verarbeitet das System die Anfrage, und Sie erhalten eine vom System generierte Erfolgsmeldung.
    • Wenn die Verbindung nicht wie erwartet funktioniert, erhalten Sie eine vom System generierte Meldung, die den Grund für den Verbindungsfehler angibt. Wenn Sie zum Beispiel das unterstützte Basismodell-Paket nicht in Ihren Arbeitsbereich heruntergeladen haben, erhalten Sie eine Fehlermeldung. In diesem Fall müssen Sie das Paket herunterladen und die Modellverbindung erneut testen.
    • Wenn der Test einer Modellverbindung nicht erfolgreich ist oder wenn Sie die Aufgabe unvollständig lassen, wird die Modellverbindung nicht gespeichert, und Sie müssen den Prozess der Erstellung der Modellverbindung neu starten.
  5. Klicken Sie auf Weiter, um zum Abschnitt Rollen einladen zu gelangen und mit der Zuweisung benutzerdefinierter Rollen zu Benutzern zu beginnen.
    Der Automatisierungsadministrator erstellt benutzerdefinierte Rollen und weist die Modellverbindungen der Rolle zu, die dann den Nutzern zugewiesen werden kann. Nur Nutzer, die dieser benutzerdefinierten Rolle zugewiesen sind, können diese Modellverbindung nutzen.
  6. Weisen Sie die Modellverbindung der benutzerdefinierten Rolle (mithilfe von RBAC) zu, damit Nutzer, die der Rolle zugewiesen sind, darauf zugreifen können.
  7. Klicken Sie auf Modellverbindung erstellen, um die Erstellung der Modellverbindung abzuschließen.
    Nach der erfolgreichen Erstellung der Modellverbindung würde der Pro-Entwickler diese verwenden, um eine KI-Fähigkeit zu erstellen.

    Siehe: Create KI-Fähigkeiten with Grounding durch Data Store Modellverbindungen

    .

Nächste Maßnahme

Nach dem Erstellen und Testen der Modellverbindung weisen Sie sie den professionellen Entwicklern zu, die diese Verbindung nutzen, um KI-Fähigkeiten zu erstellen.

Gehen Sie als nächsten Schritt in Ihrer Aufgabenabfolge zu Create KI-Fähigkeiten with Grounding durch Data Store Modellverbindungen und erstellen Sie ein KI-Fähigkeit und verbinden Sie sich mit einem Grounding durch Data Store Modellverbindung, um es in einer Automatisierung zu verwenden.