Erstellen Sie Grounding durch AI Search Modellverbindungen unter Verwendung der nativen RAG-Funktion (Retrieval Augmented Generation) von Azure OpenAI, um umfassende Sucherlebnisse zu gestalten, die große Sprachmodelle mit Unternehmensdaten von Azure AI Search kombinieren.

Sie können jetzt einen Azure AI Search-Dienst mit dem Azure OpenAI-Dienst integrieren, um eine RAG-Lösung zu erstellen. Dadurch können die LLMs fundiertere und kontextuell relevantere Antworten geben, indem sie Informationen aus Ihren eigenen Daten abrufen.

Vorbereitungen

Im Azure OpenAI-Portal müssen Sie Folgendes einrichten:
  • Azure AI Search-Dienstkonfiguration: Dies beinhaltet die Erstellung des KI-Suchdienstes im Azure OpenAI-Portal. Dies umfasst das Einrichten der Service-Endpunkt-URL, der API-Schlüssel und das Erstellen des Index.
  • Datenaufnahme und -indexierung: Dokumente werden in eine Datenquelle hochgeladen, wie z. B. einen Blob-Speicher, und dann wird der Index unter Verwendung der Dateien im Speicher erstellt. Die Dokumente werden in Abschnitte unterteilt, und der Inhalt wird mit dem Einbettungsmodell vektorisiert, wenn die Vektorsuche aktiviert ist.

Vorbereitungen

Der Automatisierungsadministrator benötigt diese Rollen und Berechtigungen zum Erstellen und Verwalten von Modellverbindungenen für seine Unternehmensorganisation.
  • Rolle: AAE_Basic, benutzerdefinierte Rolle Automatisierungsadministrator
  • Berechtigung: Beaufsichtigter Bot Runner
  • Einstellungen: KI-Datenverwaltung muss vom Automatisierungsadministrator aktiviert und das Kontrollkästchen für Benutzern das Deaktivieren von Protokollen für KI-Fähigkeiten erlauben ausgewählt werden. Erlauben Sie Nutzern mit der Bot Creator-Lizenz, die Datenprotokollierung beim Verwenden von KI-Fähigkeiten zu deaktivieren, um den Datenprotokollierung-Schalter im KI-Fähigkeiten-Bildschirm zu aktivieren.

Siehe Rollen und Berechtigungen für KI-Werkzeuge für die benutzerdefinierten Rollenberechtigungen des Automatisierungsadministrators.

Sonstige Anforderungen:

  • Wie bereits erwähnt, würden Sie zunächst eine Azure AI Search erstellen, um eine Grounding durch AI Search-Modellverbindung zu erstellen und sie erfolgreich in einer KI-Fähigkeit zu verwenden.
  • Wenn Sie Authentifizierungsdetails in einem Credential Vault speichern möchten, halten Sie diese Informationen bereit. Einzelheiten finden Sie unter Sicherer Anmeldedatenspeicher mit dem Credential Vault.
  • Um eine Modellverbindung zu testen, müssen Sie mit einem Bot-Agent 22.60.10 oder später verbunden sein. Im Rahmen des Tests müssten Sie den Bot auf Ihrem Desktop ausführen. Stellen Sie daher sicher, dass der Bot-Agent für Ihren Nutzer konfiguriert ist. Wenn Sie für diese Aufgabe die Verbindung zu einem anderen Control Room wechseln müssen, siehe: Umschalten der Geräteregistrierung zwischen Control Room-Instanzen.
  • Sie benötigen Zugriff auf das KI-Fähigkeiten-Paket, um die Verbindung erfolgreich zu testen. Es wird eine Test-Prompt durchgeführt, um die Modellverbindung zu testen.

Prozedur

  1. Navigieren Sie in Ihrer Control Room-Umgebung zu KI > Modellverbindungen > Modellverbindung erstellen.
  2. Im Bildschirm Modellverbindung erstellen konfigurieren Sie diese Verbindungseinstellungen:
    Erstellen Sie Grounded Modellverbindungen mit der Azure OpenAI RAG-Fähigkeit
    Sie können den Modellnamen manuell in das Feld Modell auswählen oder ein benutzerdefiniertes erstellen eingeben. Der eingegebene Name wird zur Erstellung der Modellverbindung verwendet.
    1. Name der Modellverbindung: Geben Sie einen Namen zur einfachen Identifizierung des Modellverbindung an.
    2. Beschreibung (optional): Fügen Sie eine aussagekräftige Kurzbeschreibung der Verbindung hinzu.
    3. Anbieter auswählen: Wählen Sie einen Anbieter eines Basismodells aus der Liste der unterstützten Anbieter aus. Um eine Grounding durch AI Search Modellverbindung mit Azure OpenAI zu erstellen, sollten Sie Azure OpenAI aus der Dropdown-Liste auswählen.
    4. Wählen Sie einen Typ aus: Wählen Sie Grounding durch AI Search, um die RAG-Funktion zu nutzen.
    5. Modell wählen oder ein benutzerdefiniertes erstellen: Wählen Sie ein Modell aus der Dropdown-Liste der validierten Modelle von Azure OpenAI aus.
      Zusätzlich unterstützen wir auch andere Modelle aus dem Azure OpenAI, die nicht in der Dropdown-Liste verfügbar sind.
      Eine vollständige Liste der unterstützten Modelle für jeden Anbieter von grundlegenden Modellen finden Sie unter .
    6. Klicken Sie auf Weiter, um zum Abschnitt Authentifizierungsdetails zu gelangen.
  3. Gehen Sie im Bereich Authentifizierungsdetails wie folgt vor, um diese Einstellungen zu konfigurieren:
    1. Azure OpenAI-Ressourcenname: Geben Sie den Namen Ihrer Azure OpenAI-Ressource ein.
    2. Bereitstellungs-ID: Geben Sie die Bereitstellungs-ID des Modells ein, das Sie verwenden möchten.
    3. API Key (API-Schlüssel): Geben Sie den API-Schlüssel für Ihren Azure OpenAI-Dienst ein.
    4. AI Search Service-URL: Die URL Ihres bereitgestellten Azure AI Search-Dienstes. Dies ist der Endpunkt, über den auf den Suchdienst zugegriffen wird.
    5. AI Search-Indexname: Der Indexname innerhalb des Azure AI Search-Dienstes, der Ihre Daten enthält. Hier werden die zu durchsuchenden Dokumente gespeichert.
    6. API-Schlüssel für KI-Suche: Der API-Schlüssel für Ihren Azure AI Search-Dienst. Dieser Schlüssel wird benötigt, um den Zugriff auf den Suchdienst zu authentifizieren.
    7. Name der AI Search-Einbettungsmodellbereitstellung: Der Name des Einbettungsmodells, das in Azure bereitgestellt wurde. Dieses Modell wird verwendet, um Text in Vektordarstellungen umzuwandeln, die für die semantische Suche genutzt werden.
    8. Klicken Sie auf Weiter, um zum Abschnitt Verbindung testen zu gelangen.
  4. Klicken Sie auf Verbindung testen, um sicherzustellen, dass alle Verbindungsdetails korrekt definiert wurden, und um zu prüfen, ob die Verbindung funktioniert.
    Dies ist ein Desktopvorgang unter Verwendung eines Bot-Agent. Verwenden Sie Bot-Agent 22.60.10 und höher für erfolgreiche Tests.
    • Wenn die Verbindung wie erwartet funktioniert, verarbeitet das System die Anfrage, und Sie erhalten eine vom System generierte Erfolgsmeldung.
    • Wenn die Verbindung nicht wie erwartet funktioniert, erhalten Sie eine vom System generierte Meldung, die den Grund für den Verbindungsfehler angibt. Wenn Sie zum Beispiel das unterstützte Basismodell-Paket nicht in Ihren Arbeitsbereich heruntergeladen haben, erhalten Sie eine Fehlermeldung. In diesem Fall müssen Sie das Paket herunterladen und die Modellverbindung erneut testen.
    • Wenn der Test einer Modellverbindung nicht erfolgreich ist oder wenn Sie die Aufgabe unvollständig lassen, wird die Modellverbindung nicht gespeichert, und Sie müssen den Prozess der Erstellung der Modellverbindung neu starten.
  5. Klicken Sie auf Weiter, um zum Abschnitt Rollen einladen zu gelangen und mit der Zuweisung benutzerdefinierter Rollen zu Benutzern zu beginnen.
    Der Automatisierungsadministrator erstellt benutzerdefinierte Rollen und weist die Modellverbindungen der Rolle zu, die dann den Nutzern zugewiesen werden kann. Nur Nutzer, die dieser benutzerdefinierten Rolle zugewiesen sind, können diese Modellverbindung nutzen.
  6. Weisen Sie dem Pro-Entwickler über eine benutzerdefinierte Rolle (mithilfe von RBAC) Zugriff zu, um mit diesem Modellverbindung ein KI-Fähigkeit zu erstellen.
  7. Klicken Sie auf Modellverbindung erstellen, um die Erstellung der Modellverbindung abzuschließen.
    Nach der erfolgreichen Erstellung der Modellverbindung würde der Pro-Entwickler diese verwenden, um eine KI-Fähigkeit zu erstellen.

Nächste Maßnahme

Nach dem Erstellen und Testen der Modellverbindung weisen Sie sie den professionellen Entwicklern zu, die diese Verbindung nutzen, um KI-Fähigkeiten zu erstellen.
Anmerkung: Wenn Sie eine KI-Fähigkeit auf dem Bildschirm AI-Fähigkeit erstellen oder testen, können Sie die Details zum Erfolg oder Fehlschlag zusammen mit den Modellantworten in diesen Navigationsbildschirmen einsehen:
  • Administration > KI-Governance > KI-Eingabeprotokoll
  • Administration > KI-Governance > Ereignisprotokoll
  • Verwaltung > Auditprotokoll

Einzelheiten finden Sie unter KI-Governance.