Crear Conexiones del modelo Grounded con capacidad de Azure OpenAI RAG

Cree Conexiones del modelo Basado en la búsqueda de IA utilizando la capacidad nativa de RAG (generación aumentada por recuperación) de Azure OpenAI para construir experiencias de búsqueda enriquecidas que combinen modelos de lenguaje grandes con datos empresariales de Búsqueda de IA de Azure.

Ahora puede integrar un servicio de Búsqueda de IA de Azure con el servicio de Azure OpenAI para crear una solución RAG. Esto permite que los LLM ofrezcan respuestas más informadas y relevantes en el contexto al recuperar información de sus propios datos.

Antes de empezar

Debe configurar lo siguiente dentro del portal Azure OpenAI:
  • Configuración del servicio Búsqueda de IA de Azure: Esto implica crear el servicio de búsqueda de IA en el portal de Azure OpenAI. Esto incluye configurar la URL del punto de acceso del servicio, las claves API y crear el índice.
  • Asimilación e indexación de datos: Los documentos se cargan en una fuente de datos, como un almacenamiento de blobs, y luego se crea el índice utilizando los archivos en el almacenamiento. Los documentos se dividen en fragmentos y el contenido se vectoriza utilizando el modelo de incrustación si la búsqueda vectorial está habilitada.

Antes de empezar

El administrador de automatización requiere estos roles y permisos con el fin de crear y administrar Conexiones del modelo para su organización empresarial.
  • Rol: AAE_Basic, rol personalizado del administrador de automatización
  • Permiso: Bot Runner asistido
  • Configuración: El administrador de automatización debe habilitar la Administración de datos de IA y debe seleccionar la casilla de verificación Permitir que los usuarios deshabiliten los registros en las habilidades de IA. Permita a los usuarios con la licencia de Bot Creator desactivar el registro de datos al usar Habilidades de IA para habilitar el interruptor Registro de datos en la pantalla Habilidades de IA.

Consulte Roles y permisos para Herramientas de la IA para los permisos de rol personalizado del administrador de automatización.

Otros requisitos:

  • Como se mencionó anteriormente, primero tendría que crear una Búsqueda de IA de Azure para crear una Conexión del modelo Basado en la búsqueda de IA y usarla con éxito en una Habilidad de IA.
  • Si desea almacenar detalles de autenticación en una bóveda de credenciales, tenga esa información a mano. Consulte Almacenamiento seguro de credenciales en Credential Vault.
  • Para probar una Conexión del modelo, debe estar conectado a un Agente de bot 22.60.10 y posteriores. Como parte de la prueba, tendría que ejecutar el bot en su escritorio. Por lo tanto, asegúrese de que Agente de bot está configurado para su usuario. Para esta tarea, si tiene que cambiar la conexión a otra Control Room, consulte: Cambiar el registro del dispositivo entre las instancias de Control Room.
  • Necesitaría acceso al paquete de Habilidades de IA para probar la conexión con éxito. El Indicación de prueba se ejecutaría para probar la Conexión del modelo.

Procedimiento

  1. En el entorno de la Control Room, vaya a IA > Conexiones de modelo > Crear conexión de modelo.
  2. En la pantalla Crear conexión de modelo, configurará esta configuración de conexión:
    Crear Conexiones del modelo Grounded con la capacidad RAG de Azure OpenAI
    Puede ingresar el nombre del modelo de manera manual en el campo Elegir un modelo o crear uno personalizado. El nombre que ingrese se usará para crear la Conexión del modelo.
    1. Nombre de conexión del modelo: Proporcione un nombre para identificar fácilmente la Conexión del modelo.
    2. Descripción (opcional): Agregue una breve descripción significativa que defina la conexión.
    3. Elija un proveedor: Elija un proveedor de modelo fundamental de la lista de proveedores admitidos. Para crear una Conexión del modelo Basado en la búsqueda de IA con Azure OpenAI, seleccionaría Azure OpenAI de la lista desplegable.
    4. Elegir un tipo: Elija Basado en la búsqueda de IA para usar la capacidad de RAG.
    5. Elija un modelo o cree uno personalizado: Elija un modelo de la lista desplegable de modelos validados de Azure OpenAI.
      Además, también hay otros modelos disponibles de Azure OpenAI que son compatibles, que no están disponibles en la lista desplegable.
      Para obtener una lista completa de los modelos compatibles de cada proveedor de modelos fundamentales, consulte .
    6. Haga clic en Siguiente para pasar a la sección Detalles de autenticación.
  3. En la sección Detalles de autenticación, configure estos ajustes:
    1. Nombre del recurso Azure OpenAI: Escriba el nombre de su recurso Azure OpenAI.
    2. ID de implementación: Ingrese el ID de implementación del modelo que desea usar.
    3. Clave de API: Ingrese la clave API para su servicio de Azure OpenAI.
    4. URL del servicio de búsqueda de IA: La URL de su servicio Búsqueda de IA de Azure implementado. Este es el punto de acceso a través del cual se accede al servicio de búsqueda.
    5. Nombre del índice de búsqueda de IA: El nombre del índice dentro del servicio Búsqueda de IA de Azure que contiene sus datos. Aquí es donde se almacenan los documentos que se van a buscar.
    6. Clave de API de búsqueda de IA: la clave de API para su servicio Búsqueda de IA de Azure. Esta clave es necesaria para autenticar el acceso al servicio de búsqueda.
    7. Nombre de implementación del modelo de incrustación de búsqueda de IA: El nombre del modelo de incrustación que se ha implementado en Azure. Este modelo se utiliza para convertir texto en representaciones vectoriales que se usan para la búsqueda semántica.
    8. Haga clic en Siguiente para pasar a la sección Probar conexión.
  4. Haga clic en Probar conexión para asegurarse de que todos los detalles de la conexión se hayan definido correctamente y verifique si la conexión está funcionando.
    Esta es una operación de escritorio que utiliza un Agente de bot. Utilice Agente de bot 22.60.10 y versiones posteriores para realizar pruebas exitosas.
    • Si la conexión funciona como se esperaba, el sistema procesará la solicitud y usted recibirá un mensaje de éxito generado por el sistema.
    • Si la conexión no funciona como se esperaba, recibirá un mensaje generado por el sistema donde se indica el motivo del error de conexión. Por ejemplo, si no ha descargado en su espacio de trabajo el paquete de modelos fundamentales compatible, recibirá un mensaje de error. Tendría que descargar el paquete y, luego, volver a probar la Conexión del modelo.
    • Si la prueba de una Conexión del modelo no tiene éxito o si deja la tarea incompleta, la Conexión del modelo no se guardará y tendrá que reiniciar el proceso de creación de la Conexión del modelo.
  5. Haga clic en Siguiente para pasar a la sección Invitar roles para comenzar a asignar roles personalizados a los usuarios.
    El administrador de automatización crearía roles personalizados y asignaría las Conexiones del modelo al rol, que luego se pueden asignar a los usuarios. Solo los usuarios asignados a este rol personalizado pueden usar esta Conexión del modelo.
  6. Asigne acceso al desarrollador profesional a través de un rol personalizado (usando RBAC) para usar esta Conexión del modelo para crear una Habilidad de IA.
  7. Haga clic en Crear conexión de modelo para completar la creación de la Conexión del modelo.
    Después de crear con éxito la Conexión del modelo, el desarrollador profesional la usaría para crear una Habilidad de IA.

Qué hacer a continuación

Después de crear y probar la Conexión del modelo, la asignaría a los desarrolladores profesionales, quienes usarían estas conexiones para crear Habilidades de IA.
Nota: Cuando crea o prueba una Habilidad de IA en la pantalla Habilidad de IA, los detalles de éxito o falla junto con las respuestas del modelo se pueden ver en estas pantallas de navegación:
  • Administración > Gobernanza de IA > Registro de indicaciones de IA
  • Administración > Gobernanza de IA > Registro de eventos
  • Administración > Registro de auditoría

Consulte Gobernanza de IA.