Crear Conexiones del modelo Grounded con capacidad de Azure OpenAI RAG

Cree Conexiones del modelo Basado en la búsqueda de IA con la capacidad nativa de Generación Aumentada por Recuperación (RAG) de Azure OpenAI para construir experiencias de búsqueda enriquecidas que combinen modelos de lenguaje extenso con datos empresariales de Búsqueda de IA de Azure.

Ahora puede integrar un servicio de Búsqueda de IA de Azure con el servicio de Azure OpenAI para crear una solución RAG. Esto permite que los LLM ofrezcan respuestas más informadas y relevantes en el contexto al recuperar información de sus propios datos.

RAG de Búsqueda de IA de Azure AI Agent Studio

Nota: Debe configurar lo siguiente dentro del portal Azure OpenAI:
  • Configuración del servicio Búsqueda de IA de Azure: Esto implica crear el servicio de búsqueda de IA en el portal de Azure OpenAI. Esto incluye configurar la URL del punto de acceso del servicio, las claves API y crear el índice. Para obtener más información sobre cómo crear una búsqueda de Azure AI Search, consulte Crear un servicio de Azure AI Search en el portal de Azure.
  • Asimilación e indexación de datos: Los documentos se cargan en una fuente de datos, como un almacenamiento de blobs, y luego se crea el índice utilizando los archivos en el almacenamiento. Los documentos se dividen en fragmentos y el contenido se vectoriza utilizando el modelo de incrustación si la búsqueda vectorial está habilitada.

    Al configurar el servicio de Búsqueda de IA de Azure para la integración con Automation 360 Basado en la búsqueda de IA Conexiones del modelo, es esencial configurar el proceso de asimilación e indexación de datos para crear incrustaciones vectoriales. Si bien Búsqueda de IA de Azure admite otros tipos de contenido y configuraciones (como solo texto o solo semántica), la integración de Automation Anywhere está optimizada, principalmente, para admitir el uso de incrustaciones vectoriales que permiten la comprensión semántica y la recuperación.

Antes de empezar

El administrador de automatización requiere estos roles y permisos con el fin de crear y administrar Conexiones del modelo para su organización empresarial.
  • Rol: AAE_Basic, rol personalizado del administrador de automatización
  • Permiso: Bot Runner asistido
  • Configuración: El administrador de automatización debe habilitar la Administración de datos de IA y debe seleccionar la casilla de verificación Permitir que los usuarios deshabiliten los registros en las habilidades de IA. Permita a los usuarios con la licencia de Bot Creator desactivar el registro de datos al usar Habilidades de IA para habilitar el interruptor Registro de datos en la pantalla Habilidades de IA.

Consulte Roles y permisos para Herramientas de la IA para los permisos de rol personalizado del administrador de automatización.

Otros requisitos:

  • Como se mencionó anteriormente, primero tendría que crear una Búsqueda de IA de Azure para crear una Conexión del modelo Basado en la búsqueda de IA y usarla con éxito en una Habilidad de IA.
  • Si desea almacenar detalles de autenticación en una bóveda de credenciales, tenga esa información a mano. Consulte Almacenamiento seguro de credenciales en Credential Vault.
  • Para probar una Conexión del modelo, debe estar conectado a un Agente de bot 22.60.10 y posteriores. Como parte de la prueba, tendría que ejecutar el bot en su escritorio. Por lo tanto, asegúrese de que Agente de bot está configurado para su usuario. Para esta tarea, si tiene que cambiar la conexión a otra Control Room, consulte: Cambiar el registro del dispositivo entre las instancias de Control Room.
  • Necesitaría acceso al paquete de Habilidades de IA para probar la conexión con éxito. El Indicación de prueba se ejecutaría para probar la Conexión del modelo.

Procedimiento

  1. En el entorno de la Control Room, vaya a IA > Conexiones de modelo > Crear conexión de modelo.
  2. En la pantalla Crear conexión de modelo, configurará esta configuración de conexión:
    Crear Conexiones del modelo Grounded con la capacidad RAG de Azure OpenAI
    1. Nombre de conexión del modelo: Proporcione un nombre para identificar fácilmente la Conexión del modelo.
    2. Descripción (opcional): Agregue una breve descripción significativa que defina la conexión.
    3. Elija un proveedor: Elija un proveedor de modelo fundamental de la lista de proveedores admitidos. Para crear una Conexión del modelo Basado en la búsqueda de IA con Azure OpenAI, seleccionaría Azure OpenAI de la lista desplegable.
    4. Elegir un tipo: Elija Basado en la búsqueda de IA para usar la capacidad de RAG.
    5. Elija un modelo o cree uno personalizado: Elija un modelo de la lista desplegable de modelos validados de Azure OpenAI.
    6. Haga clic en Siguiente para pasar a la sección Detalles de autenticación.
  3. En la sección Detalles de autenticación, configure estos ajustes:
    1. Nombre del recurso Azure OpenAI: Escriba el nombre de su recurso Azure OpenAI.
    2. ID de implementación: Ingrese el ID de implementación del modelo que desea usar.
    3. Clave de API: Ingrese la clave API para su servicio de Azure OpenAI.
    4. URL del servicio de búsqueda de IA: La URL de su servicio Búsqueda de IA de Azure implementado. Este es el punto de acceso a través del cual se accede al servicio de búsqueda.
    5. Nombre del índice de búsqueda de IA: El nombre del índice dentro del servicio Búsqueda de IA de Azure que contiene sus datos. Aquí es donde se almacenan los documentos que se van a buscar.
    6. Clave de API de búsqueda de IA: la clave de API para su servicio Búsqueda de IA de Azure. Esta clave es necesaria para autenticar el acceso al servicio de búsqueda.
    7. Nombre de implementación del modelo de incrustación de búsqueda de IA: El nombre del modelo de incrustación que se ha implementado en Azure. Este modelo se utiliza para convertir texto en representaciones vectoriales que se usan para la búsqueda semántica.
      Nota:
      1. Modelo de incrustación: Un modelo de incrustación es un tipo de modelo de aprendizaje automático diseñado para transformar datos (como texto, imágenes o incluso código) en representaciones numéricas llamadas incrustaciones vectoriales.

        El modelo de incrustación es crucial ya que las incrustaciones vectoriales de los datos se necesitan para que la funcionalidad Basado en la búsqueda de IA encuentre de manera efectiva información semánticamente relevante.

      2. Incrustaciones vectoriales: Estos vectores son listas de números que capturan el significado semántico de los datos. Piezas de datos similares tendrán vectores que están cerca unos de otros en un espacio de alta dimensión.

        Asegúrese de que el índice de Búsqueda de IA de Azure esté poblado con incrustaciones vectoriales generadas a partir de sus datos. Esto es fundamental para los tipos de búsqueda de IA compatibles con Automation Anywhere. Consulte la documentación de Búsqueda de IA de Azure para obtener orientación detallada sobre la creación de incrustaciones durante el proceso de asimilación de datos.

      3. Comprensión semántica: La clave es que estas incrustaciones capturan el significado y el contexto de los datos, no solo palabras clave. Esto permite que Búsqueda de IA de Azure comprenda las relaciones entre diferentes piezas de información.
    8. Haga clic en Siguiente para pasar a la sección Probar conexión.
  4. Haga clic en Probar conexión para asegurarse de que todos los detalles de la conexión se hayan definido correctamente y verifique si la conexión está funcionando.
    Esta es una operación de escritorio que utiliza un Agente de bot. Utilice Agente de bot 22.60.10 y versiones posteriores para realizar pruebas exitosas.
    • Si la conexión funciona como se esperaba, el sistema procesará la solicitud y usted recibirá un mensaje de éxito generado por el sistema.
    • Si la conexión no funciona como se esperaba, recibirá un mensaje generado por el sistema donde se indica el motivo del error de conexión. Por ejemplo, si no ha descargado en su espacio de trabajo el paquete de modelos fundamentales compatible, recibirá un mensaje de error. Tendría que descargar el paquete y, luego, volver a probar la Conexión del modelo.
    • Si la prueba de una Conexión del modelo no tiene éxito o si deja la tarea incompleta, la Conexión del modelo no se guardará y tendrá que reiniciar el proceso de creación de la Conexión del modelo.
  5. Haga clic en Siguiente para pasar a la sección Invitar roles para comenzar a asignar roles personalizados a los usuarios.
    El administrador de automatización crearía roles personalizados y asignaría las Conexiones del modelo al rol, que luego se pueden asignar a los usuarios. Solo los usuarios asignados a este rol personalizado pueden usar esta Conexión del modelo.
  6. Asigne acceso al desarrollador profesional a través de un rol personalizado para usar esta Conexión del modelo para crear una Habilidad de IA.
  7. Haga clic en Crear conexión de modelo para completar la creación de la Conexión del modelo.
    Después de crear con éxito la Conexión del modelo, el desarrollador profesional la usaría para crear una Habilidad de IA.

Qué hacer a continuación

Después de crear y probar la Conexión del modelo, la asignaría a los desarrolladores profesionales, quienes usarían estas conexiones para crear Habilidades de IA. Consulte Crear Habilidades de IA con Basado en la búsqueda de IA Conexiones del modelo.
Nota: Cuando crea o prueba una Habilidad de IA en la pantalla Habilidad de IA, los detalles de éxito o falla junto con las respuestas del modelo se pueden ver en estas pantallas de navegación:
  • Administración > Gobernanza de IA > Registro de indicaciones de IA
  • Administración > Gobernanza de IA > Registro de eventos
  • Administración > Registro de auditoría

Consulte Gobernanza de IA.