Crear Model connections Grounded con capacidad de Azure OpenAI RAG

Cree Model connections Grounded by AI Search con la capacidad nativa de Generación Aumentada por Recuperación (RAG) de Azure OpenAI para construir experiencias de búsqueda enriquecidas que combinen modelos de lenguaje extenso con datos empresariales de Azure AI Search.

Ahora puede integrar un servicio de Azure AI Search con el servicio de Azure OpenAI para crear una solución RAG. Esto permite que los LLM ofrezcan respuestas más informadas y relevantes en el contexto al recuperar información de sus propios datos.

RAG de Azure AI Search AI Agent Studio

Nota: Debe configurar lo siguiente dentro del portal Azure OpenAI:
  • Configuración del servicio Azure AI Search: Esto implica crear el servicio de búsqueda de IA en el portal de Azure OpenAI. Esto incluye configurar la URL del punto de acceso del servicio, las claves API y crear el índice. Para obtener más información sobre cómo crear una búsqueda de Azure AI Search, consulte Crear un servicio de Azure AI Search en el portal de Azure.
  • Asimilación e indexación de datos: Los documentos se cargan en una fuente de datos, como un almacenamiento de blobs, y luego se crea el índice utilizando los archivos en el almacenamiento. Los documentos se dividen en fragmentos y el contenido se vectoriza utilizando el modelo de incrustación si la búsqueda vectorial está habilitada.

    Al configurar el servicio de Azure AI Search para la integración con Automation 360 Grounded by AI Search Model connections, es esencial configurar el proceso de asimilación e indexación de datos para crear incrustaciones vectoriales. Si bien Azure AI Search admite otros tipos de contenido y configuraciones (como solo texto o solo semántica), la integración de Automation Anywhere está optimizada, principalmente, para admitir el uso de incrustaciones vectoriales que permiten la comprensión semántica y la recuperación.

Antes de empezar

El administrador de automatización requiere estos roles y permisos con el fin de crear y administrar Model connections para su organización empresarial.
  • Rol: AAE_Basic, rol personalizado del administrador de automatización
  • Permiso: Bot Runner asistido
  • Configuración: El administrador de automatización debe habilitar la Administración de datos de IA y debe seleccionar la casilla de verificación Permitir que los usuarios deshabiliten los registros en las habilidades de IA. Permita a los usuarios con la licencia de Bot Creator desactivar el registro de datos al usar Habilidades de IA para habilitar el interruptor Registro de datos en la pantalla AI Skills.

Consulte Roles y permisos para los permisos de rol personalizado del administrador de automatización.

Otros requisitos:

  • Como se mencionó anteriormente, primero tendría que crear una Azure AI Search para crear una Model connection Grounded by AI Search y usarla con éxito en una AI Skill.
  • Si desea almacenar detalles de autenticación en una bóveda de credenciales, tenga esa información a mano. Consulte Almacenamiento seguro de credenciales en Credential Vault.
  • Para probar una Model connection, debe estar conectado a un Bot Agent 22.60.10 y posteriores. Como parte de la prueba, tendría que ejecutar el bot en su escritorio. Por lo tanto, asegúrese de que Bot Agent está configurado para su usuario. Para esta tarea, si tiene que cambiar la conexión a otra Control Room, consulte: Cambiar el registro del dispositivo entre las instancias de Control Room.
  • Necesitaría acceso al paquete de AI Skills para probar la conexión con éxito. El Prompt de prueba se ejecutaría para probar la Model connection.

Procedimiento

  1. En el entorno de la Control Room, vaya a IA > Conexiones de modelo > Crear conexión de modelo.
  2. En la pantalla Crear conexión de modelo, configurará esta configuración de conexión:
    Crear Model connections Grounded con la capacidad RAG de Azure OpenAI
    1. Nombre de conexión del modelo: Proporcione un nombre para identificar fácilmente la Model connection.
    2. Descripción (opcional): Agregue una breve descripción significativa que defina la conexión.
    3. Elija un proveedor: Elija un proveedor de modelo fundamental de la lista de proveedores admitidos. Para crear una Model connection Grounded by AI Search con Azure OpenAI, seleccionaría Azure OpenAI de la lista desplegable.
    4. Elegir un tipo: Elija Grounded by AI Search para usar la capacidad de RAG.
    5. Elija un modelo o cree uno personalizado: Elija un modelo de la lista desplegable de modelos validados de Azure OpenAI.
    6. Haga clic en Siguiente para pasar a la sección Detalles de autenticación.
  3. En la sección Detalles de autenticación, configure estos ajustes:
    1. Nombre del recurso Azure OpenAI: Escriba el nombre de su recurso Azure OpenAI.
    2. ID de implementación: Ingrese el ID de implementación del modelo que desea usar.
    3. Clave de API: Ingrese la clave API para su servicio de Azure OpenAI.
    4. URL del servicio de búsqueda de IA: La URL de su servicio Azure AI Search implementado. Este es el punto de acceso a través del cual se accede al servicio de búsqueda.
    5. Nombre del índice de búsqueda de IA: El nombre del índice dentro del servicio Azure AI Search que contiene sus datos. Aquí es donde se almacenan los documentos que se van a buscar.
    6. Clave de API de búsqueda de IA: la clave de API para su servicio Azure AI Search. Esta clave es necesaria para autenticar el acceso al servicio de búsqueda.
    7. Nombre de implementación del modelo de incrustación de búsqueda de IA: El nombre del modelo de incrustación que se ha implementado en Azure. Este modelo se utiliza para convertir texto en representaciones vectoriales que se usan para la búsqueda semántica.
      Nota:
      1. Modelo de incrustación: Un modelo de incrustación es un tipo de modelo de aprendizaje automático diseñado para transformar datos (como texto, imágenes o incluso código) en representaciones numéricas llamadas incrustaciones vectoriales.

        El modelo de incrustación es crucial ya que las incrustaciones vectoriales de los datos se necesitan para que la funcionalidad Grounded by AI Search encuentre de manera efectiva información semánticamente relevante.

      2. Incrustaciones vectoriales: Estos vectores son listas de números que capturan el significado semántico de los datos. Piezas de datos similares tendrán vectores que están cerca unos de otros en un espacio de alta dimensión.

        Asegúrese de que el índice de Azure AI Search esté poblado con incrustaciones vectoriales generadas a partir de sus datos. Esto es fundamental para los tipos de búsqueda de IA compatibles con Automation Anywhere. Consulte la documentación de Azure AI Search para obtener orientación detallada sobre la creación de incrustaciones durante el proceso de asimilación de datos.

      3. Comprensión semántica: La clave es que estas incrustaciones capturan el significado y el contexto de los datos, no solo palabras clave. Esto permite que Azure AI Search comprenda las relaciones entre diferentes piezas de información.
    8. Haga clic en Siguiente para pasar a la sección Probar conexión.
  4. Haga clic en Probar conexión para asegurarse de que todos los detalles de la conexión se hayan definido correctamente y verifique si la conexión está funcionando.
    Esta es una operación de escritorio que utiliza un Bot Agent. Utilice Bot Agent 22.60.10 y versiones posteriores para realizar pruebas exitosas.
    • Si la conexión funciona como se esperaba, el sistema procesará la solicitud y usted recibirá un mensaje de éxito generado por el sistema.
    • Si la conexión no funciona como se esperaba, recibirá un mensaje generado por el sistema donde se indica el motivo del error de conexión. Por ejemplo, si no ha descargado en su espacio de trabajo el paquete de modelos fundamentales compatible, recibirá un mensaje de error. Tendría que descargar el paquete y, luego, volver a probar la Model connection.
    • Si la prueba de una Model connection no tiene éxito o si deja la tarea incompleta, la Model connection no se guardará y tendrá que reiniciar el proceso de creación de la Model connection.
  5. Haga clic en Siguiente para pasar a la sección Invitar roles para comenzar a asignar roles personalizados a los usuarios.
    El administrador de automatización crearía roles personalizados y asignaría las Model connections al rol, que luego se pueden asignar a los usuarios. Solo los usuarios asignados a este rol personalizado pueden usar esta Model connection.
  6. Asigne acceso al desarrollador profesional a través de un rol personalizado para usar esta Model connection para crear una AI Skill.
  7. Haga clic en Crear conexión de modelo para completar la creación de la Model connection.
    Después de crear con éxito la Model connection, el desarrollador profesional la usaría para crear una AI Skill.

Qué hacer a continuación

Después de crear y probar la Model connection, la asignaría a los desarrolladores profesionales, quienes usarían estas conexiones para crear AI Skills. Consulte Crear AI Skills con Grounded by AI Search Model connections.
Nota: Cuando crea o prueba una AI Skill en la pantalla Habilidad de IA, los detalles de éxito o falla junto con las respuestas del modelo se pueden ver en estas pantallas de navegación:
  • Administración > Gobernanza de IA > Registro de indicaciones de IA
  • Administración > Gobernanza de IA > Registro de eventos
  • Administración > Registro de auditoría

Consulte AI Governance.