Crear Model connections Grounded con capacidad de Google Vertex AI RAG

Utilice la capacidad de Google Vertex AI RAG (Generación aumentada de recuperación) para crear Model connections Grounded by data store y generar información precisa y contextualmente relevante referenciada de Google Data Source.

Nota:

Google Vertex AI Grounded by data store Model connections ahora también está disponible en la versión 34 de Automation 360 en Cloud. Puede utilizar esta función en Cloud y On-Premises.

Google Data Store con fragmentación de documentos ahora es compatible para garantizar resultados óptimos en las ejecuciones de automatizaciones. Puede activar la fragmentación de documentos en Google Data Store para usar modelos basados en Google Vertex AI en AI Agent Studio.

Ahora le ofrecemos la opción de crear Model connections Grounded by data store utilizando el servicio Agent Builder. Una consulta de búsqueda en el Google Data Store recupera contenido relevante de conjuntos de datos extensos y lo alimenta al modelo para generar una respuesta precisa.

Durante la ejecución de una automatización, usar Model connections creadas con Grounded by data store recupera la respuesta haciendo referencia a Google Data Source en Google Data Store. Esto garantiza una respuesta optimizada del contenido relevante con mayor precisión. La fundamentación es un aspecto importante al utilizar un modelo base, ya que brinda respuestas fundamentadas en los datos de la organización y previene inexactitudes en las respuestas y alucinaciones del modelo.
Nota: Para utilizar la capacidad Google Vertex AI RAG en AI Agent Studio, primero deberá crear una fuente de datos en Agent Builder. Luego, cree una Model connection utilizando la opción Grounded by data store.

Consulte: Almacenes de datos en Google Vertex AI .

Antes de empezar

El administrador de automatización requiere estos roles y permisos con el fin de crear y administrar Model connections para su organización empresarial.
  • Rol: AAE_Basic, rol personalizado del administrador de automatización
  • Permiso: Bot Runner asistido
  • Configuración: El administrador de automatización debe habilitar la Administración de datos de IA y debe seleccionar la opción de la casilla de verificación Permitir que los usuarios deshabiliten los registros en las habilidades de IA.

Consulte Roles y permisos para los permisos de rol personalizado del administrador de automatización.

Otros requisitos:
  • Como se mencionó anteriormente, primero tendría que crear una Google Data Source para crear una Model connection Grounded by data store y usarla con éxito en una AI Skill. Consulte Almacenes de datos y Crear una instancia de Vertex Data Store.
  • Si desea almacenar detalles de autenticación en una bóveda de credenciales, tenga esa información a mano. Consulte Almacenamiento seguro de credenciales en Credential Vault.
  • Para probar una Model connection, debe estar conectado a un Bot Agent 22.60.10 y posteriores. Como parte de la prueba, tendría que ejecutar el bot en su escritorio. Por lo tanto, asegúrese de que Bot Agent está configurado para su usuario. Para esta tarea, si tiene que cambiar la conexión a otra Control Room, consulte: Cambiar el registro del dispositivo entre las instancias de Control Room.
  • Necesitaría acceso al paquete de Recorder y al paquete de AI Skills para probar la conexión con éxito. El Prompt de prueba se ejecutaría para probar la Model connection.

Procedimiento

  1. En el entorno de la Control Room, vaya a IA > Conexiones de modelo > Crear conexión de modelo.
  2. En la pantalla Crear conexión de modelo, configurará esta configuración de conexión:
    Crear Model connections Grounded con la capacidad RAG de Google Vertex AI
    Puede ingresar el nombre del modelo de manera manual en el campo Elegir un modelo o crear uno personalizado. El nombre que ingrese se usará para crear la Model connection.
    1. Nombre de conexión del modelo: Proporcione un nombre para identificar fácilmente la Model connection.
    2. Descripción (opcional): Agregue una breve descripción significativa que defina la conexión.
    3. Elija un proveedor: Elija un proveedor de modelo fundamental de la lista de proveedores admitidos. Para crear una Model connection Grounded by data store con Google Vertex AI, seleccione Google Vertex AI de la lista desplegable.
    4. Elegir un tipo: Elija Grounded by data store para usar la capacidad de RAG para Google Vertex AI.
    5. Elija un modelo o cree uno personalizado: Seleccione un modelo de la lista desplegable.
      Además, también hay otros modelos disponibles de Google Data Store que son compatibles, que no están disponibles en la lista desplegable. Si desea agregar un modelo desde el Google Data Store, tendría que ingresar el nombre y la versión del modelo junto con el URI completo del modelo. Por ejemplo: Si el modelo es Gemini 1.5 Flash 001, el formato sería gemini-1.5-001/answer_gen/v1.
      Para obtener una lista completa de los modelos compatibles de cada proveedor de modelos fundamentales, consulte Preguntas frecuentes generales.
    6. Haga clic en Siguiente para pasar a la sección Detalles de autenticación.
  3. En la sección Detalles de autenticación, configure estos ajustes:
    1. Nombre del proyecto: Este es el proyecto de la cuenta de Google Cloud.
    2. Región: Seleccione una región de la lista desplegable para conectarse y autenticar la Model connection. También puede agregar la región que configuró cuando creó una fuente de datos en Agent Builder.
      Consulte Crear un almacén de datos .
    3. Conexión OAuth de Control Room: Cree un ID de cliente de OAuth 2.0. Un ID de cliente se utiliza para identificar una sola aplicación a los servidores OAuth de Google.
    4. Después de configurar los detalles de autenticación, confirme y haga clic en Siguiente para continuar con la sección Probar conexión para probar la Model connection.
    Nota: Para obtener detalles sobre cómo configurar el Proyecto de Google Cloud y la Conexión OAuth de Control Room para Google Vertex AI, consulte Vertex AI: Acción Conectar.
  4. Haga clic en Probar conexión para asegurarse de que todos los detalles de la conexión se hayan definido correctamente y verifique si la conexión está funcionando.
    Esta es una operación de escritorio que utiliza un Bot Agent. Utilice Bot Agent 22.60.10 y versiones posteriores para realizar pruebas exitosas.
    • Si la conexión funciona como se esperaba, el sistema procesará la solicitud y usted recibirá un mensaje de éxito generado por el sistema.
    • Si la conexión no funciona como se esperaba, recibirá un mensaje generado por el sistema donde se indica el motivo del error de conexión. Por ejemplo, si no ha descargado en su espacio de trabajo el paquete de modelos fundamentales compatible, recibirá un mensaje de error. Tendría que descargar el paquete y, luego, volver a probar la Model connection.
    • Si la prueba de una Model connection no tiene éxito o si deja la tarea incompleta, la Model connection no se guardará y tendrá que reiniciar el proceso de creación de la Model connection.
  5. Haga clic en Siguiente para pasar a la sección Invitar roles para comenzar a asignar roles personalizados a los usuarios.
    El administrador de automatización crearía roles personalizados y asignaría las Model connections al rol, que luego se pueden asignar a los usuarios. Solo los usuarios asignados a este rol personalizado pueden usar esta Model connection.
  6. Asigne la Model connection al rol personalizado (usando el acceso basado en roles [RBAC]) para que los usuarios asignados al rol puedan acceder a él.
  7. Haga clic en Crear conexión de modelo para completar la creación de la Model connection.
    Después de crear con éxito la Model connection, el desarrollador profesional la usaría para crear una AI Skill.

    Consulte: Create AI Skills with Grounded by data store Model connections

    .

Qué hacer a continuación

Después de crear y probar la Model connection, la asignaría a los desarrolladores profesionales, quienes usarían estas conexiones para crear AI Skills.

Como siguiente paso en su secuencia de tareas, vaya a Create AI Skills with Grounded by data store Model connections y cree una AI Skill y conéctese a una Model connection Grounded by data store para usarla en una automatización.