Crear Conexiones del modelo Grounded con capacidad de Google Vertex AI RAG

Utilice la capacidad de Google Vertex AI RAG (Generación aumentada de recuperación) para crear Conexiones del modelo Basado en el almacenamiento de datos y generar información precisa y contextualmente relevante referenciada de Fuente de datos de Google.

Nota:

Google Vertex AI Basado en el almacenamiento de datos Conexiones del modelo ahora también está disponible en la versión 34 de Automation 360 en Nube. Puede utilizar esta función en Nube y Local.

Almacén de datos de Google con fragmentación de documentos ahora es compatible para garantizar resultados óptimos en las ejecuciones de automatizaciones. Puede activar la fragmentación de documentos en Almacén de datos de Google para usar modelos basados en Google Vertex AI en AI Agent Studio.

Ahora le ofrecemos la opción de crear Conexiones del modelo Basado en el almacenamiento de datos utilizando el servicio Constructor de agentes. Una consulta de búsqueda en el Almacén de datos de Google recupera contenido relevante de conjuntos de datos extensos y lo alimenta al modelo para generar una respuesta precisa.

Durante la ejecución de una automatización, usar Conexiones del modelo creadas con Basado en el almacenamiento de datos recupera la respuesta haciendo referencia a Fuente de datos de Google en Almacén de datos de Google. Esto garantiza una respuesta optimizada del contenido relevante con mayor precisión. La fundamentación es un aspecto importante al utilizar un modelo base, ya que brinda respuestas fundamentadas en los datos de la organización y previene inexactitudes en las respuestas y alucinaciones del modelo.
Nota: Para utilizar la capacidad Google Vertex AI RAG en AI Agent Studio, primero deberá crear una fuente de datos en Constructor de agentes. Luego, cree una Conexión del modelo utilizando la opción Basado en el almacenamiento de datos.

Consulte: Almacenes de datos en Google Vertex AI .

Antes de empezar

El administrador de automatización requiere estos roles y permisos con el fin de crear y administrar Conexiones del modelo para su organización empresarial.
  • Rol: AAE_Basic, rol personalizado del administrador de automatización
  • Permiso: Bot Runner asistido
  • Configuración: El administrador de automatización debe habilitar la Administración de datos de IA y debe seleccionar la opción de la casilla de verificación Permitir que los usuarios deshabiliten los registros en las habilidades de IA.

Consulte Roles y permisos para los permisos de rol personalizado del administrador de automatización.

Otros requisitos:
  • Como se mencionó anteriormente, primero tendría que crear una Fuente de datos de Google para crear una Conexión del modelo Basado en el almacenamiento de datos y usarla con éxito en una Habilidad de IA. Consulte Almacenes de datos y Crear una instancia de Almacén de datos de Vertex.
  • Si desea almacenar detalles de autenticación en una bóveda de credenciales, tenga esa información a mano. Consulte Almacenamiento seguro de credenciales en Credential Vault.
  • Para probar una Conexión del modelo, debe estar conectado a un Agente de bot 22.60.10 y posteriores. Como parte de la prueba, tendría que ejecutar el bot en su escritorio. Por lo tanto, asegúrese de que Agente de bot está configurado para su usuario. Para esta tarea, si tiene que cambiar la conexión a otra Control Room, consulte: Cambiar el registro del dispositivo entre las instancias de Control Room.
  • Necesitaría acceso al paquete de Grabadora y al paquete de Habilidades de IA para probar la conexión con éxito. El Indicador de prueba se ejecutaría para probar la Conexión del modelo.

Procedimiento

  1. En el entorno de la Control Room, vaya a IA > Conexiones de modelo > Crear conexión de modelo.
  2. En la pantalla Crear conexión de modelo, configurará esta configuración de conexión:
    Crear Conexiones del modelo Grounded con la capacidad RAG de Google Vertex AI
    Puede ingresar el nombre del modelo de manera manual en el campo Elegir un modelo o crear uno personalizado. El nombre que ingrese se usará para crear la Conexión del modelo.
    1. Nombre de conexión del modelo: Proporcione un nombre para identificar fácilmente la Conexión del modelo.
    2. Descripción (opcional): Agregue una breve descripción significativa que defina la conexión.
    3. Elija un proveedor: Elija un proveedor de modelo fundamental de la lista de proveedores admitidos. Para crear una Conexión del modelo Basado en el almacenamiento de datos con Google Vertex AI, seleccione Google Vertex AI de la lista desplegable.
    4. Elegir un tipo: Elija Basado en el almacenamiento de datos para usar la capacidad de RAG para Google Vertex AI.
    5. Elija un modelo o cree uno personalizado: Seleccione un modelo de la lista desplegable.
      Además, también hay otros modelos disponibles de Almacén de datos de Google que son compatibles, que no están disponibles en la lista desplegable. Si desea agregar un modelo desde el Almacén de datos de Google, tendría que ingresar el nombre y la versión del modelo junto con el URI completo del modelo. Por ejemplo: Si el modelo es Gemini 1.5 Flash 001, el formato sería gemini-1.5-001/answer_gen/v1.
      Para obtener una lista completa de los modelos compatibles de cada proveedor de modelos fundamentales, consulte Preguntas frecuentes generales.
    6. Haga clic en Siguiente para pasar a la sección Detalles de autenticación.
  3. En la sección Detalles de autenticación, configure estos ajustes:
    1. Nombre del proyecto: Este es el proyecto de la cuenta de Google Cloud.
    2. Región: Seleccione una región de la lista desplegable para conectarse y autenticar la Conexión del modelo. También puede agregar la región que configuró cuando creó una fuente de datos en Constructor de agentes.
      Consulte Crear un almacén de datos .
    3. Conexión OAuth de Control Room: Cree un ID de cliente de OAuth 2.0. Un ID de cliente se utiliza para identificar una sola aplicación a los servidores OAuth de Google.
    4. Después de configurar los detalles de autenticación, confirme y haga clic en Siguiente para continuar con la sección Probar conexión para probar la Conexión del modelo.
    Nota: Para obtener detalles sobre cómo configurar el Proyecto de Google Cloud y la Conexión OAuth de Control Room para Google Vertex AI, consulte Vertex AI: Acción Conectar.
  4. Haga clic en Probar conexión para asegurarse de que todos los detalles de la conexión se hayan definido correctamente y verifique si la conexión está funcionando.
    Esta es una operación de escritorio que utiliza un Agente de bot. Utilice Agente de bot 22.60.10 y versiones posteriores para realizar pruebas exitosas.
    • Si la conexión funciona como se esperaba, el sistema procesará la solicitud y usted recibirá un mensaje de éxito generado por el sistema.
    • Si la conexión no funciona como se esperaba, recibirá un mensaje generado por el sistema donde se indica el motivo del error de conexión. Por ejemplo, si no ha descargado en su espacio de trabajo el paquete de modelos fundamentales compatible, recibirá un mensaje de error. Tendría que descargar el paquete y, luego, volver a probar la Conexión del modelo.
    • Si la prueba de una Conexión del modelo no tiene éxito o si deja la tarea incompleta, la Conexión del modelo no se guardará y tendrá que reiniciar el proceso de creación de la Conexión del modelo.
  5. Haga clic en Siguiente para pasar a la sección Invitar roles para comenzar a asignar roles personalizados a los usuarios.
    El administrador de automatización crearía roles personalizados y asignaría las Conexiones del modelo al rol, que luego se pueden asignar a los usuarios. Solo los usuarios asignados a este rol personalizado pueden usar esta Conexión del modelo.
  6. Asigne la Conexión del modelo al rol personalizado (usando el acceso basado en roles [RBAC]) para que los usuarios asignados al rol puedan acceder a él.
  7. Haga clic en Crear conexión de modelo para completar la creación de la Conexión del modelo.
    Después de crear con éxito la Conexión del modelo, el desarrollador profesional la usaría para crear una Habilidad de IA.

    Consulte: Create Habilidades de IA with Basado en el almacenamiento de datos Conexiones del modelo

    .

Qué hacer a continuación

Después de crear y probar la Conexión del modelo, la asignaría a los desarrolladores profesionales, quienes usarían estas conexiones para crear Habilidades de IA.

Como siguiente paso en su secuencia de tareas, vaya a Create Habilidades de IA with Basado en el almacenamiento de datos Conexiones del modelo y cree una Habilidad de IA y conéctese a una Conexión del modelo Basado en el almacenamiento de datos para usarla en una automatización.