Definiciones de modelos personalizados

Las definiciones de modelos personalizados le permiten integrar y aprovechar modelos externos de IA generativa. Conéctese a modelos alojados en diversas plataformas, y expándase más allá de las ofertas nativas de AI Agent Studio. Las API de modelos personalizados le permiten conectarse a cualquier modelo compatible con API REST, lo que le permite acceder a una gama más amplia de soluciones de IA.

El modelo personalizado amplía significativamente las capacidades de IA de la plataforma, lo que le permite ir más allá de los modelos predefinidos dentro de AI Agent Studio e integrar modelos alojados en diversos entornos, como la infraestructura local, las nubes privadas y otras plataformas de nube pública.

La necesidad de modelos personalizados

La rápida evolución de IA generativa generó un panorama diverso de modelos, cada uno con sus propias fortalezas y especializaciones. Aunque Automation Anywhere ofrece una selección de modelos previamente integrados dentro de AI Agent Studio, es posible que haya una necesidad de utilizar modelos que no están incluidos en este conjunto predeterminado. Esto podría deberse a una variedad de razones:

Modelos especializados

Ha desarrollado o adquirido modelos entrenados en conjuntos de datos específicos o ajustados para tareas únicas relevantes a las necesidades de su empresa.

Seguridad y residencia de datos

Es posible que las organizaciones con estrictas políticas de seguridad de datos o requisitos regulatorios necesiten usar modelos alojados dentro de sus propios entornos seguros, como infraestructura local o nubes privadas.

Cómo aprovechar las inversiones existentes

Las organizaciones que ya han invertido en desarrollar e implementar modelos de IA en plataformas pueden beneficiarse de la capacidad de integrar estos modelos directamente en sus flujos de trabajo de Automation Anywhere.

API de modelos personalizados

Para abordar las necesidades mencionadas, Automation Anywhere desarrolló API de modelos personalizados que le permiten definir y conectar modelos personalizados de IA generativa. Esta API funciona al introducir información sobre el modelo, que incluye su proveedor, nombre, mecanismo de autenticación, parámetros de entrada y asignación de resultado, en la base de datos de una instancia de Control Room.


API de modelo personalizado
Las siguientes cuatro API diseñadas para gestionar Conexiones del modelo personalizados en AI Agent Studio incluyen lo siguiente:
  1. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel
    • Esta API crea una nueva definición de modelo personalizado.
    • Requiere un esquema de carga útil JSON, que encapsula información sobre el modelo. El esquema define atributos como el nombre del proveedor, el nombre del modelo específico, protocolos de autenticación, detalles del punto de acceso de la API (incluso parámetros de ruta, parámetros de consulta y encabezados requeridos), y la estructura de los cuerpos de solicitud y respuesta.
    • La API permite a los usuarios definir variables dentro de la solicitud y los cuerpos de respuesta que se pueden completar dinámicamente durante el tiempo de ejecución. Estas variables se pueden designar para diferentes propósitos a través de anotaciones específicas:
      • PROMPT_QUERY : Esta anotación indica que la variable correspondiente debe reemplazarse con la indicación facilitada por el usuario en la página Habilidades de IA. Esto es esencial para pasar los indicadores de entrada del usuario al modelo.
      • REQUEST_PARAMETER : Esta anotación indica que la variable debe ser expuesta como un parámetro configurable en la página Conexiones del modelo.
      • MODEL_PARAMETER : Es similar a REQUEST_PARAMETER, pero esta anotación designa la variable para la configuración en la página Habilidades de IA.
      • RESPONSE_PARAMETER : Esta Esta anotación significa que la variable será devuelta en la respuesta del modelo de IA.
    • La API devuelve una respuesta 200 OK con el modelo creado el modelo se crea exitosamente.
  2. GET https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Esta API recupera la definición de modelos personalizados existentes.
    • Requiere el nombre del proveedor (vendorName) y el nombre del modelo (modelName) como parámetros de ruta.
    • La API devuelve una respuesta 200 OK que contiene los objetos que representan el modelo solicitado.
  3. DELETE https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Esta API elimina modelos personalizados existentes.
    • Al igual que la API GET, utiliza (vendorName) y (modelName) como parámetros de ruta para identificar el modelo objetivo.
      Nota: El modelo solo se puede eliminar si no está actualmente asociado con un Conexiones del modelo activo. Esto significa que primero debe quitar todos los Habilidades de IA y Bots de tarea que dependen del Conexión del modelo antes de intentar eliminar la definición del modelo.
    • La API devuelve una respuesta 204 No Content tras la eliminación exitosa.
  4. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/list
    • Esta API recupera una lista de todos los modelos personalizados definidos para todos los proveedores dentro de Control Room.
    • Acepta un cuerpo de solicitud opcional que contiene un FilterRequest, lo que le permite a los usuarios filtrar los resultados basados en criterios específicos.
    • La API devuelve una respuesta 200 OK con objetos que contienen los modelos solicitados.

Para obtener una descripción más detallada de las API mencionadas, consulte el manual de referencia de API: AI Agent Studio API.

Limitaciones conocidas

Esta sección enumera las limitaciones de las API de modelos personalizados. Algunas de las áreas clave identificadas para mejorar incluyen las siguientes:
Falta de una interfaz de usuario (UI)
La oferta actual carece de una interfaz fácil de usar para definir modelos personalizados, confiando únicamente en llamadas API
Capacidades de actualización limitada
Después de crear una definición de modelo, actualizarla requiere eliminar la definición existente y volever a crearla con los cambios deseados. Esto es un proceso engorroso, especialmente si el modelo se utiliza activamente en las conexiones del modelo.
Parámetros de entrada de solo texto
Actualmente, solo se admiten parámetros de entrada basados en texto. En el futuro, las versiones explorarán la compatibilidad con otros tipos de datos, como los números enteros, para tener capacidad para una gama más amplia de entradas del modelo.
Visibilidad limitada de credenciales y encabezados
Actualmente, las credenciales solo son visibles y editables dentro de la pantalla Conexiones del modelo. La capacidad de especificar las credenciales a nivel de la página de Habilidades de IA están bajo consideración.
Falta de asistencia técnica para la autenticación de AWS
La versión actual no incluye asistencia técnica integrada para la autenticación con modelos alojados en entornos de AWS. Se espera que esta limitación se solucione en futuros lanzamientos.