As definições de modelos personalizados permitem que você integre e aproveite modelos externos de IA generativa, hospedados em diversas plataformas em vários ambientes, incluindo a infraestrutura No local, nuvens privadas e plataformas de nuvem pública.

As APIs de modelo personalizado permitem que você se conecte a qualquer modelo compatível com REST API, dando a você a capacidade de acessar uma gama mais ampla de soluções de IA.

A necessidade de modelos personalizados

O rápido avanço das tecnologias de IA generativa resultou em uma ampla gama de modelos fundamentais disponíveis, cada um com seus próprios pontos fortes e especializações. Embora a Automation Anywhere ofereça uma seleção de modelos pré-integrados dentro do AI Agent Studio, talvez haja a necessidade de utilizar outros modelos devido a:

Modelos especializados

Você desenvolveu ou adquiriu modelos treinados em conjuntos de dados específicos ou ajustados para tarefas únicas relevantes para as necessidades do seu negócio.

Segurança e residência de dados

Organizações com Políticas de segurança de dados rigorosas ou requisitos regulatórios podem precisar usar modelos hospedados em seus próprios ambientes seguros, como infraestrutura local ou nuvens privadas.

Aproveitando os investimentos existentes

As organizações que já investiram no desenvolvimento e implantação de modelos de IA em plataformas podem se beneficiar da capacidade de integrar esses modelos diretamente em seus fluxos de trabalho Automation Anywhere.

APIs de modelo personalizado

Para atender a essas necessidades, a Automation Anywhere desenvolveu APIs de modelo personalizadas para definir e conectar a modelos de IA generativa personalizados. Essa função da API registra informações sobre o modelo, incluindo seu fornecedor, nome, mecanismo de autenticação, parâmetros de entrada e mapeamento de saída, no banco de dados da Control Room.


API de modelo personalizado
As seguintes quatro APIs projetadas para gerenciar modelos personalizados no AI Agent Studio incluem:
  1. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel
    • Esta API cria uma nova definição de modelo personalizado.
    • Requer um esquema de payload JSON, que encapsula informações sobre o modelo. O esquema define atributos como o nome do fornecedor, o nome do modelo específico, protocolos de autenticação, detalhes do ponto de extremidade da API (incluindo parâmetros de caminho, parâmetros de consulta e cabeçalhos necessários) e a estrutura dos corpos de solicitação e resposta.
    • A API permite que os usuários definam variáveis nos corpos de solicitação e resposta que podem ser preenchidas dinamicamente durante o tempo de execução. Essas variáveis podem ser designadas para diferentes finalidades usando anotações específicas:
      • PROMPT_QUERY (Obrigatório): Essa anotação indica que a variável correspondente deve ser substituída pelo prompt fornecido pelo usuário na página Habilidades de IA. Isso é essencial para passar os prompts de entrada do usuário para o modelo.
      • REQUEST_PARAMETER (Obrigatório): Essa anotação indica que a variável deve ser exposta como um parâmetro configurável na página Conexões de modelo.
      • MODEL_PARAMETER : Semelhante a REQUEST_PARAMETER, essa anotação designa a variável para configuração na página Habilidades de IA.
      • RESPONSE_PARAMETER (Obrigatório): Essa anotação indica que a variável será retornada na resposta do modelo de IA.
    • A API retorna uma resposta 200 OK com o modelo criado após a criação bem-sucedida.
  2. GET https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Esta API recupera a definição dos modelos personalizados existentes.
    • É necessário o nome do fornecedor (vendorName) e o nome do modelo (modelName) como parâmetros de caminho.
    • A API retorna uma resposta 200 OK contendo os objetos que representam o modelo solicitado.
  3. DELETE https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • Esta API exclui um modelo personalizado existente.
    • Semelhante à API GET, ela usa (vendorName) e (modelName) como parâmetros de caminho para identificar o modelo de destino.
      Nota: O modelo só pode ser excluído se não estiver atualmente associado a quaisquer Conexões de modelo ativas. Ou seja, você deve primeiro remover qualquer Habilidades de IA e Task Bots que dependam da Conexão de modelo antes de tentar excluir a definição do modelo.
    • A API retorna uma resposta 204 Sem conteúdo após a exclusão bem-sucedida.
  4. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/list
    • Essa API recupera uma lista de todos os modelos personalizados definidos para todos os fornecedores na Control Room.
    • Ela aceita um corpo de solicitação opcional que contém um objeto FilterRequest, permitindo que os usuários filtrem os resultados com base em critérios específicos.
    • A API retorna uma resposta 200 OK com objetos contendo os modelos solicitados.

Para mais detalhes sobre essas APIs, veja API do AI Agente Studio. Você pode baixar aqui uma coleção do Postman para o AI Agent Studio - definições de modelos personalizados que contêm exemplos de chamadas de API para se conectar aos modelos personalizados.