Criar Templates de prompt (Desenvolvedor profissional)

O Desenvolvedor profissional cria Templates de prompt conforme os requisitos corporativos de uma empresa e os disponibiliza a usuários, como Desenvolvedores cidadãos, Desenvolvedores profissionais e Usuários corporativos que podem usá-los no pacote Editor de bot > Modelo de prompt de IA generativa.

O Desenvolvedor profissional cria Templates de prompt conectando-se a Conexões de modelo e prompts de ajuste fino em modelos básicos para encontrar o que melhor se adapta às necessidades de automação da organização. Esses Templates de prompt podem ser disponibilizados para desenvolvedores e usuários corporativos para reutilização, ajudando a acelerar a criação de automações em soluções. Para esta versão de visualização do recurso, os seguintes modelos básicos estão disponíveis:
  • Azure OpenAI
  • OpenAI

Este tópico orienta você sobre as etapas para criar um Template de prompt.

Pré-requisitos

O Desenvolvedor profissional precisa dessas funções e permissões para criar e testar um Template de prompt.
  • Funções:
    • Bot_Creator
    • Bot_Runner
    • AAE_Basic
    • Função personalizada
    • Desenvolvedor cidadão
  • Configurações necessárias na Control Room:
    • Conexões de modelo > Exibir conexões de modelo
    • Gerenciamento de dados de IA > Configurações de registro de dados
    • Somente leitura
    • Administração > Exibir configurações
  • Permissões e tarefas:
    • Criar/editar/executar automação
    • Criar/visualizar/editar/salvar/configurar Template de prompt
    • Visualizar e acessar Conexões de modelo
    • Definir valores de configuração para modelos de IA generativa de terceiros
    • Inserir/editar Prompt
    • Adicionar/editar variáveis ​​de entrada do Prompt
    • Testar um Prompt com o modelo de IA generativa especificado na Conexão de modelo
    • Visualizar respostas do Prompt
    • Automação de checkin e checkout
    • Exibir configurações:
      • Habilitar registro de dados
      • Testar Template de prompt
    • Visualizar detalhes da Conexão de modelo, como:
      • Fornecedor do modelo de IA generativa
      • Versão do modelo
      • Descrição da Conexão de modelo
    • Exibir pacote do Modelo de prompt de IA generativa
    • Criar pastas de repositório
    • Ler valor do Credential Vault

Além das funções e das permissões, você deve estar conectado a um Agente de bot (v22.31 e superior). Como parte do teste de Conexão de modelo, é necessário executar o bot no seu desktop. Portanto, certifique-se de que o Agente de bot esteja configurado para seu usuário. Se você tiver que mudar a conexão para uma outra Control Room, consulte: Alternar o registro do dispositivo entre instâncias da Control Room

Procedimento

  1. Faça login na Control Room, navegue até Automação > Criar nova ou ícone “+” e escolha Template de prompt.
  2. Digite um nome e faça uma descrição; depois, clique em Criar e editar para exibir um esboço do template. Vamos criar um exemplo com o nome Analisador de endereços.
  3. Na tela Template de prompt, clique em Escolher conexão de modelo para escolher na lista disponível de Conexões de modelo às quais você tem acesso.
    Essas Conexões de modelo são criadas pelo administrador de automação e atribuídas ao seu usuário com uma função personalizada.
  4. Após selecionar uma Conexão de modelo, o Template de prompt é configurado com as configurações de parâmetro padrão ideais para o modelo escolhido. Você pode alterar as configurações conforme necessário.
    Parâmetros do template de prompt
    Os valores dos parâmetros para criar um Prompt são preenchidos com base no modelo básico selecionado. Estas são configurações de parâmetros para modelos Azure OpenAI e OpenAI suportados:
    • Penalidade de frequência:

      Essa configuração desencoraja a repetição no texto gerado restringindo o uso repetitivo dos tokens com base na frequência de uso. Quanto mais você usar um token no texto, menor será a probabilidade de ele se repetir. Escolha um valor entre -2,0 e 2 com incrementos de valores decimais.

    • Máximo de tokens:

      Essa configuração indica o número máximo de tokens usados ​​em uma resposta gerada. Você pode escolher um valor entre 1 e 2.048, com o valor padrão definido como 2.048. A resposta do prompt será afetada com base no valor definido aqui. Atribuir mais toques retornará uma resposta mais abrangente e detalhada.

    • Temperatura:

      Um valor mais alto retorna respostas diversas e menos previsíveis. Você pode escolher um valor entre 0 e 1 com incrementos de valores decimais. Ou seja, com um valor maior, as respostas retornadas são mais variadas.

    • N:

      Isso define o número de respostas geradas pelo modelo para um prompt específico. Escolha um valor entre 1 e 9, com o valor padrão definido como 1. Se você atribuir mais tokens, configurar um valor de temperatura mais alto e escolher um valor N alto de 9, terá 9 respostas variadas com detalhes que acomodariam 2.048 tokens.

    • Penalidade de presença:

      Essa configuração desencoraja a repetição de tokens no texto gerado restringindo o uso de tokens com base na frequência com que aparecem. Quanto mais frequentemente um token for usado no texto, menor será a probabilidade de ele se repetir. Escolha um valor entre -2,0 e 2 com incrementos de valores decimais.

    • Top P:

      Essa configuração determina a diversidade da resposta gerada. Um valor mais alto retorna respostas mais diversas. Recomendamos alterar o valor P ou de temperatura, não ambos. Escolha um valor entre 0 e 1 com incrementos de valores decimais.

    Nota: Você pode definir diferentes valores de parâmetros para testar e determinar os valores mais adequados para seu caso de uso. A alteração dos valores dos parâmetros influenciará a resposta do modelo.
  5. Agora, você pode começar a criar um Prompt e adicionar entradas de prompt, conforme necessário. Vejamos um exemplo para dar orientações quanto às etapas.

Exemplo:

O Desenvolvedor profissional está criando um Template de prompt que será usado para analisar e extrair o endereço de diferentes tipos de documentos durante o processamento para extração de dados.
O Desenvolvedor profissional criará um Template de prompt com o nome: Analisador de endereços. Esse Template de prompt se concentrará em extrair as informações de endereço dos documentos. O modelo será disponibilizado para Desenvolvedores cidadãos e Usuários corporativos que o reutilizarão como uma ação na automação.

Criar template de prompt

  1. Você já selecionou uma Conexão de modelo na lista disponível (veja a etapa 3 acima) e agora vamos começar a escrever seu Prompt.
  2. No campo Prompt, digite:
    Parse the $inputAddress$ & return formatted as: (Analise $inputAddress$ e retorne formatado como:)
    • street: street (rua: rua)
    • city: city (cidade: cidade)
    • state: state (estado: estado)
    • zip code: zip code (CEP: CEP)
  3. Clique fora do campo de entrada do Prompt.
  4. A seção Entrada de prompt é preenchida automaticamente com entradas de prompt de espaço reservado para as quais você pode definir valores. Nesse caso, o campo de Entrada de prompt $inputAddress$ é criado pelo sistema.
    O Prompt deve retornar uma resposta com a rua, a cidade, o estado e o CEP do endereço formatado em linhas separadas.
    Nota: Você também pode adicionar uma Entrada de prompt manualmente clicando em Adicionar entrada de prompt.
  5. Em seguida, insira o seguinte endereço no campo Entrada do prompt inputAddress: '1502 royal oak dr, tx, 75243'.
  6. Clique em Obter resposta para ter uma resposta do modelo com base no seu Prompt.
    Nota:

    Teste e experimente diferentes prompts e valores Entrada de prompt para obter a resposta desejada dos modelos e usar o que for mais satisfatório.

    Os detalhes dos dados do prompt podem conter PHI, PII ou outros dados confidenciais que você optar por inserir no Prompt. Recomendamos estar atento a isso ao testar e executar um Prompt.

  7. Quando estiver satisfeito com a resposta, Salve o Template de prompt.

Próximas etapas

Seu próximo passo é fazer checkin no Template de prompt para que ele possa ser disponibilizado ao Desenvolvedor cidadão e ao Usuário corporativo no pacote do Modelo de prompt de IA generativa para uso na automação.
Nota: Quando você cria ou testa um Template de prompt na tela Template de prompt, os detalhes de sucesso ou falha e as respostas do modelo podem ser visualizados em Administração > Log de auditoria e Administração > Governança de IA > Log do prompt de IA. Ver Governança de IA
Por que você faria checkin em um Template de prompt?

Depois de criar um Template de prompt, faça checkin na pasta Pública. Isso permitirá que o Desenvolvedor profissional, Usuário corporativo ou Desenvolvedor cidadão use o Template de prompt no pacote do Modelo de prompt de IA generativa.

O Task Bot, com um ou múltiplos Templates de prompt integrados, pode ser adicionado a uma automação maior que execute um cenário de fluxo de trabalho completo.

Nota: Para referência, consulte: