Criar Templates de prompt (Desenvolvedor profissional)

O Desenvolvedor profissional cria Templates de prompt conforme os requisitos corporativos de uma empresa e os disponibiliza a usuários como Desenvolvedores cidadãos, Desenvolvedores profissionais e Usuários corporativos que podem usá-los no pacote Editor de bot > Ferramentas de IA generativa.

Este tópico orienta você sobre as etapas para criar um Template de prompt.

Pré-requisitos

O Desenvolvedor profissional precisa dessas funções e permissões para criar e testar um Template de prompt.
  • Funções:
    • Bot_Creator
    • Bot_Runner
    • AAE_Basic
    • Função personalizada
    • Desenvolvedor cidadão
  • Configurações necessárias na Control Room:
    • Conexões de modelo > Exibir conexões de modelo
    • Gerenciamento de dados de IA > Configurações de registro de dados
    • Somente leitura
    • Administração > Exibir configurações
  • Permissões e tarefas:
    • Criar/editar/executar automação
    • Criar/visualizar/editar/salvar/configurar Template de prompt
    • Visualizar e acessar Conexões de modelo
    • Definir valores de configuração para modelos de IA generativa de terceiros
    • Inserir/editar Prompt
    • Adicionar/editar variáveis ​​de entrada do Prompt
    • Testar um Prompt com o modelo de IA generativa especificado na Conexão de modelo
    • Visualizar respostas do Prompt
    • Automação de checkin e checkout
    • Exibir configurações:
      • Habilitar registro de dados
      • Testar Template de prompt
    • Visualizar detalhes da Conexão de modelo, como:
      • Fornecedor do modelo de IA generativa
      • Versão do modelo
      • Descrição da Conexão de modelo
    • Exibir pacote do Modelo de prompt de IA generativa
    • Criar pastas de repositório
    • Ler valor do Credential Vault

Procedimento

  1. Faça login na Control Room, navegue até Automação > Criar nova ou ícone “+” e escolha Template de prompt.
  2. Digite um nome e faça uma descrição; depois, clique em Criar e editar para exibir um esboço do template. Nesse cenário, vamos usar um exemplo e digitar o nome Analisador de endereços.
  3. Na tela Template de prompt, clique em Escolher conexão de modelo para escolher na lista disponível de Conexões de modelo às quais você tem acesso.
    Essas Conexões de modelo são criadas pelo administrador de automação e atribuídas ao seu usuário com uma função personalizada.
  4. Depois de selecionar uma Conexão de modelo, o Template de prompt é configurado com as configurações padrão.
    Parâmetros do template de prompt
    Os valores dos parâmetros para criar um Prompt são preenchidos com base no modelo de IA generativa selecionada.
    • Penalidade de frequência:

      Essa configuração desencoraja a repetição no texto gerado restringindo o uso repetitivo dos tokens com base na frequência de uso. Quanto mais você usar um token no texto, menor será a probabilidade de ele se repetir. Escolha um valor entre -2,0 e 2 com incrementos de valores decimais.

    • Máximo de tokens:

      Essa configuração indica o número máximo de tokens usados ​​em uma resposta gerada. Você pode escolher um valor entre 1 e 2.048, com o valor padrão definido como 2.048. A resposta do prompt será afetada com base no valor definido aqui. Atribuir mais toques retornará uma resposta mais abrangente e detalhada.

    • Temperatura:

      Um valor mais alto retorna respostas diversas e menos previsíveis. Você pode escolher um valor entre 0 e 1 com incrementos de valores decimais. Ou seja, com um valor maior, as respostas retornadas são mais variadas.

    • N:

      Isso define o número de respostas geradas pelo modelo para um prompt específico. Escolha um valor entre 1 e 9, com o valor padrão definido como 1. Se você atribuir mais tokens, configurar um valor de temperatura mais alto e escolher um valor N alto de 9, terá 9 respostas variadas com detalhes que acomodariam 2.048 tokens.

    • Penalidade de presença:

      Essa configuração desencoraja a repetição de tokens no texto gerado restringindo o uso de tokens com base na frequência com que aparecem. Quanto mais frequentemente um token for usado no texto, menor será a probabilidade de ele se repetir. Escolha um valor entre -2,0 e 2 com incrementos de valores decimais.

    • Top P:

      Essa configuração determina a diversidade da resposta gerada. Um valor mais alto retorna respostas mais diversas. Recomendamos alterar o valor P ou de temperatura, não ambos. Escolha um valor entre 0 e 1 com incrementos de valores decimais.

    Nota: Você pode definir diferentes valores de parâmetros para testar e determinar os valores mais adequados para seu caso de uso. A alteração dos valores dos parâmetros influenciará a resposta do LLM.
  5. Agora, você pode começar a criar um Prompt e adicionar entradas de prompt, conforme necessário. Vejamos um exemplo para dar orientações quanto às etapas.

Exemplo:

O Desenvolvedor profissional está criando um Template de prompt que será usado para analisar e extrair o endereço de diferentes tipos de documentos durante o processamento para extração de dados.
O Desenvolvedor profissional criará um Template de prompt com o nome: Analisador de endereços. Esse Template de prompt se concentrará em extrair as informações de endereço dos documentos. O template será disponibilizado para Desenvolvedores cidadãos e Usuários corporativos que o reutilizarão como uma tarefa ou ação na automação.

Criar template de prompt

  1. Você já selecionou uma Conexão de modelo na lista disponível (veja a etapa 3 acima) e agora vamos começar a escrever seu Prompt.
  2. No campo Prompt, digite: ‘parse the address & return $addressline$, $city$, $province$, $zipcode$ and $country$’.
  3. Clique fora do campo de entrada do Prompt.
  4. A seção Entrada de prompt é preenchida automaticamente com entradas de prompt de espaço reservado para as quais você pode definir valores. Nesse caso, os seguintes espaços reservados de Entrada de prompt são criados pelo sistema.
    • $addressline$
    • $city$
    • $province$
    • $zipcode$
    • $country$
    A finalidade do Prompt é identificar um endereço no documento e queremos ver os valores de retorno de resposta do Prompt extraídos para essas entradas de prompt: $address line$, $city$, $province$, $zipcode$ e $country$.
    Nota: Você também pode adicionar uma Entrada de prompt manualmente clicando em Adicionar entrada de prompt.
  5. Em seguida, clique em Obter resposta para ter uma resposta do modelo de IA generativa com base no seu Prompt.
    Nota: Teste e experimente diferentes prompts e valores de Entrada de prompt para ter a resposta desejada do modelo de IA generativa.
  6. Quando estiver satisfeito com a resposta, Salve o Template de prompt.

Próximas etapas

Seu próximo passo é fazer checkin no Template de prompt para que ele possa ser disponibilizado ao Desenvolvedor cidadão e ao Usuário corporativo no pacote do Modelo de prompt de IA generativa para uso na automação.
Nota: Ao criar ou testar um Template de prompt na tela Template de prompt, os detalhes de sucesso ou falha e as respostas da IA generativa podem ser visualizados em Administração > Log de auditoria. Ver Governança de IA
Por que você faria checkin em um Template de prompt?

Depois de criar um Template de prompt, faça checkin na pasta Pública. Isso permitirá que o Desenvolvedor profissional, Usuário corporativo ou Desenvolvedor cidadão use o Template de prompt no pacote do Modelo de prompt de IA generativa.

O Task Bot, com um ou vários Templates de prompt incorporados, pode ser adicionado a um fluxo de processo maior que executaria um cenário de fluxo de trabalho completo.