Monitorar interações de Log do prompt de IA

O Log do prompt de IA fornece uma visão resumida e consolidada de todas as sessões que ocorrem em uma execução de automação para interações de modelo.

Pode haver interações com vários modelos em uma sessão. Cada execução de automação recebe um ID da sessão que permite a agregação de todos os eventos em um único ID da sessão.

O link Governança de IA > Log de prompt de IA > ID da sessão na coluna ID da sessão permite que você detalhe e visualize todas as interações do modelo que ocorreram em uma sessão para essa ID da sessão. A exibição detalhada inclui prompts, respostas e outros parâmetros trocados com os modelos básicos. Você pode refinar a pesquisa por ID da sessão para exibir detalhes adicionais específicos da sessão selecionada.

Nota: Use o cursor para passar sobre os ícones de ação para identificar funções específicas.

Detalhes da tabela do Log do prompt de IA

A tabela do Log do prompt de IA classifica e exibe detalhes conforme estas colunas:

Log do prompt de IA detalhes da tabela

um
Duração: Mostra a hora de início e término da execução de uma sessão.
Nota: Essa informação não estará disponível se a sessão estiver em andamento.
dois

Hora de início: Mostra a hora de início da execução da sessão.

três

ID da sessão: Mostra o ID da sessão para uma execução de automação. Uma sessão pode consistir em múltiplas interações de modelo, que fazem parte da mesma execução de automação. Clique no link ID da sessão para exibir detalhes de todas as interações do modelo para essa sessão.

quatro

Tipo de prompt: Mostra o tipo de prompt utilizado na automação. Por exemplo, o Formato livre é relevante quando os IA generativa pacotes são usados ou o Modelo de prompt é relevante quando os Modelo de prompt de IA generativa pacotes são usados.

cinco

Nome da automação: Mostra o nome da automação que usou o prompt.

seis
Nome do dispositivo: Mostra o ID do dispositivo em que a automação foi executada.
Nota: Essa informação não estará disponível se a ação for executada na Control Room.
sete

Usuário: Mostra o ID do usuário que executou a automação.

oito

Caminho da pasta: O local da pasta da automação em que ocorreu a execução. Quando um Habilidade de IA é integrado a uma automação (pai ou filho), o caminho da pasta exibido é o mesmo que o caminho da pasta da automação pai.

Detalhes da sessão do Log do prompt de IA

Da tabela do Log do prompt de IA, você pode clicar no link ID da sessão para detalhar ainda mais a visualização dos dados de uma sessão.

Log do prompt de IA Detalhes do ID da sessão

Nota: O campo Tipo de automação mostra o tipo de modelo para o qual o modelo básico foi usado na sessão de interação de modelo. Os campos restantes são iguais aos detalhes da tabela do Log do prompt de IA.

Detalhes da interação do modelo

Você pode visualizar os detalhes adicionais da sessão de interação do modelo na mesma tela, expandindo o nome do modelo básico exibido para essa interação. Clique no prompt ou na ação na seção de detalhes para visualizar mais detalhes do prompt ou das respostas do modelo.

Log do prompt de IA detalhes adicionais da sessão

Item da tabela Descrição
Prompt Mostra o texto do prompt inserido pelo usuário no campo Prompt ao definir o prompt.
Resposta Mostra a resposta recebida do modelo, para a solicitação de prompt.

Em geral, o líder de automação e o líder de GRC têm permissão para visualizar os detalhes adicionais das interações do modelo em cada sessão, pois monitoram os logs para conformidade e governança para garantir que as políticas sejam cumpridas ao usar modelos básicos nas automações.

Clique em Mais detalhes para visualizar parâmetros adicionais para a interação do modelo:
Nota: Este detalhamento adicional vai estar disponível para desenvolvedores profissionais somente se a permissão relevante for habilitada pelo administrador de automação ( Administração > Funções > Governança de IA > Exibir logs de prompt de IA > Exibir detalhes de prompt de IA). Caso contrário, eles poderão visualizar apenas os detalhes da sessão de primeiro nível.
Item da tabela Descrição
Duração da sessão Mostra a hora de início e término.
Fornecedor Mostra o nome do provedor do modelo básico.
ID da sessão externa Mostra o ID da sessão de uma interação de modelo específica capturada em uma sessão. Uma única sessão pode consistir em diversas interações do modelo em uma única execução de automação. Você pode usar essas informações para acompanhar cada interação do modelo que ocorre em uma sessão.
Parâmetros Mostra os valores dos parâmetros usados para o prompt, como: Temperatura, Top P, Máx. de tokens, Penalidade de presença e outros. Esses parâmetros e os respectivos valores variam conforme o provedor do modelo.
Ação Mostra a ação do fornecedor do modelo usado no prompt.
Modelo Mostra o nome da versão do modelo básico, por exemplo: GPT 3.5 Turbo para Azure OpenAI, VertexAI para Google Vertex AI, Claude para Amazon Bedrock e outros.
Número de linha Mostra o número de linha em que essa ação ocorreu na automação. Use essas informações para identificar rapidamente a ação na automação.

Para uma execução de automação, com múltiplas interações de modelo, é possível ver um painel expansível separado para cada chamada de modelo no log da sessão. Esse é um caso de uso típico para automações executadas para IA generativa Pacotes.

Log do prompt de IA sessão com vários logs de interação de modelo