Monitorar interações de Log do prompt de IA

O Log do prompt de IA fornece uma visão resumida e consolidada de todas as sessões que ocorrem em uma execução de automação para interações de modelo.

Pode haver interações com vários modelos em uma sessão. Cada execução de automação recebe um ID da sessão que permite a agregação de todos os eventos em um único ID da sessão.

O link Governança de IA > Registro de prompt de IA > ID da sessão na coluna ID da sessão permite detalhar e exibir todos os dados de interação do modelo que ocorreram em uma sessão para esse ID da sessão. A exibição detalhada inclui prompts, respostas e outros parâmetros trocados com os modelos básicos. Você pode refinar a pesquisa por ID da sessão para exibir detalhes adicionais específicos da sessão selecionada.

Nota: Use o cursor para passar sobre os ícones de ação para identificar funções específicas.

Detalhes da tabela do Log do prompt de IA

A tabela do Log do prompt de IA classifica e exibe detalhes conforme estas colunas:

Detalhes da tabela do Log do prompt de IA

um
Duração: Mostra a hora de início e término da execução de uma sessão.
Nota: Essa informação não estará disponível se a sessão estiver em andamento.
dois

Hora de início: Mostra a hora de início da execução da sessão.

três

ID da sessão: Mostra o ID da sessão para uma execução de automação. Uma sessão pode consistir em múltiplas interações de modelo, que fazem parte da mesma execução de automação. Clique no link ID da sessão para exibir detalhes de todas as interações do modelo para essa sessão.

quatro

Tipo de prompt: Mostra o tipo de prompt utilizado na automação. Por exemplo, o Formato livre é relevante quando os pacotes IA generativa são usados​ou o Modelo de prompt é relevante quando os pacotes Modelo de prompt de IA generativa são usados.

cinco

Nome da automação: Mostra o nome da automação que usou o prompt.

seis
ID do dispositivo: Mostra o ID do dispositivo em que a automação foi executada.
Nota: Essa informação não estará disponível se a ação for executada na Control Room.
sete

ID do usuário: Mostra o ID do usuário que executou a automação.

Detalhes da sessão do Log do prompt de IA

Da tabela do Log do prompt de IA, você pode clicar no link ID da sessão para detalhar ainda mais a visualização dos dados de uma sessão.

Detalhes do ID da sessão do Log do prompt de IA

Nota: O campo Tipo de automação mostra o tipo de modelo para o qual o modelo básico foi usado na sessão de interação de modelo. Os campos restantes são iguais aos detalhes da tabela do Log do prompt de IA.

Detalhes da interação do modelo

Você pode visualizar os detalhes adicionais da sessão de interação do modelo na mesma tela, expandindo o nome do modelo básico exibido para essa interação. Clique no prompt ou na ação na seção de detalhes para visualizar mais detalhes do prompt ou das respostas do modelo.

Detalhes adicionais da sessão do Log do prompt de IA

Item da tabela Descrição
Prompt Mostra o texto do prompt inserido pelo usuário no campo Prompt ao definir o prompt.
Resposta Mostra a resposta recebida do modelo, para a solicitação de prompt.

Em geral, o líder de automação e o líder de GRC têm permissão para visualizar os detalhes adicionais das interações do modelo em cada sessão, pois monitoram os logs para conformidade e governança para garantir que as políticas sejam cumpridas ao usar modelos básicos nas automações.

Clique em Mais detalhes para visualizar parâmetros adicionais para a interação do modelo:
Nota: Esse detalhamento adicional estará disponível para desenvolvedores profissionais apenas se a permissão relevante for habilitada pelo administrador de automação (Administração > Funções > Governança de IA > Exibir registros de prompt de IA > Exibir detalhes do prompt de IA). Caso contrário, eles poderão visualizar apenas os detalhes da sessão de primeiro nível.
Item da tabela Descrição
Duração da sessão Mostra a hora de início e término.
Fornecedor Mostra o nome do provedor do modelo básico.
ID da sessão externa Mostra o ID da sessão de uma interação de modelo específica capturada em uma sessão. Uma única sessão pode consistir em diversas interações do modelo em uma única execução de automação. Você pode usar essas informações para acompanhar cada interação do modelo que ocorre em uma sessão.
Parâmetros Mostra os valores dos parâmetros usados para o prompt, como: Temperatura, Top P, Máx. de tokens, Penalidade de presença e outros. Esses parâmetros e os respectivos valores variam conforme o provedor do modelo.
Ação Mostra a ação do fornecedor do modelo usado no prompt.
Modelo Mostra o nome da versão do modelo básico, por exemplo: GPT 3.5 Turbo para Azure OpenAI, VertexAI para Vertex AI do Google, Claude para Amazon Bedrock e outros.
Número de linha Mostra o número de linha em que essa ação ocorreu na automação. Use essas informações para identificar rapidamente a ação na automação.

Para uma execução de automação, com múltiplas interações de modelo, é possível ver um painel expansível separado para cada chamada de modelo no log da sessão. Esse é um caso de uso típico para automações executadas para Pacotes IA generativa.

Sessão do Log do prompt de IA com vários registros de interação de modelo