Monitorar interações de Log do prompt de IA
- Última atualização2024/12/09
Monitorar interações de Log do prompt de IA
O Log do prompt de IA fornece uma visão resumida e consolidada de todas as sessões que ocorrem em uma execução de automação para interações de modelo.
Pode haver interações com vários modelos em uma sessão. Cada execução de automação recebe um ID da sessão que permite a agregação de todos os eventos em um único ID da sessão.
O link ID da sessão. A exibição detalhada inclui prompts, respostas e outros parâmetros trocados com os modelos básicos. Você pode refinar a pesquisa por ID da sessão para exibir detalhes adicionais específicos da sessão selecionada.
na coluna ID da sessão permite que você detalhe e visualize todas as interações do modelo que ocorreram em uma sessão para essaDetalhes da tabela do Log do prompt de IA
A tabela do Log do prompt de IA classifica e exibe detalhes conforme estas colunas:
Duração: Mostra a hora de início e término da execução de uma sessão.
Nota: Essa informação não estará disponível se a sessão estiver em andamento.
|
|
Hora de início: Mostra a hora de início da execução da sessão. |
|
ID da sessão: Mostra o ID da sessão para uma execução de automação. Uma sessão pode consistir em múltiplas interações de modelo, que fazem parte da mesma execução de automação. Clique no link ID da sessão para exibir detalhes de todas as interações do modelo para essa sessão. |
|
Tipo de prompt: Mostra o tipo de prompt utilizado na automação. Por exemplo, o Formato livre é relevante quando os IA generativa pacotes são usados ou o Modelo de prompt é relevante quando os Modelo de prompt de IA generativa pacotes são usados. |
|
Nome da automação: Mostra o nome da automação que usou o prompt. |
|
Nome do dispositivo: Mostra o ID do dispositivo em que a automação foi executada.
Nota: Essa informação não estará disponível se a ação for executada na Control Room.
|
|
Usuário: Mostra o ID do usuário que executou a automação. |
|
Caminho da pasta: O local da pasta da automação em que ocorreu a execução. Quando um Habilidade de IA é integrado a uma automação (pai ou filho), o caminho da pasta exibido é o mesmo que o caminho da pasta da automação pai. |
Detalhes da sessão do Log do prompt de IA
Da tabela do Log do prompt de IA, você pode clicar no link ID da sessão para detalhar ainda mais a visualização dos dados de uma sessão.
Detalhes da interação do modelo
Você pode visualizar os detalhes adicionais da sessão de interação do modelo na mesma tela, expandindo o nome do modelo básico exibido para essa interação. Clique no prompt ou na ação na seção de detalhes para visualizar mais detalhes do prompt ou das respostas do modelo.
Item da tabela | Descrição |
---|---|
Prompt | Mostra o texto do prompt inserido pelo usuário no campo Prompt ao definir o prompt. |
Resposta | Mostra a resposta recebida do modelo, para a solicitação de prompt. |
Em geral, o líder de automação e o líder de GRC têm permissão para visualizar os detalhes adicionais das interações do modelo em cada sessão, pois monitoram os logs para conformidade e governança para garantir que as políticas sejam cumpridas ao usar modelos básicos nas automações.
Item da tabela | Descrição |
---|---|
Duração da sessão | Mostra a hora de início e término. |
Fornecedor | Mostra o nome do provedor do modelo básico. |
ID da sessão externa | Mostra o ID da sessão de uma interação de modelo específica capturada em uma sessão. Uma única sessão pode consistir em diversas interações do modelo em uma única execução de automação. Você pode usar essas informações para acompanhar cada interação do modelo que ocorre em uma sessão. |
Parâmetros | Mostra os valores dos parâmetros usados para o prompt, como: Temperatura, Top P, Máx. de tokens, Penalidade de presença e outros. Esses parâmetros e os respectivos valores variam conforme o provedor do modelo. |
Ação | Mostra a ação do fornecedor do modelo usado no prompt. |
Modelo | Mostra o nome da versão do modelo básico, por exemplo: GPT 3.5 Turbo para Azure OpenAI, VertexAI para Google Vertex AI, Claude para Amazon Bedrock e outros. |
Número de linha | Mostra o número de linha em que essa ação ocorreu na automação. Use essas informações para identificar rapidamente a ação na automação. |
Para uma execução de automação, com múltiplas interações de modelo, é possível ver um painel expansível separado para cada chamada de modelo no log da sessão. Esse é um caso de uso típico para automações executadas para IA generativa Pacotes.