Governança de IA
- Última atualização2024/05/30
Governança de IA
A Governança de IA foi projetada para fornecer ferramentas de administrador a fim de monitorar e auditar o uso de IA na automação. Também fornece visibilidade nas interações do modelo que ocorrem durante a execução da automação.
- Os modelos de IA generativa podem produzir erros e/ou deturpar as informações que geram. É aconselhável verificar a precisão, confiabilidade e integridade do conteúdo gerado pelo modelo de IA.
- O Governança de IA está disponível apenas em implantações Nuvem.
A Governança de IA fornece informações de auditoria quando os usuários usam modelos de IA nas automações. Os usuários com permissões apropriadas podem visualizar o resumo da auditoria e informações detalhadas. A Control Room permite que os clientes gerenciem as preferências de registro de dados, controlem o acesso para visualizar os logs e protejam dados confidenciais por meio de criptografia.
A imagem a seguir mostra uma visão geral do fluxo de trabalho da Governança de IA:
Os seguintes recursos de Governança de IA são compatíveis:
- Gerenciamento de dados: Configure e gerencie suas preferências de registro de dados.
- Controles de acesso baseado em função (RBAC): Gerencie o acesso do usuário por meio de permissões para gerenciar o registro de dados e visualizar logs e detalhes da Governança de IA.
- Auditoria e monitoramento: Interações de modelo que ocorrem durante execuções de automação.
Logs da Governança de IA
O prompt de IA e logs de eventos estão disponíveis para registrar interações de modelo que ocorreram durante a execução da automação.
- Log de prompt de IA: Fornece visibilidade de cada sessão e dos eventos correspondentes que ocorreram durante uma interação do modelo.
- Log de eventos: Fornece visibilidade de cada evento que ocorreu durante uma interação de modelo.
- É possível exportar e pesquisar os registros de log.
- Também é possível visualizar os detalhes da sessão ao receber a permissão Visualizar detalhes do prompt de IA.
- É possível visualizar os detalhes da sessão ao receber a permissão Visualizar detalhes do evento de IA. Os logs de evento incluem ações Bem-sucedidas e Malsucedidas.
Permissões do Governança de IA
Um usuário com a permissão Gerenciar funções pode criar e atribuir funções aos usuários para que eles tenham acesso a recursos e operações.
| Permissão | Descrição |
|---|---|
| Exibir configurações | Permite que os usuários visualizem a opção Gerenciamento de dados de IA na página Configurações. |
| Gerenciar configurações | Permite que os usuários ativem ou desativem a opção Configurações de registro de dados. |
| Exibir logs de prompt de IA | Permite que os usuários visualizem os logs de prompt gerados por IA e realizem pesquisa, classificação e exportação de logs para arquivo csv. |
| Exibir detalhes do prompt de IA | Permite que os usuários visualizem os detalhes de uma sessão. |
| Exibir logs do evento de IA | Permite que os usuários visualizem os logs de eventos gerados por IA e façam pesquisa, classificação e exportação de logs para arquivo csv. |
| Exibir detalhes do evento de IA | Permite que os usuários visualizem os detalhes do evento. |
Demonstração da governança de IA
O vídeo a seguir mostra como habilitar e usar Governança de IA: