Governança de IA
- Última atualização2024/09/03
Governança de IA
Visão geral
- Os modelos de IA generativa podem produzir erros e/ou deturpar as informações que geram. É aconselhável verificar a precisão, confiabilidade e integridade do conteúdo gerado pelo modelo de IA.
- O Governança de IA está disponível apenas em implantações Nuvem.
A Governança de IA é oferecida como um recurso de plataforma no conjunto de produtos do AI Agent Studio. Isso foi projetado para fornecer ferramentas de administrador que oferecem um uso seguro de IA, controlar o acesso aos modelos básicos e monitorar e auditar capacidade durante a execução de automações alimentadas por IA generativa.
A Governança de IA fornece informações de auditoria quando os usuários usam modelos básicos nas automações. Os usuários com permissões apropriadas podem visualizar o resumo da auditoria e informações detalhadas. A Control Room permite que os clientes gerenciem as preferências de registro de dados, controlem o acesso para visualizar os logs e protejam dados confidenciais por meio de criptografia.
O vídeo a seguir oferece uma visão geral de Governança de IA com foco na oferta de valor:
- Controles de acesso baseados em função (RBAC) para gerenciar o acesso do usuário por meio de permissões com o objetivo de gerenciar o registro de dados e exibir registros e detalhes de interação de IA.
- Exibição consolidada do Log do prompt de IA das interações do modelo básico que ocorrem em uma execução de automação.
- Log de eventos para rastrear todos os eventos da IA generativa que ocorrem durante as interações com os modelos básicos.
- Pesquisar e Exportar itens para CSV para exportar e encaminhar registros de log para as plataformas compatíveis de informações de segurança e gerenciamento de eventos (SIEM).
A imagem a seguir mostra uma visão geral do fluxo de trabalho da Governança de IA:
Benefícios
- Gestão de conformidade: Mantenha-se em conformidade com as futuras regulamentações e estruturas de IA. Monitore os logs para detectar de modo dinâmico riscos de exposição de dados confidenciais e uso imediato conforme as práticas recomendadas. Os dados e credenciais de prompt para acesso autorizado aos modelos são armazenados com segurança usando algoritmos de criptografia padrão do setor.
- Monitoramento e auditoria: Audite e monitore o uso da interação do modelo nas execuções de automação para garantir a conformidade das políticas de governança. Rastreie as interações dos modelos em automações para garantir o uso e o desempenho adequados dos modelos.
- Proteções para segurança: Gerencie uma segurança mais forte para Conexões de modelo e dados de prompt com controle de acesso baseado em função para modelos aprovados. Todas as conexões com modelos aprovados são gerenciadas de forma central e podem ser usadas nas automações.
- Insights de uso: Obtenha insights sobre o uso imediato e modelos de IA generativa usados em automações.
- Visualização e rastreamento de dados do registro: Visualize as interações da sessão e os detalhes do evento correspondentes no Log do prompt de IA e nas guias do Log de eventos.
Disponibilidade
- Função: Função personalizada para a Governança de IA
- Configurações: Ative .
- Selecione:
- Selecione:
Para obter detalhes sobre a licença Enterprise Platform, consulte Enterprise Platform.