Governança de IA
- Última atualização2024/10/31
Governança de IA
Visão geral
A Governança de IA é oferecida como um recurso de plataforma no conjunto de produtos do AI Agent Studio. Isso foi projetado para fornecer ferramentas de administrador que oferecem um uso seguro de IA, controlar o acesso aos modelos básicos e monitorar e auditar capacidade durante a execução de automações alimentadas por IA generativa.
A Governança de IA fornece informações de auditoria quando os usuários usam modelos básicos nas automações. Os usuários com permissões apropriadas podem visualizar o resumo da auditoria e informações detalhadas. A Control Room permite que os clientes gerenciem as preferências de registro de dados, controlem o acesso para visualizar os logs e protejam dados confidenciais por meio de criptografia.
O vídeo a seguir oferece uma visão geral de Governança de IA com foco na oferta de valor:
- Controles de acesso baseados em função (RBAC) para gerenciar o acesso do usuário por meio de permissões com o objetivo de gerenciar o registro de dados e exibir registros e detalhes de interação de IA.
- Exibição consolidada do Log do prompt de IA das interações do modelo básico que ocorrem em uma execução de automação.
- Log de eventos para rastrear todos os eventos da IA generativa que ocorrem durante as interações com os modelos básicos.
- Pesquisar e Exportar itens para CSV para exportar e encaminhar registros de log para as plataformas compatíveis de informações de segurança e gerenciamento de eventos (SIEM).
A imagem a seguir mostra uma visão geral do fluxo de trabalho da Governança de IA:
Benefícios
- Gestão de conformidade: Mantenha-se em conformidade com as futuras regulamentações e estruturas de IA. Monitore os logs para detectar de modo dinâmico riscos de exposição de dados confidenciais e uso imediato conforme as práticas recomendadas. Os dados e credenciais de prompt para acesso autorizado aos modelos são armazenados com segurança usando algoritmos de criptografia padrão do setor.
- Monitoramento e auditoria: Audite e monitore o uso da interação do modelo nas execuções de automação para garantir a conformidade das políticas de governança. Rastreie as interações dos modelos em automações para garantir o uso e o desempenho adequados dos modelos.
- Proteções para segurança: Gerencie uma segurança mais forte para Conexões de modelo e dados de prompt com controle de acesso baseado em função para modelos aprovados. Todas as conexões com modelos aprovados são gerenciadas de forma central e podem ser usadas nas automações.
- Insights de uso: Obtenha insights sobre o uso imediato e modelos de IA generativa usados em automações.
- Visualização e rastreamento de dados do registro: Visualize as interações da sessão e os detalhes do evento correspondentes no Log do prompt de IA e nas guias do Log de eventos.
- Análise de Governança de IA : Rastreie, monitore e controle o uso de IA generativa durante a criação e execução de automações com uma visão unificada dos dados agregados que são consolidados em uma representação visual com o painel de Governança de IA.
- Regra de análise do código: Garanta o uso responsável e compatível da IA com a regra de análise de código de Governança de IA que permite monitorar e aplicar sua política de uso de IA por meio de notificações para correção imediata.
Disponibilidade
Uma licença Enterprise Platform é necessária para usar o recurso de Governança de IA para AI Agent Studio.
Para informações sobre a versão compatível com esse recurso, consulte Enterprise Platform