Governança de IA

Fortalecer a governança e manter a integridade de interações e eventos da IA generativa nas automações por meio de monitoramento e auditoria robustos com Governança de IA.
Nota: Os modelos de IA generativa podem produzir erros e/ou deturpar as informações que geram. É aconselhável verificar a precisão, confiabilidade e integridade do conteúdo gerado pelo modelo de IA.

Visão geral

Nota: Esta oferta requer a licença Enterprise Platform. Para informações sobre a versão compatível com esse recurso, consulte Enterprise Platform.

A Governança de IA é oferecida como um recurso de plataforma no conjunto de produtos do AI Agent Studio. Isso foi projetado para fornecer ferramentas de administrador que oferecem um uso seguro de IA, controlar o acesso aos modelos básicos e monitorar e auditar capacidade durante a execução de automações alimentadas por IA generativa.

A Governança de IA fornece informações de auditoria quando os usuários usam modelos básicos nas automações. Os usuários com permissões apropriadas podem visualizar o resumo da auditoria e informações detalhadas. A Control Room permite que os clientes gerenciem as preferências de registro de dados, controlem o acesso para visualizar os logs e protejam dados confidenciais por meio de criptografia.

O vídeo a seguir oferece uma visão geral de Governança de IA com foco na oferta de valor:

Os seguintes recursos são compatíveis com a Governança de IA:
  • Controles de acesso baseados em função (RBAC) para gerenciar o acesso do usuário por meio de permissões com o objetivo de gerenciar o registro de dados e exibir registros e detalhes de interação de IA.
  • Exibição consolidada do Log do prompt de IA das interações do modelo básico que ocorrem em uma execução de automação.
  • Log de eventos para rastrear todos os eventos da IA generativa que ocorrem durante as interações com os modelos básicos.
  • Pesquisar e Exportar itens para CSV para exportar e encaminhar registros de log para as plataformas compatíveis de informações de segurança e gerenciamento de eventos (SIEM).

A imagem a seguir mostra uma visão geral do fluxo de trabalho da Governança de IA:

fluxo de trabalho de Governança de IA

Benefícios

Capacitar o uso responsável de IA com proteções integradas para segurança com a Governança de IA:
  • Gestão de conformidade: Mantenha-se em conformidade com as futuras regulamentações e estruturas de IA. Monitore os logs para detectar de modo dinâmico riscos de exposição de dados confidenciais e uso imediato conforme as práticas recomendadas. Os dados e credenciais de prompt para acesso autorizado aos modelos são armazenados com segurança usando algoritmos de criptografia padrão do setor.
  • Monitoramento e auditoria: Audite e monitore o uso da interação do modelo nas execuções de automação para garantir a conformidade das políticas de governança. Rastreie as interações dos modelos em automações para garantir o uso e o desempenho adequados dos modelos.
  • Proteções para segurança: Gerencie uma segurança mais forte para Conexões de modelo e dados de prompt com controle de acesso baseado em função para modelos aprovados. Todas as conexões com modelos aprovados são gerenciadas de forma central e podem ser usadas nas automações.
  • Insights de uso: Obtenha insights sobre o uso imediato e modelos de IA generativa usados em automações.
  • Visualização e rastreamento de dados do registro: Visualize as interações da sessão e os detalhes do evento correspondentes no Log do prompt de IA e nas guias do Log de eventos.
  • Análise de Governança de IA : Rastreie, monitore e controle o uso de IA generativa durante a criação e execução de automações com uma visão unificada dos dados agregados que são consolidados em uma representação visual com o painel de Governança de IA.
  • Regra de análise do código: Garanta o uso responsável e compatível da IA com a regra de análise de código de Governança de IA que permite monitorar e aplicar sua política de uso de IA por meio de notificações para correção imediata.

Disponibilidade

Uma licença Enterprise Platform é necessária para usar o recurso de Governança de IA para AI Agent Studio.

Para informações sobre a versão compatível com esse recurso, consulte Enterprise Platform