Painel Governança de IA

Rastreie, monitore e controle o uso de IA generativa durante a criação e execução de automações com uma visão unificada dos dados agregados que são consolidados em uma representação visual com o painel de Governança de IA.

Nota: Este recurso requer a licença Enterprise Platform. Para informações sobre a versão compatível com esse recurso, consulte Enterprise Platform.

Visão geral

O novo painel Governança de IA oferece visibilidade completa sobre o seguinte:
  • Principais execuções de automação usando modelos de IA:

    Obtenha uma compreensão abrangente do uso de IA nas automações da sua organização, com foco em relatórios de risco e conformidade. Forneça insights sobre os riscos associados às automações com tecnologia de IA executadas com mais frequência.

  • Modelos mais usados por fornecedores de hiperescaladores:

    Rastreie e monitore os modelos de IA em uso para identificar aqueles que não estão em conformidade, simplificando o gerenciamento de risco e conformidade nas automações.

  • Consumo de tokens dos modelos mais utilizados:

    Visualize as automações que mais consomem tokens.

Painel Governança de IA

O painel fornece análise para você visualizar todas as interações do modelo e seu uso para analisar e obter insights valiosos sobre o uso da IA em todas as suas automações. Isso permite que você monitore e aplique a conformidade das suas políticas de governança para um melhor gerenciamento de riscos.
Nota: O painel Governança de IA representa dados das interações do modelo durante as execuções de automação usando os Pacotes IA generativa e Habilidades de IA.

Durante a fase de design ou execução, detalhe cada interação de automação que utiliza modelos de IA, para observar o desempenho do modelo e tomar uma decisão informada para validar e promover o uso dos modelos com maior desempenho. Economize tempo e custo eliminando o uso de modelos menos eficientes, conforme o seu caso de uso.

Os dados do painel também fornecem análise sobre o uso do modelo, desempenho e métricas relevantes para permitir que você otimize o custo previsto por meio do monitoramento.consumo de tokens dos modelos.

Além disso, você pode baixar relatórios diretamente do seu painel para compartilhar em sua organização, bem como para auditorias internas de conformidade.

O Automation Command Center (ACC) atualiza e renova os dados a cada cinco minutos. No entanto, os dados agregados levam de 15 a 20 minutos para serem compilados após uma atualização completa da Control Room.

Nota:

O painel Governança de IA é um componente do Automation Command Center (ACC).

Para saber mais sobre os recursos do Automation Command Center (ACC), consulte Centro de Comando de Automação.

Usuários e permissões

Leads de GRC, Leads de Automação e Desenvolvedores profissionais podem acessar o painel Governança de IA por meio da configuração habilitada nas permissões Funções > IA > Exibir painéis de IA. O administrador de automação habilitaria permissões para as personas.

Habilitar a configuração Exibir painéis de IA mostra o painel Governança de IA. Para detalhar ainda mais e acessar logs detalhados nas guias Log de prompt de IA e Log de eventos, você também deve habilitar as seguintes configurações adicionais:
  • IA > Exibir logs de prompt de IA > Exibir detalhes do prompt de IA
  • IA > Exibir logs do evento de IA > Exibir detalhes do evento de IA
Nota: Com o acesso e as permissões acima, os desenvolvedores profissionais podem visualizar dados de todas as automações. Eles não estão restritos apenas à visualização de dados de suas automações. Este é um comportamento conhecido do produto.

Permissão do painel Governança de IA

Benefícios

Use o painel Governança de IA para aproveitar os seguintes recursos:
  • Acompanhe as principais automações usando IA para entender a extensão e o uso da IA em todas as automações. Isso apoia a avaliação eficaz de riscos e a elaboração de relatórios de conformidade. Identifique e relate riscos associados às automações com tecnologia de IA executadas com mais frequência para um melhor gerenciamento de riscos.
  • Monitore a utilização dos modelos mais utilizados para identificar e rastrear modelos que não estão em conformidade, o que vai simplificar o gerenciamento de incidentes e riscos por meio de mitigação oportuna.
  • Controle o uso de modelos aprovados e validados durante o desenvolvimento de automações usando IA. Detalhe cada interação do modelo, prompts de Habilidade de IA e respostas do modelo para obter insights valiosos para analisar padrões de uso.
  • Visualize o consumo de tokens das automações que mais consomem a otimização do modelo.
  • Baixe relatórios do painel para compartilhar dados e análise em toda a sua empresa.

Disponibilidade

Uma licença Enterprise Platform é necessária para usar o recurso de painel de Análise de Governança de IA.

Para obter detalhes sobre a licença Enterprise Platform, consulte Enterprise Platform.