Criar e gerenciar Proteções de IA

Este tópico explorará como criar Proteções de IA no Automation 360. Os Proteções de IA funcionam como uma salvaguarda crucial, garantindo o uso responsável da IA e protegendo informações confidenciais durante a execução do bot.

Para criar uma proteção na Control Room:

Nota: Uma proteção padrão pré-configurada é criada automaticamente para novos clientes com a licença necessária. Essa proteção padrão pode ser atribuída a pastas ou você pode criar proteções personalizadas seguindo as instruções deste tópico.

Procedimento

  1. No ambiente da Control Room, navegue para IA > Proteções de IA e clique em + para criar uma nova Proteções de IA.
  2. Na tela Criar proteção, defina as Configurações gerais:
    1. Nome: Forneça um nome para identificar facilmente as Proteções de IA.
    2. Descrição (opcional): Adicione uma breve descrição que defina as Proteções de IA.
    3. Clique em Próximo para ir para a seção Toxicidade.
  3. Na seção Regra de toxicidade, configure regras para examinar prompts e respostas do modelo em busca de conteúdo tóxico. Você verá opções para configurar os níveis de toxicidade tanto para Solicitações quanto para Respostas do modelo. Para mais informações sobre como selecionar uma regra de toxicidade apropriada, consulte Toxicidade na IA.
  4. Na seção Regra de mascaramento de dados, configure as regras de mascaramento de dados para todos os Bots de tarefas e Habilidades de IA. Você pode configurar essas regras e atribuí-las a pastas, garantindo que qualquer bot nessa pasta siga automaticamente o comportamento de mascaramento.
    1. Mascarar todas as categorias: Selecione essa opção para ativar o mascaramento de dados para todas as categorias e tipos de dados confidenciais conhecidos e prontos para uso. A seleção dessa opção oferece uma abordagem abrangente à proteção de dados, mascarando automaticamente todas as informações confidenciais detectadas nos prompts e nas respostas do modelo.
    2. Selecione as categorias e os tipos para os quais você deseja alterar o tratamento de dados. As categorias e os tipos não listados serão mascarados por padrão: A seleção dessa opção permite personalizar a forma como o sistema de Proteções de IA lida com dados confidenciais. Você pode iniciar criando uma regra para mascaramento de dados. Para obter mais informações sobre como criar uma regra, consulte Mascaramento de dados em IA.
    3. Clique em Adicionar.
    4. Clique em Próximo para ir para o Teste.
  5. Opcional: Teste da proteção: Você pode inserir um prompt de amostra para testar como a proteção se comporta com as configurações definidas. Depois que você inserir um prompt e clicar em Testar proteção, dependendo das configurações de toxicidade configuradas, a proteção indicará se o prompt é permitido ou bloqueado. Na resposta, você verá o conteúdo mascarado.
  6. Clique em Próximo para ir para a seção Atribuir a pastas.
  7. Na seção Atribuir a pastas, selecione as pastas no espaço de trabalho público. As Proteções de IA serão aplicadas a todos os Bots de tarefas e Habilidades de IA dentro das pastas selecionadas.
    Nota:
    1. Proteção única por pasta: Apenas uma proteção pode ser aplicada a cada pasta.
    2. Herança para pastas filhas: Se uma pasta pai dentro da pasta Bots tiver uma proteção atribuída a ela, todas as suas pastas filhas herdarão automaticamente a mesma proteção.
    3. Seleção da pasta pai: Ao atribuir Proteções de IA, você só pode selecionar pastas pai dentro da pasta Bots. Pastas filhas não podem receber Proteções de IA atribuídas individualmente.
  8. Clique em Criar para concluir a criação da proteção.

    Você receberá uma mensagem de sucesso gerada pelo sistema informando que a proteção foi criada. Você será direcionado para a tela das Proteções de IA que exibe uma lista de Proteções de IA

    Você pode Exibir proteção, Editar proteção ou Excluir cada proteção clicando nas reticências ao lado delas. Além disso, a tabela exibe a Pasta atribuída a, a data/hora da Última modificação e Modificado por para cada proteção.

    Exibir, Editar, Excluir Proteções de IA

    Ações Função
    Visualizar proteção

    Os detalhes da proteção oferecem uma visão resumida dela.

    Configurações gerais exibe o nome, a descrição, o mascaramento de dados e as configurações de atribuição a pastas.
    Editar proteção Permite editar os detalhes da proteção.
    O botão Editar está ativado apenas para o administrador de automação.
    Nota: Usuários, como desenvolvedor profissional e desenvolvedor cidadão, com a permissão AI STUDIO > Exibir proteções de IA, podem ver detalhes de Proteções de IA, mas não podem editá-las.
    Excluir

    Clicar em Excluir exibe uma mensagem solicitando sua confirmação e, em seguida, exclui a proteção. Você receberá uma mensagem de confirmação da exclusão.

    Se você excluir uma proteção, todas as Habilidades de IA e automações na pasta que faz referência à proteção excluída não terão nenhuma Proteções de IA atribuída a elas.

    O botão Excluir está ativado apenas para o administrador de automação.
    Nota: Usuários, como desenvolvedor profissional e desenvolvedor cidadão, com permissão para AI STUDIO > Exibir proteções de IA, podem ver detalhes das Proteções de IA, mas não podem excluí-las.

Próximas etapas

Após a criação, Proteções de IA são automaticamente aplicadas em todas as automações dentro de uma pasta especificada. À medida que essas automações são executadas, o painel de Governança de IA oferecerá insights sobre as técnicas de mascaramento de dados aplicadas e os níveis de toxicidade identificados. Os logs do painel também incluem uma coluna para Proteções de IA.