Criar e gerenciar AI Guardrails

Este tópico explorará como criar AI Guardrails no Automation 360. Os AI Guardrails funcionam como uma salvaguarda crucial, garantindo o uso responsável da IA e protegendo informações confidenciais durante a execução do bot.

Para criar uma proteção na Control Room:

Nota: Uma proteção padrão pré-configurada é criada automaticamente para novos clientes com a licença necessária. Essa proteção padrão pode ser atribuída a pastas ou você pode criar proteções personalizadas seguindo as instruções deste tópico.

Procedimento

  1. No ambiente da Control Room, navegue para IA > AI Guardrails e clique em + para criar uma nova AI Guardrails.
  2. Na tela Criar proteção, defina as Configurações gerais:
    1. Nome: Forneça um nome para identificar facilmente as AI Guardrails.
    2. Descrição (opcional): Adicione uma breve descrição que defina as AI Guardrails.
    3. Clique em Próximo para ir para a seção Toxicidade.
  3. Na seção Regra de toxicidade, configure regras para examinar prompts e respostas do modelo em busca de conteúdo tóxico. Você verá opções para configurar os níveis de toxicidade tanto para Solicitações quanto para Respostas do modelo. Para mais informações sobre como selecionar uma regra de toxicidade apropriada, consulte Toxicidade na IA.
  4. Na seção Regra de mascaramento de dados, configure as regras de mascaramento de dados para todos os Task Bots e AI Skills. Você pode configurar essas regras e atribuí-las a pastas, garantindo que qualquer bot nessa pasta siga automaticamente o comportamento de mascaramento.
    1. Mascarar todas as categorias: Selecione essa opção para ativar o mascaramento de dados para todas as categorias e tipos de dados confidenciais conhecidos e prontos para uso. A seleção dessa opção oferece uma abordagem abrangente à proteção de dados, mascarando automaticamente todas as informações confidenciais detectadas nos prompts e nas respostas do modelo.
    2. Selecione as categorias e os tipos para os quais você deseja alterar o tratamento de dados. As categorias e os tipos não listados serão mascarados por padrão: A seleção dessa opção permite personalizar a forma como o sistema de AI Guardrails lida com dados confidenciais. Você pode iniciar criando uma regra para mascaramento de dados. Para obter mais informações sobre como criar uma regra, consulte Mascaramento de dados em IA.
    3. Clique em Adicionar.
    4. Clique em Próximo para ir para o Teste.
  5. Opcional: Teste da proteção: Você pode inserir um prompt de amostra para testar como a proteção se comporta com as configurações definidas. Depois que você inserir um prompt e clicar em Testar proteção, dependendo das configurações de toxicidade configuradas, a proteção indicará se o prompt é permitido ou bloqueado. Na resposta, você verá o conteúdo mascarado.
  6. Clique em Próximo para ir para a seção Atribuir a pastas.
  7. Na seção Atribuir a pastas, selecione as pastas no espaço de trabalho público. As AI Guardrails serão aplicadas a todos os Task Bots e AI Skills dentro das pastas selecionadas.
    Nota:
    1. Proteção única por pasta: Apenas uma proteção pode ser aplicada a cada pasta.
    2. Herança para pastas filhas: Se uma pasta pai dentro da pasta Bots tiver uma proteção atribuída a ela, todas as suas pastas filhas herdarão automaticamente a mesma proteção.
    3. Seleção da pasta pai: Ao atribuir AI Guardrails, você só pode selecionar pastas pai dentro da pasta Bots. Pastas filhas não podem receber AI Guardrails atribuídas individualmente.
  8. Clique em Criar para concluir a criação da proteção.

    Você receberá uma mensagem de sucesso gerada pelo sistema informando que a proteção foi criada. Você será direcionado para a tela das AI Guardrails que exibe uma lista de AI Guardrails

    Você pode Exibir proteção, Editar proteção ou Excluir cada proteção clicando nas reticências ao lado delas. Além disso, a tabela exibe a Pasta atribuída a, a data/hora da Última modificação e Modificado por para cada proteção.

    Exibir, Editar, Excluir AI Guardrails

    Ações Função
    Visualizar proteção

    Os detalhes da proteção oferecem uma visão resumida dela.

    Configurações gerais exibe o nome, a descrição, o mascaramento de dados e as configurações de atribuição a pastas.
    Editar proteção Permite editar os detalhes da proteção.
    O botão Editar está ativado apenas para o administrador de automação.
    Nota: Usuários, como desenvolvedor profissional e desenvolvedor cidadão, com a permissão AI STUDIO > Exibir proteções de IA, podem ver detalhes de AI Guardrails, mas não podem editá-las.
    Excluir

    Clicar em Excluir exibe uma mensagem solicitando sua confirmação e, em seguida, exclui a proteção. Você receberá uma mensagem de confirmação da exclusão.

    Se você excluir uma proteção, todas as AI Skills e automações na pasta que faz referência à proteção excluída não terão nenhuma AI Guardrails atribuída a elas.

    O botão Excluir está ativado apenas para o administrador de automação.
    Nota: Usuários, como desenvolvedor profissional e desenvolvedor cidadão, com permissão para AI STUDIO > Exibir proteções de IA, podem ver detalhes das AI Guardrails, mas não podem excluí-las.

Próximas etapas

Após a criação, AI Guardrails são automaticamente aplicadas em todas as automações dentro de uma pasta especificada. À medida que essas automações são executadas, o painel de AI Governance oferecerá insights sobre as técnicas de mascaramento de dados aplicadas e os níveis de toxicidade identificados. Os logs do painel também incluem uma coluna para AI Guardrails.