Segurança de dados para IA generativa – Perguntas frequentes

Introduzimos recursos infundidos com IA generativa (GenAI) para ajudar nossos clientes a obter ganhos de produtividade criando automações melhores e mais inteligentes. Nossos clientes podem aproveitar o poder da IA generativa com recursos como o Automation Co-Pilot para usuários corporativos e o Automação de documento.

A Automation Anywhere oferece suporte a pacotes de comandos para clientes que usam as próprias licenças para modelos de linguagem grandes (LLMs). Alguns produtos da Automation Anywhere contêm LLMs de terceiros incorporados. Este documento pretende oferecer respostas às perguntas frequentes sobre dados e medidas de segurança que implementamos para usar com segurança os recursos infundidos com IA generativa. É importante compreender as duas categorias de dados conforme nos referimos a elas neste documento.

Dados do cliente
Refere-se aos dados enviados pelos clientes através de sistemas Automation Anywhere hospedados, como Automation Success Platform. Esses dados são necessários para operar e oferecer serviços. Por exemplo, os prompts de texto do usuário são tratados como dados do cliente.
Dados de uso
Refere-se aos dados gerados a partir do uso dos serviços e funcionalidades da plataforma. São dados anonimizados e agregados para métricas e outras telemetrias, como nomes de pacote padrão e sequenciamento de etapas coletados pela Automation Anywhere para melhorar os serviços e o desempenho dos produtos.
Como a Automation Anywhere permite que os clientes automatizem com a própria assinatura de LLM?
A Automation Anywhere aceita que os clientes tragam as próprias licenças para seus modelos básicos preferidos ao usar pacotes de comandos fornecidos pela Automation Anywhere, por exemplo, Automation Co-Pilot para usuários corporativos. Esses modelos básicos hospedados em plataformas de hiperescaladores podem ser acessados usando as integrações nativas do Automation 360 e os nossos pacotes de comando, que incluem Microsoft Azure OpenAI, OpenAI e Google Vertex AI.

Para saber se você pode integrar com o LLM escolhido, consulte a documentação do produto.

Quais produtos usam modelos de IA de terceiros fornecidos pela Automation Anywhere?
Usamos LLMs de fornecedores terceirizados nos seguintes produtos:
  • Automação de documento
  • IA do automatizador
Para mais informações, consulte:
Quais dados serão usados para treinar os modelos oferecidos pela Automation Anywhere?
Nenhum dado do cliente é usado para treinar os LLMs incorporados em nossos produtos. Em modelos da Automation Anywhere nos ambientes controlados pela Automation Anywhere, apenas os dados de uso são utilizados para treinar os modelos da Automation Anywhere. Esses dados não contêm dados do cliente.
Que medidas estão em vigor para garantir que os dados do cliente não sejam utilizados para treinar as bibliotecas de grandes modelos de linguagem (LLM)?
Os dados do cliente não são usados para treinar os modelos e não são armazenados fora dos ambientes de produção do cliente-locatário na Automation Success Platform.

Fizemos avaliações dos fornecedores para garantir que os LLMs de terceiros não estejam usando dados do cliente para treinar os modelos.

Que medidas estão em vigor para impedir o acesso não autorizado ou violações de dados?
Implementamos medidas de segurança, como impedir que os dados do cliente sejam armazenados externamente, bem como oferecer proteções, redação ou mascaramento em determinados produtos. A Automation Success Platform garante que os dados do cliente estejam sempre protegidos usando criptografia padrão do setor para dados em repouso e em trânsito. Esses sistemas que armazenam dados do cliente são monitorados 24 horas por dia, 7 dias por semana, e têm o acesso controlado para garantir operações seguras em conformidade com SOC 2, ISO 27001 e HITRUST. Implementamos medidas de segurança apropriadas, como firewall de aplicativos web, criptografia (AES 256 em repouso, TLS em trânsito) e autenticação e autorizações padrão do setor para RBAC. Nossos designs de plataforma consideraram a proteção contra ameaça conforme estabelecido no OWASP Top10 para LLMs.
Como a Automation Anywhere protege os dados do cliente ao usar a IA generativa?
Nossos produtos que usam IA generativa estão na mesma plataforma que nossos produtos atuais e são cobertos pelas mesmas certificações de segurança (SOC1, SOC2, ISO e COBIT) e padrões que nossos outros produtos. Uma equipe dedicada de segurança na nuvem é responsável por garantir a conformidade e apoiar auditorias conduzidas por auditores profissionais externos para nossas certificações de segurança. Nossas certificações e relatórios de segurança podem ser encontrados em nosso Portal de conformidade.
Que práticas recomendadas os clientes podem usar para se beneficiarem de produtos de IA generativa?
Conheça algumas práticas recomendadas para usar recursos de produtos que têm IA generativa:
Saiba onde estão seus dados e como eles estão sendo usados
Ao usar seus próprios provedores de LLM, use apenas fornecedores de modelos aprovados e com quem você tenha clareza sobre seus dados e seu uso. Certifique-se de que nenhum dado confidencial seja usado para treinar os modelos compartilhados e entenda se/onde seus dados estão armazenados e quem tem acesso a eles.
Use proteções nas entradas e saídas do modelo
Os modelos de IA generativa são sensíveis a variações nas entradas que receberem e, às vezes, podem ser imprevisíveis ao gerar a saída, pois ela é um texto livre. Ao projetar fluxos de trabalho que usam modelos de IA generativa para tarefas aprovadas com prompts pré-concebidos e etapas de validação de saída, você pode garantir ainda mais que o modelo funcionará com um alto grau de confiança em ambientes de produção. Quando você projeta um prompt que seja explícito e controlado para uma tarefa, como resumo, seus usuários obtêm uma qualidade mais alta e uma saída mais consistente dos modelos para usar em seus fluxos de trabalho. Certifique-se de que os usuários não enviem informações confidenciais nos prompts.
Mantenha uma pessoa informada sobre o conteúdo gerado
Ao gerar conteúdo como e-mails personalizados ao cliente ou resumos de pacientes, é fundamental garantir que uma etapa de validação humana esteja presente em seu processo antes de compartilhar qualquer coisa externamente. É importante compreender que os modelos de IA generativa às vezes podem ser imprevisíveis ao gerar a saída, em especial sendo conteúdo novo. Use notificações para enviar trabalhos dos usuários que exigem revisões em tempo real e acompanhar o status geral do fluxo de trabalho.
Use análise de código
A análise de código da Automation Anywhere é um recurso de segurança integrado para identificar violações das práticas recomendadas. O recurso foi projetado para promover e aplicar as práticas recomendadas de codificação que ajudarão a identificar e corrigir proativamente desvios dessas práticas por meio de maior segurança e conformidade de automações, aplicando práticas de codificação seguras, e melhor legibilidade e qualidade do código.