Seguridad de datos para IA generativa: preguntas frecuentes

Hemos introducido funciones integradas de IA generativa (GenAI) para ayudar a nuestros clientes a aumentar la productividad mediante la creación de automatizaciones mejores y más inteligentes. Nuestros clientes pueden aprovechar el poder de GenAI con funciones como Automation Co-Pilot para usuarios empresariales y Automatización de documentos.

Automation Anywhere es compatible con paquetes de comandos para clientes que utilizan sus propias licencias para modelos de lenguaje extenso (LLM). Algunos productos de Automation Anywhere contienen LLM de terceros integrados. Este documento tiene como objetivo proporcionar respuestas a preguntas frecuentes sobre los datos y las medidas de seguridad que implementamos para utilizar de forma segura las funciones integradas de GenAI. Es importante comprender las dos categorías de datos tal como nos referimos a ellas en este documento.

Datos del cliente
Se refiere a los datos enviados por los clientes a través de sistemas alojados en Automation Anywhere, como Automation Success Platform. Estos datos son necesarios para operar y prestar servicios. Por ejemplo, las indicaciones de texto del usuario se tratan como datos del cliente.
Datos de uso
Se refiere a datos generados por el uso de los servicios y funciones de la plataforma. Estos datos son anónimos y se agrupan para métricas y otros tipos de telemetría, como nombres estándares de paquete y secuencias de pasos recopilados por Automation Anywhere para mejorar los servicios y el rendimiento del producto.
¿De qué manera Automation Anywhere permite a los clientes automatizar su propia suscripción de LLM?
Automation Anywhere admite que los clientes usen su propia licencia para sus modelos de base preferidos cuando utilicen paquetes de comandos proporcionados por Automation Anywhere, por ejemplo, Automation Co-Pilot para usuarios empresariales. Se puede acceder a estos modelos básicos alojados en plataformas de hiperescaladores mediante integraciones nativas de Automation 360 a través de nuestros paquetes de comandos, que incluyen Microsoft Azure OpenAI, OpenAI y Google Vertex AI.

Para saber si puede integrarse con el LLM elegido, consulte la documentación del producto.

¿Qué productos utilizan modelos de IA de terceros proporcionados por Automation Anywhere?
Utilizamos LLM de proveedores externos en los siguientes productos:
  • Automatización de documentos
  • IA de automatización
Para obtener más información, consulte lo siguiente:
¿Qué datos se utilizarán para entrenar los modelos proporcionados por Automation Anywhere?
No se utilizan datos del cliente para entrenar los LLM integrados en nuestros productos. En el caso de modelos proporcionados por Automation Anywhere en entornos controlados por Automation Anywhere, solo se utilizan los datos de uso para entrenar los modelos proporcionados por Automation Anywhere. Estos datos no contienen datos del cliente.
¿Qué medidas existen para garantizar que los datos del cliente no se utilicen para entrenar las bibliotecas de modelos de lenguaje extenso (LLM)?
No se utilizan datos del cliente para entrenar los modelos, ni se almacenan datos del cliente fuera de los entornos de producción del cliente-inquilino dentro de Automation Success Platform.

Consultamos revisiones de proveedores para asegurarnos de que los LLM de terceros no utilicen datos del cliente para entrenar sus modelos.

¿Qué medidas existen para evitar el acceso no autorizado o la filtración de datos?
Implementamos medidas de seguridad, como evitar que los datos del cliente se almacenen externamente y proporcionar barreras de seguridad, redacción o enmascaramiento en ciertos productos. Automation Success Platform garantiza que los datos del cliente estén siempre protegidos mediante el uso de cifrado estándar de la industria para los datos en reposo y en tránsito. Estos sistemas que almacenan datos del cliente se monitorean las 24 horas del día, los 7 días de la semana y el acceso se controla para garantizar operaciones seguras de conformidad con SOC 2, ISO 27001 e HITRUST. Implementamos medidas de seguridad adecuadas, como firewall de aplicaciones web, cifrado (AES 256 en reposo, TLS en tránsito), y autenticación y autorizaciones estándar de la industria para RBAC. Los diseños de nuestras plataformas consideran la protección contra amenazas según lo establecido en OWASP Top10 for LLMs.
¿De qué manera Automation Anywhere protege los datos del cliente al utilizar GenAI?
Nuestros productos que utilizan GenAI están en la misma plataforma que nuestros productos actuales y están cubiertos por las mismas certificaciones de seguridad (SOC1, SOC2, ISO y COBIT) y estándares que nuestros otros productos. Un equipo de seguridad en la nube especializado es responsable de garantizar el cumplimiento y respaldar las auditorías realizadas por profesionales externos para nuestras certificaciones de seguridad. Nuestras certificaciones e informes de seguridad se pueden encontrar en nuestro Compliance Portal.
¿Cuáles son algunas de las prácticas recomendadas que los clientes pueden aprovechar para beneficiarse de los productos GenAI?
A continuación, se presentan algunas prácticas recomendadas que se pueden aprovechar al utilizar las funciones de productos con GenAI:
Sepa dónde están sus datos y cómo se utilizan
Cuando utilice sus propios proveedores de LLM, utilice únicamente proveedores de modelos que estén examinados y que le brinden claridad sobre los datos y su uso. Asegúrese de que no se utilicen datos confidenciales para entrenar los modelos compartidos; averigüe si se almacenan sus datos y dónde se almacenan, así como quién tiene acceso a ellos.
Utilice barreras de seguridad en las entradas y salidas del modelo
Los modelos GenAI son sensibles a las variaciones en las entradas que reciben y, en ocasiones, pueden ser impredecibles en la salida generada, ya que es texto sin formato. Al diseñar flujos de trabajo que utilizan modelos GenAI para tareas aprobadas con indicaciones prediseñadas y pasos de validación de resultados, puede garantizar aún más que el modelo funcionará con un alto grado de confianza en entornos de producción. Diseñar un mensaje que sea explícito y controlado para una tarea como el resumen se traduce en que los usuarios obtengan resultados de mayor calidad y más consistentes de los modelos para usar en sus flujos de trabajo. Asegúrese de que los usuarios no envíen información confidencial en sus indicaciones.
Permita la intervención humana en el contenido generado
Al generar contenido como correos electrónicos personalizados para clientes o resúmenes de pacientes, es fundamental asegurarse de que exista un paso de validación humana en su proceso antes de compartir algo externamente. Es importante comprender que los modelos GenAI en ocasiones pueden ser impredecibles en el resultado generado, especialmente cuando se genera contenido nuevo. Utilice notificaciones para enviar el trabajo de los usuarios que requiere revisión en tiempo real y realice un seguimiento del estado general del flujo de trabajo.
Use análisis de código
El análisis de código de Automation Anywhere es una característica de seguridad incorporada para identificar infracciones de las prácticas recomendadas. La función se diseñó para promover y hacer cumplir las prácticas recomendadas de codificación que ayudarán a identificar y corregir desviaciones de las prácticas recomendadas de manera proactiva a través de una seguridad y un cumplimiento más sólidos de las automatizaciones mediante la aplicación de prácticas de codificación seguras y una mejor legibilidad y calidad del código.