Preguntas frecuentes sobre Barreras de seguridad de la IA

Consulte estas preguntas frecuentes para consultas generales sobre las características y la funcionalidad de la Barrera de seguridad de la IA. Esto está diseñado para proteger los datos sensibles dentro del indicador y las respuestas del modelo cuando se utiliza GenAI en automatizaciones.

¿Qué es Barrera de seguridad de la IA?

El uso de LLM alojados públicamente y modelos de IA generativa presenta riesgos significativos de privacidad y seguridad para las empresas. Presentamos Barreras de seguridad de la IA, una solución de tokenización inteligente que protege los datos sensibles compartidos o procesados con LLM al tiempo que mantiene el contexto. Esta función está diseñada para garantizar la protección de datos, proporcionar a los clientes la máxima privacidad y seguridad, y monitorear los niveles de toxicidad en el contenido para prevenir resultados no deseados que afecten la reputación de la marca. Barreras de seguridad de la IA lo empodera para gobernar con precisión los datos sensibles dentro de las automatizaciones de IA generativa a través de las siguientes capacidades:

  • Administre las políticas de Barrera de seguridad de la IA para datos sensibles en automatizaciones que se integran con modelos de IA generativa.
  • Defina reglas para gestionar datos sensibles dentro de los indicadores y respuestas del modelo.
  • Especifique las preferencias de manejo de datos según las categorías de datos como PII, PHI y PCI.
  • Aplique políticas en las automatizaciones durante la ejecución.
  • Monitoree y audite el tratamiento de datos y las puntuaciones de toxicidad para los indicadores ejecutados dentro de las automatizaciones.
¿Esta función utiliza IA?
Sí, utilizamos un modelo de reconocimiento de entidades nombradas (NER) bien establecido, una forma especializada de IA, para identificar datos sensibles.
El NER, un subcampo del procesamiento de lenguaje natural (NLP), identifica y localiza información sensible dentro de indicadores de texto, como nombres, direcciones, números de teléfono y fechas. Esto nos permite enmascarar o redactar estos datos para proteger la privacidad y asegurar el cumplimiento de las regulaciones de protección de datos. Esencialmente, el NER actúa como el paso inicial para identificar qué necesita ser enmascarado dentro de un conjunto de datos de texto.
¿Qué licencias se requieren para Barreras de seguridad de la IA?
Se requerirá que compre la licencia Enterprise Platform, así como Barreras de seguridad de la IA, que es una licencia basada en el consumo. Para obtener detalles sobre la licencia de Enterprise Platform, consulte Enterprise Platform.
¿Qué permisos se requieren para gestionar Barreras de seguridad de la IA?

Se requiere el permiso Gestionar AI Guardrails para configurar, editar o eliminar políticas de Barreras de seguridad de la IA. El permiso Ver AI Guardrails permite a los usuarios ver las políticas de Barreras de seguridad de la IA configuradas.

¿Barreras de seguridad de la IA está disponible para implementaciones locales?

Barreras de seguridad de la IA no es compatible actualmente con implementaciones locales.

¿Cómo protege Barreras de seguridad de la IA mis datos sensibles?

Cuando se aplica a las automatizaciones, Barreras de seguridad de la IA intercepta cada solicitud ejecutada mediante comandos de IA generativa. El servicio escanea los indicadores en busca de datos sensibles y los reemplaza con valores tokenizados para desidentificarlos. Estos mensajes tokenizados se envían luego a los LLM. Al recibir las respuestas, el servicio las escanea de nuevo y las reconstruye con los valores originales. Este es el comportamiento de enmascaramiento predeterminado. Barreras de seguridad de la IA también admite la anonimización irreversible, configurable a través de la política de barreras de seguridad.

¿Dónde puedo ver los registros relacionados con la protección de datos sensibles?

Las trazas de actividad están disponibles en los registros de solicitud y en los registros de eventos de Gobernanza de IA. Utilice las vistas detalladas en los registros de indicadores de IA para ver los indicadores y respuestas con contenido enmascarado y puntuaciones de toxicidad.

¿Cuánto tiempo se almacena el mapeo de datos sensibles?

Los mapeos de datos sensibles se almacenan en una bóveda segura dentro de la nube de Automation 360, cifrados con una clave AES-256 que se rota regularmente y cumple con FIPS 197. Los mapeos también se almacenan de manera segura en una base de datos dentro del entorno de producción del cliente durante 30 días y luego se eliminan de forma segura. Se crean nuevos mapeos para cada transacción después de 30 días.

¿Qué controles de seguridad se aplican a los datos sensibles almacenados?

Los mapeos de datos sensibles están protegidos mediante cifrado estándar de la industria y los siguientes controles de seguridad: aislamiento de red con conectividad restringida, acceso limitado a usuarios autorizados basado en el principio de privilegio mínimo y cifrado en reposo y en tránsito.

¿Barreras de seguridad de la IA envía datos sensibles a LLM de terceros o nubes durante el enmascaramiento/desenmascaramiento?

No, todos los datos sensibles se procesan dentro del inquilino Automation 360 Nube. Barreras de seguridad de la IA no se integra con ningún LLM de terceros ni con servicios en la nube externos para enmascarar o desenmascarar.