Preguntas frecuentes sobre Barreras de seguridad de la IA

Consulte estas preguntas frecuentes para consultas generales sobre las características y la funcionalidad de la Barrera de seguridad de la IA. Esto está diseñado para proteger los datos sensibles dentro del indicador y las respuestas del modelo cuando se utiliza GenAI en automatizaciones.

¿Qué es Barrera de seguridad de la IA?

El uso de LLM y modelos de IA generativa alojados públicamente presenta riesgos significativos de privacidad y seguridad para las empresas. Barreras de seguridad de la IA, una solución de tokenización inteligente, protege los datos sensibles compartidos con o procesados por LLM mientras mantiene el contexto. Esta función está diseñada para garantizar la protección de datos, proporcionar a los clientes la máxima privacidad y seguridad, y monitorear los niveles de toxicidad en el contenido para prevenir resultados no deseados que afecten la reputación de la marca. Barreras de seguridad de la IA lo empodera para gobernar con precisión los datos sensibles dentro de las automatizaciones de IA generativa a través de las siguientes capacidades:

  • Administre las políticas de Barrera de seguridad de la IA para datos sensibles en automatizaciones que se integran con modelos de IA generativa.
  • Defina reglas para gestionar datos sensibles dentro de los indicadores y respuestas del modelo.
  • Especifique las preferencias de manejo de datos según las categorías de datos como PII, PHI y PCI.
  • Aplique políticas en las automatizaciones durante la ejecución.
  • Monitoree y audite el tratamiento de datos y las puntuaciones de toxicidad para los indicadores ejecutados dentro de las automatizaciones.
¿Esta función utiliza IA?
Sí, utilizamos un modelo de reconocimiento de entidades nombradas (NER) bien establecido, una forma especializada de IA, para identificar datos sensibles.
El NER, un subcampo del procesamiento de lenguaje natural (NLP), identifica y localiza información sensible dentro de indicadores de texto, como nombres, direcciones, números de teléfono y fechas. Esto nos permite enmascarar o redactar estos datos para proteger la privacidad y asegurar el cumplimiento de las regulaciones de protección de datos. Esencialmente, el NER actúa como el paso inicial para identificar qué necesita ser enmascarado dentro de un conjunto de datos de texto.
¿Qué licencias se requieren para Barreras de seguridad de la IA?
Se requerirá que compre la licencia Enterprise Platform, así como Barreras de seguridad de la IA, que es una licencia basada en el consumo. Para obtener detalles sobre la licencia de Enterprise Platform, consulte Enterprise Platform.
¿Qué permisos se requieren para gestionar Barreras de seguridad de la IA?
Se requiere el permiso Gestionar AI Guardrails para configurar, editar o eliminar políticas de Barreras de seguridad de la IA. El permiso Ver AI Guardrails permite a los usuarios ver las políticas de Barreras de seguridad de la IA configuradas.
¿Barreras de seguridad de la IA está disponible para implementaciones locales?

Barreras de seguridad de la IA no es compatible actualmente con implementaciones locales.

¿Qué regiones son compatibles actualmente?

Las Barreras de seguridad de la IA son compatibles actualmente en los EE. UU. y la UE.

¿Cómo protege Barreras de seguridad de la IA mis datos sensibles?

Cuando se aplican a las automatizaciones, las Barreras de seguridad de la IA interceptan cada solicitud ejecutada mediante el paquete de comandos de IA generativa y el paquete de comandos de Habilidad de IA. El servicio escanea los indicadores en busca de datos sensibles y los reemplaza con valores tokenizados para desidentificarlos. Estos mensajes tokenizados se envían luego a los LLM. Al recibir las respuestas, el servicio las escanea de nuevo y las reconstruye con los valores originales. Este es el comportamiento de enmascaramiento predeterminado. Barreras de seguridad de la IA también admite la anonimización irreversible, configurable a través de la política de barreras de seguridad.

¿Dónde puedo ver los registros relacionados con la protección de datos sensibles?

Las trazas de actividad están disponibles en los registros de solicitud y en los registros de eventos de Gobernanza de IA. Utilice las vistas detalladas en los registros de indicadores de IA para ver los indicadores y respuestas con contenido enmascarado y puntuaciones de toxicidad.

¿Cuánto tiempo se almacena el mapeo de datos sensibles?

Los mapeos de datos sensibles se almacenan en una bóveda segura dentro de la nube de Automation 360, cifrados con una clave AES-256 que se rota regularmente y cumple con FIPS 197. Los mapeos también se almacenan de manera segura en una base de datos dentro del entorno de producción del cliente durante 30 días y luego se eliminan de forma segura. Se crean nuevos mapeos para cada transacción después de 30 días.

¿Qué controles de seguridad se aplican a los datos sensibles almacenados?

Los mapeos de datos sensibles están protegidos mediante cifrado estándar de la industria y los siguientes controles de seguridad: aislamiento de red con conectividad restringida, acceso limitado a usuarios autorizados basado en el principio de privilegio mínimo y cifrado en reposo y en tránsito.

¿Barreras de seguridad de la IA envía datos sensibles a LLM de terceros o nubes durante el enmascaramiento/desenmascaramiento?

No, todos los datos sensibles se procesan dentro del inquilino Automation 360 Nube. Barreras de seguridad de la IA no se integra con ningún LLM de terceros ni con servicios en la nube externos para enmascarar o desenmascarar.

¿Cuál es el tamaño máximo de indicador que se admite?
El límite actual es de 100 000 palabras por indicador.
¿Barreras de seguridad de la IA es compatible con otros idiomas además del inglés?
No. Aunque la interfaz de usuario (IU) de Barreras de seguridad de la IA está disponible en varios idiomas, la funcionalidad principal para la detección de toxicidad y el enmascaramiento de datos (información personal identificable [PII], datos de la industria de tarjetas de pago [PCI], información médica protegida [PHI]) actualmente solo está disponible en inglés.

Esto significa que incluso si está usando la Control Room en otro idioma, Barreras de seguridad de la IA no detectará ni ocultará datos sensibles ni contenido tóxico en indicadores y respuestas escritas en otros idiomas.

¿Las Barreras de seguridad de la IA admiten contenido multimodal (como video o audio)?

Actualmente, las Barreras de seguridad de la IA admiten principalmente contenido basado en texto.