Preguntas frecuentes sobre AI Guardrails

Consulte estas preguntas frecuentes para consultas generales sobre las características y la funcionalidad de la AI guardrail. Esto está diseñado para proteger los datos sensibles dentro del indicador y las respuestas del modelo cuando se utiliza GenAI en automatizaciones.

¿Qué es AI guardrail?

El uso de LLM y modelos de IA generativa alojados públicamente presenta riesgos significativos de privacidad y seguridad para las empresas. AI Guardrails, una solución de tokenización inteligente, protege los datos sensibles compartidos con o procesados por LLM mientras mantiene el contexto. Esta función está diseñada para garantizar la protección de datos, proporcionar a los clientes la máxima privacidad y seguridad, y monitorear los niveles de toxicidad en el contenido para prevenir resultados no deseados que afecten la reputación de la marca. AI Guardrails lo empodera para gobernar con precisión los datos sensibles dentro de las automatizaciones de IA generativa a través de las siguientes capacidades:

  • Administre las políticas de AI guardrail para datos sensibles en automatizaciones que se integran con modelos de IA generativa.
  • Defina reglas para gestionar datos sensibles dentro de los indicadores y respuestas del modelo.
  • Especifique las preferencias de manejo de datos según las categorías de datos como PII, PHI y PCI.
  • Aplique políticas en las automatizaciones durante la ejecución.
  • Monitoree y audite el tratamiento de datos y las puntuaciones de toxicidad para los indicadores ejecutados dentro de las automatizaciones.
¿Esta función utiliza IA?
Sí, utilizamos un modelo de reconocimiento de entidades nombradas (NER) bien establecido, una forma especializada de IA, para identificar datos sensibles.
El NER, un subcampo del procesamiento de lenguaje natural (NLP), identifica y localiza información sensible dentro de indicadores de texto, como nombres, direcciones, números de teléfono y fechas. Esto nos permite enmascarar o redactar estos datos para proteger la privacidad y asegurar el cumplimiento de las regulaciones de protección de datos. Esencialmente, el NER actúa como el paso inicial para identificar qué necesita ser enmascarado dentro de un conjunto de datos de texto.
¿Qué licencias se requieren para AI Guardrails?
Se requerirá que compre la licencia Enterprise Platform, así como AI Guardrails, que es una licencia basada en el consumo. Para obtener detalles sobre la licencia de Enterprise Platform, consulte Enterprise Platform.
¿Qué permisos se requieren para gestionar AI Guardrails?
Se requiere el permiso Gestionar AI Guardrails para configurar, editar o eliminar políticas de AI Guardrails. El permiso Ver AI Guardrails permite a los usuarios ver las políticas de AI Guardrails configuradas.
¿AI Guardrails está disponible para implementaciones locales?

AI Guardrails no es compatible actualmente con implementaciones locales.

¿Qué regiones son compatibles actualmente?

Las AI Guardrails son compatibles actualmente en los EE. UU. y la UE.

¿Cómo protege AI Guardrails mis datos sensibles?

Cuando se aplican a las automatizaciones, las AI Guardrails interceptan cada solicitud ejecutada mediante el paquete de comandos de IA generativa y el paquete de comandos de AI Skill. El servicio escanea los indicadores en busca de datos sensibles y los reemplaza con valores tokenizados para desidentificarlos. Estos mensajes tokenizados se envían luego a los LLM. Al recibir las respuestas, el servicio las escanea de nuevo y las reconstruye con los valores originales. Este es el comportamiento de enmascaramiento predeterminado. AI Guardrails también admite la anonimización irreversible, configurable a través de la política de barreras de seguridad.

¿Dónde puedo ver los registros relacionados con la protección de datos sensibles?

Las trazas de actividad están disponibles en los registros de solicitud y en los registros de eventos de AI Governance. Utilice las vistas detalladas en los registros de indicadores de IA para ver los indicadores y respuestas con contenido enmascarado y puntuaciones de toxicidad.

¿Cuánto tiempo se almacena el mapeo de datos sensibles?

Los mapeos de datos sensibles se almacenan en una bóveda segura dentro de la nube de Automation 360, cifrados con una clave AES-256 que se rota regularmente y cumple con FIPS 197. Los mapeos también se almacenan de manera segura en una base de datos dentro del entorno de producción del cliente durante 30 días y luego se eliminan de forma segura. Se crean nuevos mapeos para cada transacción después de 30 días.

¿Qué controles de seguridad se aplican a los datos sensibles almacenados?

Los mapeos de datos sensibles están protegidos mediante cifrado estándar de la industria y los siguientes controles de seguridad: aislamiento de red con conectividad restringida, acceso limitado a usuarios autorizados basado en el principio de privilegio mínimo y cifrado en reposo y en tránsito.

¿AI Guardrails envía datos sensibles a LLM de terceros o nubes durante el enmascaramiento/desenmascaramiento?

No, todos los datos sensibles se procesan dentro del inquilino Automation 360 Cloud. AI Guardrails no se integra con ningún LLM de terceros ni con servicios en la nube externos para enmascarar o desenmascarar.

¿Cuál es el tamaño máximo de indicador que se admite?
El límite actual es de 100 000 palabras por indicador.
¿AI Guardrails es compatible con otros idiomas además del inglés?
No. Aunque la interfaz de usuario (IU) de AI Guardrails está disponible en varios idiomas, la funcionalidad principal para la detección de toxicidad y el enmascaramiento de datos (información personal identificable [PII], datos de la industria de tarjetas de pago [PCI], información médica protegida [PHI]) actualmente solo está disponible en inglés.

Esto significa que incluso si está usando la Control Room en otro idioma, AI Guardrails no detectará ni ocultará datos sensibles ni contenido tóxico en indicadores y respuestas escritas en otros idiomas.

¿Las AI Guardrails admiten contenido multimodal (como video o audio)?

Actualmente, las AI Guardrails admiten principalmente contenido basado en texto.