AI Governance

Refuerce la gobernanza y mantenga la integridad de las interacciones y los eventos de generative AI dentro de las automatizaciones a través de un monitoreo y una auditoría sólidos con AI Governance.
Nota: Los modelos de Generative AI pueden producir errores o tergiversar la información que generan. Es recomendable verificar la exactitud, confiabilidad e integridad del contenido generado por el modelo de IA.

Resumen

Nota: Esta oferta requiere la licencia Enterprise Platform. Para obtener información sobre las versiones compatibles con esta función, consulte Enterprise Platform.

AI Governance se ofrece como una capacidad de plataforma en el conjunto de productos de AI Agent Studio. Esto está diseñado para brindarle herramientas de administrador que ofrecen un uso seguro de la IA, controlar el acceso a los modelos fundamentales y monitorear y auditar la capacidad al ejecutar automatizaciones impulsadas por generative AI.

AI Governance proporciona información de auditoría cuando los usuarios utilizan modelos fundamentales en sus automatizaciones. Los usuarios con los permisos adecuados pueden ver el resumen de la auditoría y la información detallada. Control Room permite a los clientes administrar sus preferencias de registro de datos, controlar el acceso para ver los registros y proteger los datos confidenciales mediante cifrado.

Las siguientes capacidades son compatibles con AI Governance:
  • Controles de acceso basados en roles (RBAC) para administrar el acceso de los usuarios a través de permisos con el fin de administrar el registro de datos y ver registros y detalles de interacción de IA.
  • Visualización consolidada de AI prompt log de las interacciones del modelo fundamental que ocurren dentro de una ejecución de automatización.
  • Event log para rastrear todos los eventos de generative AI que ocurren durante las interacciones con los modelos fundamentales.
  • Buscar y Exportar elementos a CSV para exportar y reenviar registros a sus plataformas de gestión de eventos e información de seguridad (SIEM) compatibles.

La siguiente imagen muestra una descripción general del flujo de trabajo de AI Governance:

Flujo de trabajo de AI Governance

Ventajas

Fomente el uso responsable de la IA con medidas de seguridad integradas con AI Governance:
  • Gestión de cumplimiento normativo: Cumpla con las próximas regulaciones y marcos de IA. Supervise los registros para detectar de forma proactiva los riesgos de exposición de datos confidenciales y el uso de indicaciones según las prácticas recomendadas. Los datos de indicaciones y las credenciales que se solicitan para el acceso autorizado a los modelos se almacenan de forma segura mediante algoritmos de cifrado estándar de la industria.
  • Supervisión y auditoría: Audite y supervise el uso de la interacción del modelo dentro de las ejecuciones de automatización para garantizar el cumplimiento de las políticas de gobernanza. Realice un seguimiento de las interacciones de los modelos en las automatizaciones para garantizar el uso y el rendimiento adecuados de los modelos.
  • Medidas de seguridad: Gestione una seguridad más sólida para las Model connections y datos de indicaciones con el control de acceso basado en roles para modelos aprobados. Todas las conexiones a modelos aprobados se gestionan de forma centralizada y se utilizarían dentro de las automatizaciones.
  • Información de uso: Obtenga información sobre el uso de indicaciones y modelos de generative AI utilizados dentro de las automatizaciones.
  • Visualización y seguimiento de los detalles del registro: Vea las interacciones de la sesión y los detalles de sus eventos correspondientes en las pestañas AI prompt log y Event log.
  • Análisis de AI Governance : Realice un seguimiento, monitoree y controle el uso de la generative AI durante la creación y ejecución de automatizaciones con una vista unificada de los datos agregados que se consolidan en una representación visual con el panel de control de AI Governance.
  • Regla de análisis de código: Garantice un uso responsable y conforme de la IA con la regla de análisis de código de AI Governance, que le permite supervisar y aplicar su política de uso de IA a través de notificaciones para una remediación inmediata.

Disponibilidad

Se requiere una licencia de Enterprise Platform para usar la capacidad de AI Governance para AI Agent Studio.

Para obtener información sobre las versiones compatibles con esta función, consulte Enterprise Platform.