Gobernanza de la IA
- Última actualización2024/10/31
Gobernanza de la IA
Resumen
Gobernanza de la IA se ofrece como una capacidad de plataforma en el conjunto de productos de AI Agent Studio. Esto está diseñado para brindarle herramientas de administrador que ofrecen un uso seguro de la IA, controlar el acceso a los modelos fundamentales y monitorear y auditar la capacidad al ejecutar automatizaciones impulsadas por IA generativa.
Gobernanza de la IA proporciona información de auditoría cuando los usuarios utilizan modelos fundamentales en sus automatizaciones. Los usuarios con los permisos adecuados pueden ver el resumen de la auditoría y la información detallada. Control Room permite a los clientes administrar sus preferencias de registro de datos, controlar el acceso para ver los registros y proteger los datos confidenciales mediante cifrado.
El siguiente video le ofrece una descripción general de Gobernanza de la IA con un enfoque en la oferta de valor:
- Controles de acceso basados en roles (RBAC) para administrar el acceso de los usuarios a través de permisos con el fin de administrar el registro de datos y ver registros y detalles de interacción de IA.
- Visualización consolidada de Registro de indicaciones de IA de las interacciones del modelo fundamental que ocurren dentro de una ejecución de automatización.
- Registro de eventos para rastrear todos los eventos de IA generativa que ocurren durante las interacciones con los modelos fundamentales.
- Buscar y Exportar elementos a CSV para exportar y reenviar registros a sus plataformas de gestión de eventos e información de seguridad (SIEM) compatibles.
La siguiente imagen muestra una descripción general del flujo de trabajo de Gobernanza de la IA:
Ventajas
- Gestión de cumplimiento normativo: Cumpla con las próximas regulaciones y marcos de IA. Supervise los registros para detectar de forma proactiva los riesgos de exposición de datos confidenciales y el uso de indicaciones según las prácticas recomendadas. Los datos de indicaciones y las credenciales que se solicitan para el acceso autorizado a los modelos se almacenan de forma segura mediante algoritmos de cifrado estándar de la industria.
- Supervisión y auditoría: Audite y supervise el uso de la interacción del modelo dentro de las ejecuciones de automatización para garantizar el cumplimiento de las políticas de gobernanza. Realice un seguimiento de las interacciones de los modelos en las automatizaciones para garantizar el uso y el rendimiento adecuados de los modelos.
- Medidas de seguridad: Gestione una seguridad más sólida para las Conexiones del modelo y datos de indicaciones con el control de acceso basado en roles para modelos aprobados. Todas las conexiones a modelos aprobados se gestionan de forma centralizada y se utilizarían dentro de las automatizaciones.
- Información de uso: Obtenga información sobre el uso de indicaciones y modelos de IA generativa utilizados dentro de las automatizaciones.
- Visualización y seguimiento de los detalles del registro: Vea las interacciones de la sesión y los detalles de sus eventos correspondientes en las pestañas Registro de indicaciones de IA y Registro de eventos.
- Análisis de Gobernanza de la IA : Realice un seguimiento, monitoree y controle el uso de la IA generativa durante la creación y ejecución de automatizaciones con una vista unificada de los datos agregados que se consolidan en una representación visual con el panel de control de Gobernanza de la IA.
- Regla de análisis de código: Garantice un uso responsable y conforme de la IA con la regla de análisis de código de Gobernanza de la IA, que le permite supervisar y aplicar su política de uso de IA a través de notificaciones para una remediación inmediata.
Disponibilidad
Se requiere una licencia de Enterprise Platform para usar la capacidad de Gobernanza de la IA para AI Agent Studio.
Para obtener información sobre las versiones compatibles con esta función, consulte Enterprise Platform.