Gobernanza de la IA
- Última actualización2024/05/31
Gobernanza de la IA
Gobernanza de la IA se diseñó con el fin de proporcionarle herramientas de administrador para monitorear y auditar el uso de la IA dentro de la automatización. También proporciona visibilidad de las interacciones del modelo que ocurren durante la ejecución de la automatización.
- Los modelos de IA generativa pueden producir errores o tergiversar la información que generan. Es recomendable verificar la exactitud, confiabilidad e integridad del contenido generado por el modelo de IA.
- Gobernanza de la IA está disponible solo en las implementaciones de Nube.
Gobernanza de la IA proporciona información de auditoría cuando los usuarios utilizan modelos de IA en sus automatizaciones. Los usuarios con los permisos adecuados pueden ver el resumen de la auditoría y la información detallada. Control Room permite a los clientes administrar sus preferencias de registro de datos, controlar el acceso para ver los registros y proteger los datos confidenciales mediante cifrado.
La siguiente imagen muestra una descripción general del flujo de trabajo de Gobernanza de la IA:
Se admiten las siguientes características de Gobernanza de la IA:
- Administración de datos: Configure y administre sus preferencias de registro de datos.
- Control de acceso basado en roles (RBAC): Administre el acceso de los usuarios a través de permisos para administrar el registro de datos y ver registros y detalles de Gobernanza de la IA.
- Auditoría y monitoreo: Modele las interacciones que ocurren durante las ejecuciones de automatización.
Registros de Gobernanza de la IA
Los registros de eventos e indicadores de IA están disponibles para registrar las interacciones del modelo que ocurrieron durante la ejecución de la automatización.
- Registro de indicadores de IA: Proporciona visibilidad de cada sesión y sus eventos correspondientes durante una interacción del modelo.
- Registro de eventos: Proporciona visibilidad de cada evento que ocurrió durante una interacción del modelo.
- Puede exportar y buscar estos registros.
- Puede ver los detalles de la sesión cuando se le asigna el permiso Ver detalles del indicador de IA.
- Puede ver los detalles de la sesión cuando se le asigna el permiso Ver detalles del evento de IA. Los registros de eventos incluyen acciones tanto Exitosas como No exitosas.
Permisos de Gobernanza de la IA
Un usuario con el permiso Administrar roles puede crear y asignar roles a los usuarios para darles acceso a las funciones y las operaciones.
| Permisos | Descripción |
|---|---|
| Ver configuración | Permite a los usuarios ver la opción Administración de datos de IA en la página de configuración. |
| Administrar configuración | Permite a los usuarios habilitar o deshabilitar la opción Configuración de registro de datos. |
| Ver registros de indicadores de IA | Permite a los usuarios ver registros de indicadores generados por IA, así como buscar y ordenar registros o exportarlos a un archivo csv. |
| Ver detalles del indicador de IA | Permite a los usuarios ver los detalles de una sesión. |
| Ver registros de eventos de IA | Permite a los usuarios ver registros de eventos generados por IA, así como buscar y ordenar registros o exportarlos a un archivo csv. |
| Ver detalles del evento de IA | Permite a los usuarios ver los detalles del evento. |
Demostración de gobernanza de IA
El siguiente video muestra cómo habilitar y utilizar Gobernanza de la IA: