Lanzamiento de AI Agent Studio v.37
- Última actualización2025/10/10
Novedades
|
Nueva página de habilidades para la gestión de Habilidades de IA
Presentamos la nueva página de habilidades, que se encuentra en la sección IA en la navegación izquierda. Esta vista centralizada le permite acceder y gestionar fácilmente todas sus Habilidades de IA. La página está dividida en dos secciones: la pestaña Habilidades para gestionar sus habilidades existentes, y la pestaña Plantillas para explorar y crear habilidades a partir de plantillas disponibles, lo que ofrece una alternativa al método de creación anterior mediante la automatización. |
|
Barreras de seguridad de la IA mejorado con supervisión y bloqueo de toxicidad
El asistente de creación de Barreras de seguridad de la IA ahora incluye una sección dedicada a Toxicidad. Esta sección permite a los administradores controlar el lenguaje en las interacciones de IA. Esta mejora analiza tanto los indicadores de entrada como las respuestas generadas por el modelo de lenguaje extenso (LLM) y clasifica los niveles de toxicidad como bajos, moderados o altos. Más allá de la simple supervisión, los administradores ahora pueden configurar barreras de seguridad para bloquear de manera activa los indicadores que contengan niveles específicos de lenguaje tóxico antes de que lleguen al LLM. De manera similar, las barreras de seguridad pueden bloquear las respuestas de los LLM que superen los umbrales de toxicidad definidos antes de presentarlas al usuario. Los indicadores bloqueados activan mensajes de error y evitan el procesamiento de LLM. Las respuestas bloqueadas generan resultados vacíos y notificaciones de error. El sistema registra meticulosamente todas las acciones de bloqueo para lograr una Gobernanza de IA completa. De forma predeterminada, las verificaciones de toxicidad están configuradas en la opción Permitir todo para fines de auditoría, y el sistema registra la puntuación de toxicidad en Gobernanza de IA en modo de solo observación. |
|
Pruebas de Barreras de seguridad de la IA
El asistente de creación de Barreras de seguridad de la IA ahora cuenta con una sección dedicada a las Pruebas, lo que le permite probar las barreras de seguridad con la configuración establecida. Ahora puede ingresar ejemplos de indicadores y hacer clic en Probar barrera de seguridad para ver cómo responde la barrera de seguridad según la configuración de toxicidad y el enmascaramiento de datos. |
|
La fuente de los indicadores se muestra en Gobernanza de IA
La fuente de cada indicador se muestra en los registros de indicadores y eventos en Gobernanza de IA. Esto ofrece a los administradores más información sobre cómo se están utilizando las capacidades de IA y el rendimiento de varios productos. |
Correcciones
|
Problema de registro en Tarea API de Habilidad de IA solucionado:
Las ejecuciones de Habilidad de IA activadas mediante Tareas API a pedido ahora registran de manera correcta las respuestas en el Registro de eventos de Gobernanza de IA. Anteriormente, una limitación impedía que estas respuestas se registraran; la solución temporal anterior, que requiere agregar una acción de demora de al menos 1 segundo después del Habilidad de IA: Ejecutar la acción para todas las ejecuciones a pedido de Tarea API ya no es necesario. |
|
Se solucionó la limitación de caracteres especiales en el panel de Gobernanza de IA:
Al hacer clic en los nombres de modelos que contienen caracteres especiales dentro de la pestaña Gobernanza de IA del panel en la pantalla de inicio, ahora se activa una búsqueda exacta para ese nombre de modelo específico. Anteriormente, la funcionalidad de búsqueda subyacente no admitía completamente caracteres especiales como "*", "?", "+", "=", "&&", "||", ">", "<", "!", "(", ")", "{", "}", "[", "]", "^", "~", ":", o palabras encerradas entre comillas dobles. Como resultado, hacer clic en un nombre de modelo que contenga cualquiera de estos caracteres resultaría en un error. |
|
Página de inicio de Guardrails Archivo no encontrado error corregido Ahora puede ver correctamente la página de inicio de Guardrails, aunque no tenga permisos para ver el contenido de todas las carpetas en las que se hayan creado barreras de seguridad o estas hayan sido asignadas por otros usuarios. Anteriormente, es posible que haya encontrado un error de Archivo no encontrado en esta página si carecía de acceso para ver el contenido de cualquier carpeta que tuviera una barrera de seguridad asignada, lo que impedía de forma incorrecta la navegación general y la gestión de las barreras de seguridad. Esta solución garantiza que pueda acceder a las barreras de seguridad relevantes para sus permisos. La columna Carpetas asignadas a en esta página ahora solo mostrará las carpetas para las que tiene permisos para ver el contenido. También necesita un permiso de Ver barrera de seguridad de IA para acceder a esta página. Los usuarios con el rol AAE_Admin seguirán teniendo permisos implícitos para ver todas las carpetas y barreras de seguridad asignadas, lo que proporciona una supervisión integral. |
Limitaciones
|
Visibilidad limitada de fallas de toxicidad de Indicación del sistema
El Barreras de seguridad de la IA puede bloquear contenido altamente tóxico, pero hay algunas limitaciones específicas para el Indicación del sistema, las cuales se abordarán en futuras versiones. Estas limitaciones conocidas incluyen las siguientes:
|
|
Uso de Conexiones del modelo basadas en RAG
Los Indicación del sistema no se consideran cuando se usan Conexiones del modelo basadas en RAG. Además, el enmascaramiento de datos no se aplica cuando un modelo de RAG interactúa con datos de una base de conocimientos. |
|
La página de inicio de Habilidades de IA muestra un mensaje de error cuando no hay habilidades disponibles
Los administradores con permisos para Conexiones del modelo y Habilidades de IA verán un error de Archivo no encontrado al acceder a la página de Habilidades de IA si no se han configurado habilidades. |
Actualizaciones de la interfaz
| Habilidades |
|---|
Se introduce un nuevo menú de navegación para acceder a las Habilidades de IA: |