Revise las novedades y los cambios, además de las correcciones y limitaciones en AI Agent Studio para la versión 36.

Novedades

Barreras de seguridad de la IA

Esta versión introduce Barreras de seguridad de la IA, una nueva función que protege datos sensibles y promueve el uso responsable de la IA. Las Barreras de seguridad de la IA protegen los datos sensibles enmascarando PII, PHI y PCI dentro de los indicadores enviados a los LLM. Además, supervisan los indicadores y las respuestas para detectar lenguaje potencialmente dañino. Los administradores pueden configurar reglas de enmascaramiento de datos y asignarlas a carpetas específicas para garantizar una protección de datos consistente en todas las automatizaciones.

Importante: La oferta de Barreras de seguridad de la IA está disponible en Automation 360 en Nube y se podrá utilizar con la licencia de Barrera de protección de IA (número de indicadores de LLM) junto con la licencia de Enterprise Platform. Para obtener detalles sobre esta licencia, consulte Plataforma empresarial.

Barreras de seguridad de la IA

Indicación del sistema en Habilidades de IA

Dentro de Habilidades de IA, se introducirá una nueva función llamada Indicador de sistema. Este campo opcional, visible para cualquiera con acceso para ver o editar la Habilidad de IA, le permite proporcionar instrucciones iniciales o contexto al modelo subyacente. El Indicación del sistema ayuda a orientar o fundamentar el modelo, influye en sus respuestas a los indicadores del usuario y asegura resultados más relevantes y precisos. El campo Indicación del sistema se muestra para todos los modelos. Para los modelos que admiten Indicación del sistema, el texto proporcionado se enviará como un Indicación del sistema. Para los modelos que no admiten indicadores del sistema, el texto proporcionado en el campo Indicación del sistema se colocará antes del Indicación para el usuario.

Indicación del sistema

Habilitar o deshabilitar las políticas de Barreras de seguridad de la IA a nivel global dentro de la Control Room

Ahora, los administradores pueden habilitar las Barreras de seguridad de la IA en la Control Room con una licencia en la nube navegando a Administración > Configuración > Barreras de seguridad de la IA .

Cuando esta configuración está habilitada, los desarrolladores profesionales pueden crear las Barreras de seguridad de la IA para hacer cumplir las reglas de protección de información sensible y promover el uso responsable de la IA.

Asignación de roles y permiso para habilitar Barreras de seguridad de la IA

Compatibilidad con la capacidad de RAG en AI Agent Studio para crear Conexiones del modelo fundamentadas utilizando Azure OpenAI Basado en la búsqueda de IA

Cree Conexiones del modelo Basado en la búsqueda de IA mediante la capacidad nativa de RAG (generación aumentada por recuperación) de Azure OpenAI para recuperar información de los índices de Búsqueda de IA de Azure y obtener respuestas más precisas y relevantes.

Crear Conexiones del modelo Grounded con capacidad de Azure OpenAI RAG

Probar con Barrera de seguridad de la IA en Habilidades de IA

Mejore la confiabilidad y seguridad de sus Habilidades de IA probándolas contra las Barreras de seguridad de la IA antes de su implementación. Esta nueva función le permite simular los efectos de las barreras de seguridad elegidas en los indicadores y las respuestas del modelo. Esta actualización proporciona resultados de toxicidad y enmascaramiento de datos. Puede hacer clic en la opción ver ejecución de enmascaramiento de datos para revelar los valores enmascarados tokenizados de los datos sensibles. Obtenga valiosos conocimientos sobre cómo funcionará la Habilidad de IA en un entorno de producción con las barreras de seguridad habilitadas. Acceda a esta funcionalidad dentro del editor de Habilidades de IA y revise los registros de Gobernanza de IA para un registro detallado de cada prueba.

Crear Habilidades de IA

Definiciones de modelos personalizados: autenticar con autenticación de firma de AWS

Esta versión introduce soporte para la autenticación de firma de AWS al definir modelos personalizados en AI Agent Studio. Esta mejora le permite integrarse sin problemas con una gama más amplia de servicios de IA/ML basados en AWS que utilizan este método de autenticación. Ahora puede establecer el authType en FIRMA AWS al definir un nuevo modelo personalizado. Por ejemplo: "authType" : "AWS_SIGNATURE_V4". Esto requerirá proporcionar las credenciales necesarias de AWS: ID de clave de acceso, clave de acceso secreta, clave de sesión (opcional), región.

Para ejemplo:

{
   "name":"Bedrock - Claude2.1",
   "description":"string",
   "version":"string",
   "auth_action":{
      "auth_type":"AWS_SIGNATURE_V4",
      "awsSignatureV4":{
         "accessKey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "secretkey":{
            "location":"header",
            "keyName":"aws_sign_access_key"
         },
         "sessionkey":{
            "location":"header",
            "keyName":"aws_sign_session_key"
         }
      }
   },
   "api_type":"REST",
   "actions":[
      {
         .... 
      }
   ]
}

Definiciones de modelos personalizados

Definiciones de modelos personalizados: actualizar modelo existente

El lanzamiento introduce la capacidad de modificar definiciones de modelos personalizados existentes utilizando los métodos PONER y EMPARCHAR recientemente introducidos. Anteriormente, no se admitían modificaciones a un modelo personalizado existente.

PONER (Reemplazar o actualizar el modelo completo): Utilice el punto final PONER para reemplazar o actualizar completamente una definición de modelo personalizado existente. Este método se utiliza cuando necesita actualizar múltiples propiedades del modelo. 
PUT https://{ControlRoom}/gai/prompttools/v1/custommodel
Nota: Esta acción está restringida a modelos personalizados que no tienen conexiones de modelo asociadas.
EMPARCHAR (Actualización parcial: nombre y descripción): Utilice el punto final EMPARCHAR para actualizar solo el nombre y la descripción de una definición de modelo personalizado existente. 
PATCH https://{ControlRoom}/gai/prompttools/v1/custommodel

Ambos puntos finales requieren el nombredelproveedor y nombredelmodelo para identificar el modelo personalizado que se actualizará y devolverá una respuesta 200 OK con los detalles del modelo actualizado tras la ejecución exitosa.

Definiciones de modelos personalizados

Definiciones de modelos personalizados: enumerar API de modelos personalizados; se puede filtrar por nombre de proveedor

Esta versión introduce la capacidad de filtrar la lista de modelos personalizados por nombre de proveedor y ordenar los resultados según criterios específicos.

POST https://{ControlRoom}/gai/prompttools/v1/custommodel/list
Solicitar cuerpo:
{
   "sort":[
      {
         "field":"name",
         "direction":"asc"
      }
   ],
   "filter":{
      "operator":"and",
      "operands":[
         {
            "operator":"eq",
            "field":"name",
            "value":"CustomVendor"
         }
      ]
   }
}

API de AI Agent Studio

Compatibilidad con la capacidad RAG en AI Agent Studio para crear Conexiones del modelo que utilizan Azure OpenAI Basado en la búsqueda de IA

Crear Basado en la búsqueda de IA Conexiones del modelo usando la capacidad nativa de RAG (generación aumentada por recuperación) de Azure OpenAI para construir experiencias de búsqueda enriquecidas que combinen modelos de lenguaje extenso con datos empresariales de Búsqueda de IA de Azure.

Crear Conexiones del modelo Grounded con capacidad de Azure OpenAI RAG

Presentación del widget de llamadas del modelo GenAI

El nuevo modelo de GenAI llama al widget dentro del panel de Gobernanza de IA en la pantalla de inicio y muestra los 5 principales modelos de GenAI utilizados en las automatizaciones. Hacer clic en un nombre de modelo examina a fondo el registro de eventos de Gobernanza de IA, prefiltrado para ese modelo.

Usar widgets del panel de Gobernanza de IA

Cambios

Integración de mejoras de modelos personalizados (ID de caso de Servicio de nube: 02147228)

AI Agent Studio ahora admite la integración de modelos de lenguaje extenso (LLM) personalizados que haya desarrollado o implementado. Esta función ahora incluye API para la gestión de todo el ciclo de vida de estos modelos personalizados, incluida su definición, recuperación, modificación y eliminación, lo que le brinda la capacidad de usar modelos de IA especializados dentro de AI Agent Studio.

Definiciones de modelos personalizados

Buscar y agregar roles en el asistente de creación de Conexiones del modelo

Ahora puede buscar y agregar roles mientras crea Conexiones del modelo.

Crear y gestionar Conexiones del modelo

Mejora Gobernanza de IA del registro de ejecución de bot principal y secundario

Los registros de Gobernanza de IA ahora proporcionan mayor visibilidad en la ejecución del bot, ya que reflejan con precisión detalles del bot principal al iniciar bots secundarios; esto es aplicable tanto a los paquetes de comandos de IA generativa como al aprovechamiento de automatizaciones de Habilidades de IA. Anteriormente, los registros mostraban información de los bots secundarios, lo que creaba inconsistencia. Esta mejora garantiza que los registros ahora incluyan el ID del bot principal, nombre y ruta de la carpeta para mejorar los registros de auditoría. Por ejemplo, si el bot principal ID 103 activa un bot secundario, los registros mostrarán correctamente 103, no la ID del bot secundario. Esta mejora tiene un impacto tanto en los registros de solicitud como en los registros de eventos dentro de Gobernanza de IA.

Gobernanza de IA

Gobernanza de IA Registro de indicaciones de IA y Registro de eventos pestañas: Nueva columna de Barrera de seguridad de la IA

Una nueva columna, Barrera de seguridad de la IA, se añadió a Gobernanza de IA Registro de indicaciones de IA y Registro de eventos pantallas. Un nuevo campo Barrera de seguridad de la IA también está incluido dentro de los detalles de la sesión o los eventos al abrir registros individuales de indicadores o eventos. Esta columna proporciona información sobre las barreras de seguridad específicas aplicadas a cada indicador y evento.

Supervisión de interacciones Registro de indicaciones de IA | Supervisión de interacciones Registro de eventos

Mejora de Gobernanza de IA Registro de indicaciones de IA : Nuevo análisis de toxicidad y Indicación del sistema/Indicación para el usuario
  1. Toxicidad general: Las puntuaciones de toxicidad ahora se muestran tanto para los mensajes del sistema como para los indicadores del usuario.
  2. Toxicidad de la respuesta: El nivel de toxicidad del LLM también está incluido, lo que permite una mejor evaluación del contenido generado.
  3. Visualización de doble indicador: Tanto el Indicación del sistema como el Indicación para el usuario ahora se muestran claramente. Esto aclara el contexto de la interacción, especialmente con la introducción de indicadores del sistema junto a los indicadores del usuario. El campo Indicador anterior ha sido renombrado a Indicador del usuario.
  4. Tipo de conexión del modelo: El Registro de indicaciones de IA ahora muestra el Tipo de conexión del modelo y detalla cómo están conectados los modelos, como Estándar, Ajustado o varias opciones fundamentadas.

Supervisión de interacciones Registro de indicaciones de IA

Mejora de Gobernanza de IA Registro de eventos : Nuevo análisis de toxicidad y Indicación del sistema/Indicación para el usuario
  1. Toxicidad general: Las puntuaciones de toxicidad ahora se muestran tanto para los mensajes del sistema como para los indicadores del usuario.
  2. Toxicidad de la respuesta: El nivel de toxicidad del LLM también está incluido, lo que permite una mejor evaluación del contenido generado.
  3. Visualización de doble indicador: Tanto el Indicación del sistema como el Indicación para el usuario ahora se muestran claramente. Esto aclara el contexto de la interacción, especialmente con la introducción de indicadores del sistema junto a los indicadores del usuario. El campo Indicador anterior ha sido renombrado a Indicador del usuario.
  4. Tipo de conexión del modelo: El Registro de eventos ahora muestra el Tipo de conexión del modelo y detalla cómo están conectados los modelos, como Estándar, Ajustado, o varias opciones fundamentadas.

Supervisión de interacciones Registro de eventos

Correcciones

Los modelos Claude de Anthropic 2.1 y Claude de Anthropic 3.5, que no son compatibles con Amazon Bedrock como modelo ajustado se eliminaron de las opciones de modelos disponibles dentro de los tipos de Amazon Bedrock ajustados. Anteriormente, estos modelos se mostraban incorrectamente en la selección de modelo al elegir el tipo Ajustado en Amazon Bedrock.
Solución de un problema en el que los registros de Gobernanza de IA no eran compatibles para Tareas API ejecutadas en modo en tiempo real (automatización asistida). Esta limitación se ha resuelto en esta versión.
Corrección del mensaje de error engañoso que indica incorrectamente que el Agente de bot necesita una actualización para un registro de Gobernanza de IA preciso. Anteriormente, este error se observaba dentro de las secciones de Gobernanza de IA, específicamente en Registro de indicaciones de IA y Registro de eventos en el caso de las versiones Agente de bot 22.100.xx o posteriores.
Corrección de un problema en el que recibía de manera incorrecta una notificación que solicitaba una actualización del Agente de bot para los registros de auditoría de Gobernanza de IA . Anteriormente, esta notificación aparecía incorrectamente en Administración > Configuración > Gestión de datos de IA > Configuración de registro de datos configuraciones y registros de Gobernanza de IA (Registro de indicaciones de IA y Registro de eventos) incluso cuando se utilizan versiones compatibles de Agente de bot (22.60.10 y posteriores).
Corrección de un problema que impide agregar ap-southeast-2 como una región mientras se crea una Conexión del modelo. Anteriormente, al escribir ap-southeast-2 no se agregaba correctamente la región.

ID de caso de Servicio de nube: 02175254

Limitaciones

Asignar carpetas a Barreras de seguridad de la IA
  • Las Barreras de seguridad de la IA solo se pueden asignar a carpetas principales. Las carpetas secundarias que están dentro de la carpeta principal no heredan ni tienen asignaciones de barreras de seguridad específicas.
  • Cuando un bot principal invoca a un bot secundario que reside en una carpeta diferente, la barrera de seguridad asociada con la carpeta del bot principal se aplicará.
Al hacer clic en un nombre de modelo que contiene caracteres especiales (como "*", "?", "+", "=", "&&", "||", ">", "<", "!", "(", ")", "{", "}", "[", "]", "^", "~", ":", o palabras encerradas entre comillas dobles) dentro de la pestaña Gobernanza de IA del panel en la pantalla de inicio, se muestra un mensaje de error similar a la siguiente captura de pantalla. Esto ocurre porque la funcionalidad de búsqueda dentro del panel de Gobernanza de IA actualmente no admite estos caracteres especiales.

Mensaje de error al hacer clic en el nombre del modelo que contiene caracteres especiales

El campo Carpeta dentro de las Propiedades del archivo de una Habilidad de IA o una plantilla de Habilidad de IA actualmente no funciona según lo previsto. Cambiar la ubicación de la carpeta en esta pantalla no mueve realmente la Habilidad de IA o la plantilla de Habilidad de IA a la ubicación especificada cuando se guardan los cambios.
La prueba con la Barrera de seguridad de la IA no está disponible para el Indicación del sistema en Habilidades de IA

La prueba con Barrera de seguridad de la IA actualmente no es compatible con los indicadores del sistema dentro del editor de Habilidades de IA. Las barreras de seguridad funcionarán correctamente para los indicadores del sistema cuando se utilizan dentro de automatizaciones y son ejecutadas en tiempo de ejecución. Esto significa que no puede probar directamente la aplicación de barreras de seguridad en los indicadores del sistema durante la fase de desarrollo de la Habilidad de IA . Esta limitación solo afecta las pruebas con Barrera de seguridad de la IA.
Habilidad de IA Problema de registro de Tarea API

Ejecuciones de Habilidad de IA activadas a pedido Tareas API no registra respuestas en Gobernanza de IA Registro de eventos. Adición de una acción de retraso de al menos 1 segundo después de la Habilidad de IA: Ejecutar acción para todas las ejecuciones de Tarea API a pedido es una solución temporal actual para resolver este problema de registro.


Problema de registro de ejecución de Habilidad de IA con Tareas API a pedido

Actualizaciones de la interfaz

Barreras de seguridad de la IA
Se introduce un nuevo menú de navegación para acceder a las Barreras de seguridad de la IA:

Nueva navegación para acceder a Barreras de seguridad de la IA

Barreras de seguridad de la IA