Registro de indicaciones de IA
- Última actualización2025/10/10
Registro de indicaciones de IA
Registro de indicaciones de IA se utiliza para auditar y monitorear las interacciones con el modelo base y facilita una vista resumida unificada de todas las sesiones que ocurren dentro de una ejecución de automatización para las interacciones de modelos.
En una sesión, puede haber interacciones con varios modelos. A cada ejecución de automatización se le asigna un ID de sesión que permite la agregación de todos los eventos en un único ID de sesión.
Al hacer clic en el enlace ID de sesión, puede acceder a una vista detallada y específica de la sesión. La vista detallada incluye indicaciones, respuestas y otros parámetros intercambiados con los modelos fundacionales.
Detalles de la tabla de Registro de indicaciones de IA
Para acceder a los registros de indicadores, vaya a . La tabla de Registro de indicaciones de IA ordena y muestra detalles según estas columnas:
|
Duración: Muestra la hora de inicio y finalización de la ejecución de una sesión.
Nota: Esta información no está disponible si la sesión está en curso.
|
|
Hora de inicio: Muestra la hora de inicio de la ejecución de una sesión. |
|
ID de sesión: Muestra el ID de sesión de una ejecución de automatización. Una sesión puede estar conformada por varias interacciones del modelo, que forman parte de la misma ejecución de automatización. Haga clic en el enlace ID de sesión para ver los detalles de todas las interacciones del modelo para esa sesión. |
|
Fuente: Muestra dónde se ingresó este indicador en el producto. |
|
Tipo de indicador: Muestra el tipo de indicador utilizado en la automatización. Las opciones son:
|
|
Nombre de la automatización: Muestra el nombre de la automatización que utilizó la indicación. |
|
Nombre del dispositivo: Muestra el ID del dispositivo en el que se ejecutó la automatización. |
|
Usuario: Muestra el ID del usuario que ejecutó la automatización. |
|
Barrera de seguridad de la IA : Muestra la barrera de seguridad específica que se implementa en cada sesión de IA. |
|
Ruta de la carpeta: La ubicación de la carpeta de la automatización ejecutada. Cuando se integra una Habilidad de IA con una automatización (principal o secundaria), la ruta de la carpeta que se muestra es la misma que la ruta de la carpeta de la automatización principal. |
Registro de indicaciones de IA Detalles de interacción de la sesión y el modelo
Para ver más información sobre una interacción de IA específica, primero haga clic en el ID de sesión de la tabla del Registro de indicaciones de IA. Esto le mostrará detalles adicionales de la sesión en la misma pantalla. Desde allí, puede expandir el nombre del modelo fundamental para ver los detalles completos de esa interacción.
| Elemento de tabla | Descripción |
|---|---|
| Barrera de seguridad de la IA asignada | Muestra la barrera de seguridad específica que se implementa en cada sesión de IA. |
| Toxicidad | Muestra el nivel de toxicidad del indicador y la respuesta. |
| Indicación | Muestra el texto del indicador que ingresó el usuario en el campo Indicación para el usuario al definir el indicador. |
| Respuesta | Muestra la respuesta recibida del modelo para la solicitud de indicaciones. |
- Indicadores permitidos: Si la puntuación de toxicidad del indicador se encuentra dentro de los límites aceptables, el registro incluirá la respuesta del modelo, con los datos confidenciales enmascarados. También se registrarán la puntuación de toxicidad de la respuesta y la acción de la barrera de seguridad que se tomó sobre la respuesta.
- Indicadores bloqueados: Si una barrera bloquea un indicador (antes de llegar al LLM) o debido a su puntuación de toxicidad, el registro indicará explícitamente la acción de la barrera de seguridad que se tomó, como Bloqueado por barrera de seguridad.
- Respuestas bloqueadas: Si la barrera de seguridad marca la respuesta generada por el modelo, el registro mostrará la respuesta enmascarada, su puntuación de toxicidad y la acción de la barrera de seguridad que se tomó sobre ella, como Bloqueada por la barrera de seguridad.
Por lo general, el líder de automatización y el líder de GRC tendrían permiso para ver los detalles adicionales de las interacciones del modelo en cada sesión, ya que monitorean los registros de cumplimiento y gobernanza para garantizar que se cumplan las políticas cuando se utilizan modelos fundacionales dentro de las automatizaciones.
| Elemento de tabla | Descripción |
|---|---|
| Duración de la sesión | Muestra el tiempo de inicio y finalización. |
| Editor | Muestra el nombre del proveedor del modelo fundacional. |
| Modelo | Muestra el nombre de la versión del modelo fundacional, como los siguientes: GPT 3.5 Turbo para Azure OpenAI, Vertex AI para Google Vertex AI, Claude para Amazon Bedrock y otros. |
| ID de sesión externa | Muestra el ID de sesión de una interacción de modelo específica capturada en una sesión. Una única sesión puede contener varias interacciones de modelos en una sola ejecución de automatización. Puede utilizar esta información para realizar un seguimiento de cada interacción del modelo que ocurre en una sesión. |
| Configuraciones de respuesta | Muestra los valores de los parámetros utilizados para el indicador, como los siguientes: temperatura, P superior, token máximo, penalización por presencia, entre otros. Estos parámetros y sus valores varían según el proveedor del modelo. |
| Atributos de respuesta | Muestra los atributos con los valores de la respuesta. |
| Tipo de conexión del modelo | Especifica el tipo de conexión de modelo. El Tipo de conexión del modelo puede ser uno de los siguientes:
|
Registros de indicadores de Agentes de IA
Al usar Agentes de IA, el Registro de indicaciones de IA captura las interacciones entre el agente, el modelo de lenguaje extenso (LLM) y varias herramientas asociadas al agente. Los siguientes son los aspectos clave de estas interacciones:
- Proceso de toma de decisiones y selección dinámica de herramientas:
- El proceso de toma de decisiones para decidir qué herramienta usar para realizar una operación se facilita a través de AI Agent Studio. Los Agentes de IA eligen herramientas de manera dinámica según el contexto y las instrucciones proporcionadas al LLM. Este proceso de selección se registra, mostrando qué herramientas se eligieron y por qué.
- Instrucciones para el LLM
- El registro captura las instrucciones enviadas al LLM, entre ellas el rol, el objetivo y las acciones. Esto incluye detalles sobre herramientas del sistema, herramientas de estado final y herramientas de usuario.
- Ejecución de herramientas
- El Registro de indicaciones de IA registra la ejecución de herramientas, como los datos de entrada proporcionados a la herramienta y los datos de salida recibidos.
- Evaluación del estado final
- El LLM evalúa el contexto y determina si se cumple el objetivo. El Registro de indicaciones de IA registra esta evaluación y la decisión final, como recomendar una herramienta eficaz.
Al monitorear el Registro de indicaciones de IA, puede obtener información sobre cómo los Agentes de IA están tomando decisiones, qué herramientas se están utilizando y si los agentes están alcanzando sus objetivos.