AI 거버넌스 대시보드 위젯 사용하기

AI 거버넌스 대시보드 경험을 향상시키려면 AI를 활용한 최고의 자동화, 가장 많이 사용되는 모델, 토큰 소비 위젯에 대한 데이터를 검토하여 기업 전반의 자동화 개발 및 자동화 실행 중에 모델 상호 작용에서 파생된 AI 데이터를 보고, 모니터링하고, 분석하십시오.

권한

GRC 리드, 자동화 리드 및 전문 개발자는 자동화 관리자가 활성화해야 하는 이러한 설정을 통해 AI 거버넌스 대시보드를 사용합니다.
  • 역할 > AI > AI 대시보드 보기
  • 역할 > AI > AI 프롬프트 로그 보기 > AI 프롬프트 로그 세부 정보 보기
  • 역할 > AI > AI 이벤트 로그 보기 > AI 이벤트 로그 세부 정보 보기
주:
AI 대시보드 보기 설정을 활성화하면 AI 거버넌스 대시보드가 표시됩니다. AI 프롬프트 로그 및 이벤트 로그 탭에서 자세한 로그를 더 깊이 분석하고 액세스하려면 다음 추가 설정을 활성화해야 합니다.
  • AI > AI 프롬프트 로그 보기 > AI 프롬프트 세부 정보 보기
  • AI > AI 이벤트 로그 보기 > AI 이벤트 세부 정보 보기

AI 거버넌스를 활성화하는 역할 및 권한 할당 항목을 참조하십시오.

AI를 활용한 최고의 자동화 위젯

이 대시보드 위젯은 AI 상호작용을 사용하는 가장 자주 실행되는 자동화 10개를 보여주는 막대 그래프를 표시합니다. 지난 24시간 동안 상위 10개 자동화의 이름과 실행 횟수를 확인할 수 있습니다. 위젯의 자동화 막대 위에 마우스를 올리면 자동화 이름과 총 실행 횟수가 표시된 설명문이 나타납니다.

AI를 활용한 최고의 자동화 위젯

드릴 다운:

막대 그래프를 클릭하여 세부 정보를 드릴다운하고 추가 내용을 확인하십시오. 자동화 막대를 클릭하면 Control Room 내의 AI > AI 거버넌스 > AI 프롬프트 로그 탭으로 이동되어 세션별로 나열된 자동화가 실행한 모든 실행 목록을 볼 수 있습니다. 각 세션을 클릭하면 세부 정보가 표시됩니다. 이 화면에서 시간 필터를 변경할 수 있습니다.

AI 프롬프트 로그 상호 작용 모니터링 항목을 참조하십시오.

주: 전문 개발자가 AI Skill:화면에서 특정 AI Skill:에 대해 데이터 로깅 토글을 비활성화한 경우 자동화 실행 세션 세부 정보에서 프롬프트 텍스트, 프롬프트 응답 및 모델 매개변수 설정 데이터를 볼 수 없습니다.

가장 많이 사용되는 모델 위젯

GRC 리드와 자동화 리드는 이 위젯을 사용하여 자동화 내의 가장 많이 사용되는 모델에 대한 모델 활용를 모니터링하고 추적하여 구독을 효과적으로 관리할 수 있습니다. 이는 하이퍼스케일러 공급업체의 승인 및 지원 모델을 구현하는 데 도움이 됩니다.

가장 많이 사용되는 모델 위젯은 생성형 AI 패키지 및 AI Skill: 패키지를 사용하여 생산 환경에서 자동화를 실행할 때 자동화 내에서 가장 많이 사용되는 상위 다섯 가지 모델에 대한 가시성을 제공합니다.

가장 많이 사용되는 모델 위젯

가장 많이 사용되는 모델 위젯의 세부 정보를 살펴보겠습니다. 데이터는 막대 형태로 표현되며 자동화 이름, 하이퍼스케일러 공급업체 모델 이름, 패키지 이름 및 사용량에 따라 정렬됩니다. 기본적으로 가장 많이 사용되는 모델 위젯은 지난 24시간 동안의 데이터를 표시합니다. 각 막대는 다음을 나타냅니다.
  • 패키지가 사용된 자동화 이름(생성형 AI 패키지 또는 AI Skill: 패키지를 사용했는지 여부)
  • 하이퍼스케일러 공급업체에서 사용하는 모델은 예를 들어 다음과 같습니다. OpenAI의 GPT-4

막대 위에 마우스를 올려 놓으면 세부 정보의 요약을 볼 수 있습니다.

드릴 다운:

막대 그래프를 클릭하면 하이퍼스케일러 공급업체에서 가장 많이 사용되는 모델 전체 목록 외에도 추가 세부 정보를 볼 수 있습니다. 막대를 클릭하면 Control Room 내의 AI > AI 거버넌스 > 이벤트 로그 탭으로 이동하여 해당 모델 이름으로 필터링된 로그 목록을 볼 수 있습니다. 로그는 이벤트 유형 에 따라 표시됩니다. 이벤트 유형 을 클릭하면 자동화 실행 내에서 발생한 모델 상호 작용에 대한 추가 세부 정보를 볼 수 있습니다.

이벤트 로그 상호 작용 모니터링 항목을 참조하십시오.

  1. 막대 그래프의 드릴 다운 옵션 외에도 오른쪽 상단 모서리에 있는 줄임표를 클릭하여 세부 정보 보기를 선택하면 자세한 정보를 볼 수 있습니다.
  2. AI 거버넌스 대시보드 화면에는 모델 활용 탭 세부 정보가 표시됩니다.

생성형 AI 모델 호출 위젯

생성형 AI 모델 호출 위젯은 조직의 생성형 AI 모델 사용 현황을 보여줍니다. 이 대시보드는 실행된 프롬프트의 양을 기준으로 가장 자주 호출된 상위 5개의 생성형 AI 모델을 표시합니다. 이는 공용 워크스페이스에서 실행되는 자동화에 의해 수행된 호출을 구체적으로 추적하며, 성공한 실행과 실패한 실행, 그리고 수동 및 무인 실행을 모두 포함합니다.

위젯은 연결 및 인증 호출을 제외하고, 생성형 AI 명령 작업 및 AI Skill: 명령 작업 내에서 프롬프트 실행에만 집중합니다. 명령어 작업이 루프 내에 있을 경우, 해당 루프 내에서 각 프롬프트 실행은 별도의 모델 호출로 간주됩니다. 모델 사용 추세를 분석할 시간 범위를 선택할 수 있습니다. 위젯 내에서 모델 이름을 클릭하면 해당 특정 모델과 관련된 모든 이벤트를 보여주도록 사전 필터링된 AI 거버넌스 이벤트 로그로 이동하여 더 깊은 분석과 문제 해결을 실행할 수 있습니다.

모델 활용 위젯

모델 활용 위젯은 상위 5개의 자동화를 표시합니다. 더 보기를 클릭하여 모든 자동화를 확인하십시오. 화면 상단에서 다른 시간 필터로 변경할 수 있는 지난 24시간에 대한 데이터가 기본으로 표시됩니다.

주: 특정 모델이나 게시자를 기준으로 모델 활용도 표를 필터링할 수 있습니다. 정확한 구문을 검색하려면 검색 구문을 큰 따옴표로 묶으십시오(예: "GPT").

위젯에 표시된 데이터를 기반으로 보고서를 내보내려면 항목을 .csv로 내보내기를 클릭하십시오.

가장 많이 사용되는 모델에 대한 모델 활용 세부 정보

표 1. 가장 많이 사용되는 모델에 대한 모델 활용 세부 정보 화면
열 헤더 설명
모델 이름 이는 OpenAI의 GPT-4와 같은 특정 자동화에 사용되는 모델입니다. 모델을 클릭하면 AI > AI 거버넌스 > 이벤트 로그 탭으로 이동하여 Control Room 내의 해당 모델 이름으로 필터링된 모든 로그를 볼 수 있습니다.

이벤트 로그 상호 작용 모니터링 항목을 참조하십시오.
게시자 Amazon Bedrock, Google Vertex AI, Azure OpenAI 또는 OpenAI와 같은 지원되는 하이퍼스케일러 공급업체.
자동화 생성형 AI 패키지 및 AI Skill: 패키지를 사용하여 자동화 실행에 사용된 생성형 AI 명령 작업 개수입니다.
AI Skill: AI Skill:을 사용하여 실행된 통화 자동화 수.
모델 호출 모델에 대한 호출 수.
기기 모델 상호작용 중 사용된 기기의 수.

토큰 소비 위젯

토큰 소비 위젯은 모델별로 집계된 가장 많은 토큰을 소비하는 상위 자동화에 대한 가시성을 제공합니다. 모델의 토큰 소비에 대한 총 수를 도출하기 위해 메트릭은 자동화 이름, 폴더 경로 및 하이퍼스케일러 공급업체의 모델 이름을 기반으로 계산됩니다. 위젯의 막대 위에 마우스를 올려 놓으면 특정 자동화의 토큰 소비 세부 정보를 볼 수 있습니다.

토큰 소비 위젯

토큰 소비 위젯에는 지난 24시간에 대한 데이터가 기본적으로 표시되며, 화면 상단에서 다른 시간 필터로 변경할 수 있습니다.

GRC 리드와 자동화 리드는 이 위젯을 사용하여 자동화 내에서 모델의 상호작용과 실행 중에 토큰 사용을 모니터링하고 추적하여 비용과 구독을 효과적으로 관리할 수 있습니다. 이는 모델 선호도에 따라 토큰 소비을 예측하는 데 도움이 됩니다..

토큰 소비 세부 정보 위젯

토큰 소비 세부 정보 위젯은 상위 5개의 자동화를 표시합니다. 더 보기를 클릭하여 모든 자동화를 확인하십시오. 화면 상단에서 다른 시간 필터로 변경할 수 있는 지난 24시간에 대한 데이터가 기본으로 표시됩니다.

주: 자동화 이름, 폴더 경로, 게시자, 모델 이름 또는 워크스페이스를 기준으로 토큰 소비 세부 정보 표를 필터링할 수 있습니다. 정확한 구문을 검색하려면 검색 구문을 큰 따옴표로 묶으십시오(예: "Amazon Bedrock").

위젯에 표시된 데이터를 기반으로 보고서를 내보내려면 항목을 .csv로 내보내기를 클릭하십시오.

표 2. 토큰 소비 세부 정보 화면
열 헤더 설명
자동화 이름 실행된 자동화의 이름. 이름을 클릭하면 Control Room 내의 AI > AI 거버넌스 > AI 프롬프트 로그 탭으로 이동하여 해당 자동화 이름으로 필터링된 모든 로그를 볼 수 있습니다.

AI 프롬프트 로그 상호 작용 모니터링 항목을 참조하십시오.
폴더 경로 자동화가 실행된폴더 위치.
게시자 Amazon Bedrock, Google Vertex AI, Azure OpenAI 또는 OpenAI와 같은 지원되는 하이퍼스케일러 공급업체.
모델 이름 이는 OpenAI의 GPT-4와 같은 특정 자동화에 사용되는 모델입니다.
사용자 사용자 수.
워크스페이스 이는 자동화가 실행된 개인 또는 공용 폴더일 수 있습니다.
AI Skill: 자동화에 사용된 AI Skill:의 수.
토큰 모델에서 사용된 총 토큰 수.