AI 거버넌스

AI 거버넌스를 통한 강력한 모니터링 및 감사를 통해 거버넌스를 강화하고 생성형 AI의 상호 작용 및 이벤트의 무결성을 유지하십시오.
주: 생성형 AI 모델은 오류가 발생하거나 생성하는 정보를 잘못 표시할 수 있습니다. AI 모델이 생성한 콘텐츠는 정확성, 신뢰성, 완성도를 검증하는 것이 좋습니다.

개요

주: 이 제품을 사용하려면 엔터프라이즈 플랫폼 라이선스가 필요합니다. 이 기능에 대해 지원되는 버전에 대한 정보는 Enterprise Platformm 항목을 참조하십시오.

AI 거버넌스는 AI Agent Studio 제품군에서 하나의 플랫폼 기능으로 제공됩니다. AI를 안전하게 사용할 수 있는 관리자 도구를 제공하고, 기본 모델에 대한 액세스를 관리하며, 생성형 AI 기반 자동화를 실행할 때 모니터링 및 감사 기능을 제공하기 위해 고안되었습니다.

AI 거버넌스는 사용자가 자동화에서 기본 모델을 사용할 때 감사 정보를 제공합니다. 적절한 권한이 있는 사용자는 감사 요약 및 상세 정보를 확인할 수 있습니다. Control Room에서 고객은 데이터 로깅 기본 설정을 관리하고, 로그 보기 액세스를 제어하고, 암호화를 통해 민감한 데이터를 보호할 수 있습니다.

다음 동영상에서 가치 제공에 초점을 맞춰 AI 거버넌스 개요를 확인할 수 있습니다.

AI 거버넌스에서는 다음 기능이 지원됩니다.
  • 데이터 로깅을 관리하고 AI 상호 작용 로그 및 세부 정보를 볼 수 있는 권한을 통해 사용자 액세스를 관리하는 RBAC(역할 기반 액세스 제어) 기능.
  • 자동화 실행 내에서 발생하는 기본 모델 상호 작용의 AI 프롬프트 로그 통합 표시.
  • 기본 모델과의 상호 작용 중에 발생하는 모든 생성형 AI 이벤트를 추적하는 이벤트 로그.
  • 로그 기록을 내보내고 지원되는 SIEM(보안 정보 및 이벤트 관리) 플랫폼으로 전달하는 검색 및 항목을 CSV로 내보내기.

다음 이미지는 AI 거버넌스 워크플로를 간략하게 표현한 것입니다.

AI 거버넌스워크플로

이점

AI 거버넌스를 사용하여 보안을 위한 기본 제공 가드레일을 통해 책임감 있는 AI 사용 지원:
  • 규정 준수 관리: 향후 AI 규정 및 프레임워크를 지속적으로 준수합니다. 로그를 모니터링하여 민감한 데이터 노출의 위험을 사전에 감지하고 모범 사례에 따라 신속하게 사용하십시오. 모델에 대한 승인된 액세스를 위한 프롬프트 데이터 및 자격증명은 업계 표준 암호화 알고리즘을 사용하여 안전하게 저장됩니다.
  • 모니터링 및 감사: 자동화 실행 내에서 모델 상호 작용 사용을 감사하고 모니터링하여 거버넌스 정책을 준수하는지 확인합니다. 자동화에서 모델 상호 작용을 추적하여 모델의 적절한 사용과 성능을 보장합니다.
  • 보안 가드레일: 승인된 모델에 대한 역할 기반 액세스 제어를 통해 모델 연결 및 프롬프트 데이터에 대해 더욱 강력한 보안을 관리하십시오. 승인된 모델에 대한 모든 연결은 자동화 내에서 사용되는 중앙에서 관리됩니다.
  • 사용 인사이트: 자동화에 사용되는 프롬프트 사용법과 생성형 AI 모델에 대한 인사이트를 확인합니다.
  • 로그 세부 정보 보기 및 추적: AI 프롬프트 로그 및 이벤트 로그 탭에서 세션 상호 작용 및 해당 이벤트 세부 정보를 확인합니다.
  • AI 거버넌스 분석: AI 거버넌스 대시보드에서 시각적으로 통합된 집계 데이터를 통해 자동화 생성 및 실행 중에 생성형 AI의 사용을 추적, 모니터링 및 관리합니다.
  • 코드 분석 규칙: AI 거버넌스 코드 분석 규칙을 통해 AI 사용 정책을 모니터링하고 즉각적인 수정을 위해 알림을 통해 정책을 시행하여 책임감 있고 규정을 준수하는 AI 사용을 보장하십시오.

사용 가능

AI 거버넌스 기능을 AI Agent Studio에 대해 활성화하려면 엔터프라이즈 플랫폼 라이선스가 필요합니다.

이 기능에 대해 지원되는 버전에 대한 정보는 Enterprise Platform 항목을 참조하십시오.