AI 거버넌스
- 최종 업데이트2024/09/03
AI 거버넌스
AI 거버넌스를 통한 강력한 모니터링 및 감사를 통해 거버넌스를 강화하고 생성형 AI의 상호 작용 및 이벤트의 무결성을 유지하십시오.
개요
주:
- 생성형 AI 모델은 오류가 발생하거나 생성하는 정보를 잘못 표시할 수 있습니다. AI 모델이 생성한 콘텐츠는 정확성, 신뢰성, 완성도를 검증하는 것이 좋습니다.
- AI 거버넌스는 클라우드 배포에서만 사용할 수 있습니다.
AI 거버넌스는 AI Agent Studio 제품군에서 하나의 플랫폼 기능으로 제공됩니다. 이것은 AI를 안전하게 사용할 수 있는 관리자 도구를 제공하고, 기본 모델에 대한 액세스를 관리하며, 생성형 AI 기반 자동화를 실행할 때 모니터링 및 감사 기능을 제공하기 위해 고안되었습니다.
AI 거버넌스는 사용자가 자동화에서 기본 모델을 사용할 때 감사 정보를 제공합니다. 적절한 권한이 있는 사용자는 감사 요약 및 상세 정보를 확인할 수 있습니다. Control Room에서 고객은 데이터 로깅 기본 설정을 관리하고, 로그 보기 액세스를 제어하고, 암호화를 통해 민감한 데이터를 보호할 수 있습니다.
다음 영상에서는 가치 제공에 초점을 맞춰 AI 거버넌스 개요를 보여줍니다.
AI 거버넌스에서는 다음 기능이 지원됩니다.
- 데이터 로깅을 관리하고 AI 상호 작용 로그 및 세부 정보를 볼 수 있는 권한을 통해 사용자 액세스를 관리하는 RBAC(역할 기반 액세스 제어) 기능.
- 자동화 실행 내에서 발생하는 기본 모델 상호 작용의 AI 프롬프트 로그 통합 표시.
- 기본 모델과의 상호 작용 중에 발생하는 모든 생성형 AI 이벤트를 추적하는 이벤트 로그.
- 로그 기록을 내보내고 지원되는 SIEM(보안 정보 및 이벤트 관리) 플랫폼으로 전달하는 검색 및 항목을 CSV로 내보내기.
다음 이미지는 AI 거버넌스 워크플로를 간략하게 표현한 것입니다.
이점
AI 거버넌스를 사용하여 보안을 위한 기본 제공 가드레일을 통해 책임감 있는 AI 사용 지원:
- 규정 준수 관리: 향후 AI 규정 및 프레임워크를 지속적으로 준수합니다. 로그를 모니터링하여 민감한 데이터 노출의 위험을 사전에 감지하고 모범 사례에 따라 신속하게 사용하십시오. 모델에 대한 승인된 액세스를 위한 프롬프트 데이터 및 자격증명은 업계 표준 암호화 알고리즘을 사용하여 안전하게 저장됩니다.
- 모니터링 및 감사: 자동화 실행 내에서 모델 상호 작용 사용을 감사하고 모니터링하여 거버넌스 정책을 준수하는지 확인합니다. 자동화에서 모델 상호 작용을 추적하여 모델의 적절한 사용과 성능을 보장합니다.
- 보안 가드레일: 승인된 모델에 대한 역할 기반 액세스 제어를 통해 모델 연결 및 프롬프트 데이터에 대해 더욱 강력한 보안을 관리하십시오. 승인된 모델에 대한 모든 연결은 자동화 내에서 사용되는 중앙에서 관리됩니다.
- 사용 인사이트: 자동화에 사용되는 프롬프트 사용법과 생성형 AI 모델에 대한 인사이트를 확인합니다.
- 로그 세부 정보 보기 및 추적: AI 프롬프트 로그 및 이벤트 로그 탭에서 세션 상호 작용 및 해당 이벤트 세부 정보를 확인합니다.
사용 가능
AI Agent Studio에 대해 AI 거버넌스 기능을 활성화하려면 엔터프라이즈 플랫폼 라이선스가 필요합니다. AI Studio 라이선스는 모든 클라우드 지역에서 사용할 수 있습니다. 라이선스가 할당되면 이러한 각 역할과 설정이 할당된 모든 사용자가 AI 거버넌스 기능을 사용할 수 있습니다.
- 역할: AI 거버넌스에 대한 사용자 정의 역할
- 설정: 을 활성화합니다.
- 선택 :
- 선택 :
주: AI 거버넌스를 활성화하는 역할 및 권한 할당 항목을 참조하십시오.
엔터프라이즈 플랫폼 라이선스에 대한 자세한 내용은 엔터프라이즈 플랫폼 항목을 참조하십시오.