AI 거버넌스 코드 분석 규칙
- 최종 업데이트2024/10/31
AI 거버넌스 코드 분석 규칙
새로운 AI 거버넌스 코드 분석 규칙을 통해 이제 AI를 책임감 있고 규정을 준수하여 사용할 수 있습니다. 코드 분석 강화를 통해 즉각적인 수정을 위한 알림을 통해 AI 사용 정책을 모니터링하고 시행할 수 있습니다.
개요
테스트되지 않은 기본 모델을 사용하면 이를 사용하는 사용자와 애플리케이션에 상당한 안전 위험을 초래할 수 있습니다. 생성형 AI 모델에 대한 액세스를 제어하는 보안 통제가 없으면 사용자와 애플리케이션은 모델 사용과 관련된 위험에 노출될 수 있습니다. 조직의 책임 있는 AI 및 안전한 사용 정책과 일치하는 거버넌스 정책을 구현하여 이러한 위험을 완화하세요. 지역 제한에 따라 규칙을 시행하는 것 외에도, 우수한 응답 품질에 대해 검증을 거치지 않은 모델을 사용할 때 가능한 위험을 관리하기 위해 승인 및 테스트된 모델에 대한 액세스를 제한합니다.
새로운 규칙은 코드 분석을 통해 자동화 설계 및 개발 중에 모델 사용을 강제합니다. 이렇게 시행하기 쉬운 정책은 자동화가 실행을 위해 프로덕션 폴더에 체크인되기 전에 규정 준수를 보장하는 데 도움이 됩니다. 정책은 정책을 위반하는 프로덕션 단계의 자동화를 점검하고 보고하며, 손상되거나 승인되지 않은 모델이 사용될 때 발생하는 위험에 대한 가시성을 제공합니다. 이를 통해 이러한 사고를 해결할 수 있는 기회가 주어집니다..
코드 분석 규칙 및 코드 분석 정책 구성 및 할당 항목을 참조하십시오.
이점
- 테스트 및 검증된 모델에 한해 모델 사용 제한
- 정책 위반 사항 모니터링
- 정책 위반으로 인한 코드 체크인 방지
사용자 및 권한
자동화 관리자, 전문 개발자 또는 자동화 책임자는 AI 거버넌스 코드 분석 정책의 주요 사용자가 됩니다. Bot Creators 및 전문 개발자가 모델 사용 및 토큰 소비에 대한 정책 제한을 모니터링하고 시행할 수 있는 규칙을 정의할 것입니다. 페르소나는 Control Room 정책 관리자를 통해 정책을 정의하고 자동화가 포함된 폴더에 할당할 수 있습니다.
자동화를 개발한 후 전문 개발자가 저장하고 체크인하면 해당 정책 검사가 트리거되어 자동화 코드에서 정책 위반 사항이 있는 경우 이를 알립니다. 전문 개발자는 코드 체크인 프로세스를 성공적으로 완료하려면 정책 위반 사항을 처리하고 해결해야 합니다.
- 지원되는 하이퍼스케일러 게시자 목록
- 하이퍼스케일러 게시자의 모델 목록
- 배포 지원 지역
권한에 대한 자세한 내용은 코드 분석 항목을 참조하십시오.
사용 가능
이 기능을 사용하려면 엔터프라이즈 플랫폼 라이선스가 필요합니다. 이 기능에 대해 지원되는 버전에 대한 정보는 Enterprise Platform 항목을 참조하십시오.
AI 거버넌스 코드 분석 정책 액세스
- 정책 화면에서 정책 생성 또는 + 아이콘을 클릭하여 정책 생성 페이지를 표시하고 정책 세부정보를 추가할 수 있는 옵션을 제공합니다.
- AI 거버넌스 정책으로 스크롤하여 토글을 활성화합니다.
-
모델 추가를 클릭하고 하이퍼스케일러 공급업체인 게시자, 해당 공급업체가 지원하는 모델, 배포 지역을 추가합니다.주: 모델 이름을 수동으로 입력할 수 있습니다. 모델 이름을 입력할 때 다음 형식을 사용할 것을 권장합니다:
- Amazon Bedrock : Jurassic-2 Mid, Jurassic-2 Ulta, Claude Instant v1.2, Claude v1.3, Claude v2.1 (다른 지원 버전), Titan Text G1 - Lite 및 Titan Text G1 - Express (다른 지원 버전).
- Google Vertex AI : chat-bison (최신), chat-bison-32k (최신), chat-bison-32k@002, chat-bison@001, chat-bison@002, codechat-bison, codechat-bison-32k, codechat-bison-32k@002, codechat-bison@001, codechat-bison@002 (다른 지원 버전), text-bison (latest), text-bison-32k (최신), text-bison-32k@002, text-bison@001, text-bison@002, text-unicorn@001, code-bison (최신), code-bison-32k@002, code-bison@001, code-bison@002, code-gecko@001, code-gecko@002, code-gecko (다른 지원 버전) 그리고 Gemini Pro.
- OpenAI : gpt-3.5-turbo (기본값), gpt-3.5-turbo-16k, gpt-4, gpt-4-32k (다른 지원 버전), text-davinci-003, text-davinci-002, davinci, text-curie-001, curie, text-babbage-001, babbage, text-ada-001 및 사용자 정의 모델.
- 모델 추가 버튼을 클릭하면 허용된 모델 테이블에 새 행을 추가할 수 있습니다.
- 다음으로, 코드 분석 정책에 따라 심각도 수준을 심각으로 추가합니다.주: 규칙 위반이 발생할 경우, 전문 개발자가 자동화를 체크인하지 않도록 하기 위해 심각도 수준을 심각으로 추가할 것을 권장합니다.
- 다음으로, 변경 사항을 저장합니다.