모델 연결 관리(자동화 관리자)

자동화 관리자는 모델 연결을 설정 및 관리하고, 역할을 만들고, 조직 내 역할에 사용자를 배정합니다. 모델 연결을 설정하려면 다음 단계를 따르십시오.

자동화 관리자는 모델 연결을 생성하여 전문 개발자가 프롬프트 템플릿을 만들 때 연결할 수 있도록 합니다.

전제 조건

자동화 관리자는 비즈니스 조직에 대한 모델 연결을 만들고 관리하는 데 이러한 역할과 권한이 필요합니다.

  • 역할:
    • Bot_Creator
    • Bot_Runner
    • AAE_Basic
  • 권한 및 작업:
    • Credential Vault 활성화/비활성화
    • 모델 연결 관리
      • 생성
      • 테스트
      • 편집
      • 삭제
    • 사용자 정의 역할 생성
    • 역할 및 권한 할당
    • 봇 실행
    • 감사 로그 읽기
    • 감사 로그 생성 활성화 또는 비활성화
    • 사용자에게 감사 로그 읽기 권한 할당
역할 및 권한 외에도 다음이 필요합니다.
  • 모델 연결생성에 사용할 GenAI 패키지를 다운로드합니다.
  • 인증 정보를 자격증명 저장소에 저장하려는 경우 정보를 편리하게 보관할 수 있습니다.
  • 모델 연결을 테스트하려면 Bot 에이전트(v22.31 이상)에 연결되어 있어야 합니다. 테스트를 위해 데스크톱에서 Bot을 실행해야 합니다. 테스트를 통해 Bot 에이전트가 사용자에 맞게 구성되었는지 확인하십시오. 다른 Control Room로 연결을 전환해야 하는 경우 참조하세요: Control Room 인스턴스 간 기기 등록 전환
  • 연결을 테스트하려면 레코더 패키지와 생성형 AI 프롬프트 템플릿 패키지에 액세스할 수 있어야 합니다. 테스트 프롬프트를 실행해 모델 연결을 테스트합니다.

프로시저

  1. Control Room 테넌트에서 관리 > 모델 연결로 이동하여 모델 연결 만들기를 클릭합니다.
  2. 모델 연결 만들기 화면에서 다음 매개변수에 대한 설정을 구성할 수 있습니다.
    모델 연결 생성
    • 연결 설정:
      • 모델 연결 이름: 연결 이름을 제공합니다.
      • 설명(선택 사항): 연결을 정의하는 간략한 설명을 추가합니다.
      • 공급업체 선택: 사용 가능한 옵션에서 GenAI 공급업체를 선택합니다. 현재는 Microsoft Azure OpenAI 및 OpenAI 공급업체만 지원합니다.
      • 드롭다운 메뉴에서 공급업체를 선택하면 모델 선택 필드가 표시됩니다. 사용 가능한 모델 버전 목록에서 선택합니다.
      • 연결 설정 섹션의 모든 매개변수 값을 입력한 후 다음을 클릭하여 인증 세부정보 섹션으로 이동합니다.
    • 인증 세부 정보:
      연결 세부 정보 매개변수는 연결을 정의할 때 선택한 GenAI 공급업체에 따라 달라집니다.
      • Microsoft Azure의 경우 Azure OpenAI 리소스 이름, 배포 ID및 API 키 필드에 대한 연결 세부 정보를 정의합니다.
        • Azure OpenAI 리소스 이름: 이 값은 Microsoft Azure 리소스 페이지에서 가져올 수 있습니다.
        • 배포 ID: 이 값은 Microsoft Azure 리소스 페이지에서 가져올 수 있습니다.
        주: Azure OpenAI 구성하기 항목을 참조하십시오.
      • OpenAI의 경우 API 키에 대한 연결 세부 정보를 정의합니다.
      • API 키: 이 연결 매개변수는 Microsoft Azure 및 OpenAI LLM 모델 모두에 공통으로 적용됩니다.
        주: 보안 아키텍처 및 Credential Vault의 자격증명 및 로커 항목을 참조하십시오.
        • 안전하지 않은 문자열: 이 옵션을 선택하면 이 필드에 입력한 값이 암호화되지 않았다는 경고 메시지가 표시됩니다. 자격증명을 사용할 것을 권장합니다.
        • 자격증명: 이 옵션을 사용하는 것이 좋습니다. 선택을 클릭하여 드롭다운 메뉴에서 로커, 자격증명및 속성 값을 선택합니다. 이는 자격증명 관리자에 연결된 Control Room에서 관리하는 설정을 기반으로 합니다.
      • 확인을 클릭하고 다음을 선택한 다음 연결 테스트 섹션으로 이동하여 모델 연결을 테스트합니다.
    • 연결 테스트:
      • 연결 테스트를 클릭하여 모든 연결 세부 정보가 올바르게 정의되었는지 확인하고 제대로 연결되는지 점검합니다.
      • 연결이 예상대로 작동하면 시스템에서 요청을 처리하고 성공 메시지를 생성해 표시합니다.
      • 연결이 예상대로 작동하지 않으면 시스템에서는 연결 실패 이유를 설명하는 메시지를 생성해 표시합니다. 예를 들어 GenAI 패키지를 다운로드하지 않은 경우 오류 메시지가 표시됩니다. 패키지를 다운로드한 다음 모델 연결을 다시 테스트합니다.
      • 모델 연결 테스트에 실패하거나 작업을 완료하지 않은 상태로 두면 모델 연결은 저장되지 않으며 모델 연결 생성 프로세스를 다시 시작해야 합니다.
      • 다음을 클릭하여 사용자에게 사용자 정의 역할 추가를 시작합니다.
    • 역할 초대:
      • 이 단계에서는 자동화 관리자가 사용자에게 사용자 정의 역할을 할당합니다.

        사용자에 역할 할당

        주: 자동화 관리자는 사용자에게 할당할 수 있는 모델 연결에 대한 사용자 정의 역할을 만들어야 합니다. 이 사용자 정의 역할이 할당된 사용자만 이 모델 연결 기능을 사용할 수 있습니다.
      • 역할을 할당하고 나면 모델 연결 만들기를 클릭하여 모델 연결 생성을 완료합니다.
    모델 연결 성공
  3. 시스템에서 모델 연결이 생성되었다는 성공 메시지가 표시됩니다. 모델 연결 목록이 표시된 모델 연결 화면으로 이동합니다.
  4. 각 연결 옆의 줄임표를 클릭해 삭제, 보기, 편집을 수행할 수 있습니다.
    • 삭제를 클릭하면 먼저 확인을 요청하는 메시지가 표시됩니다. 삭제가 완료되면 삭제되었음을 나타내는 메시지가 표시됩니다.
      주: 전문 개발자, 시민 개발자, 비즈니스 유저 등 보기 권한이 있는 사용자는 모델 연결에 대한 세부 정보를 볼 수 있지만 편집하거나 삭제할 수는 없습니다.
    • 편집 및 삭제 버튼은 자동화 관리자에게 권한이 있습니다.

다음 단계

모델 연결을 만들고 테스트한 후 전문 개발자에게 할당하면 전문 개발자는 이 연결을 사용해 프롬프트 템플릿을 만들게 됩니다.
주: 모델 연결을 만들거나 테스트하면 관리 > 감사 로그에서 성공 또는 실패에 대한 세부 정보를 확인할 수 있습니다. AI 거버넌스 항목을 참조하십시오.