모델 연결 생성 및 관리

Amazon Bedrock, Google Vertex AI, Azure OpenAI, OpenAI 등과 같은 하이퍼스케일러 공급업체의 엄선된 기본 모델 목록에 연결하여 생성형 AI의 힘을 자동화에 통합할 수 있습니다.

자동화 관리자는 기본 모델에 연결하여 모델 연결을 만들고 테스트하며, 전문 개발자가 AI Skill:을 만들 때 연결할 수 있도록 합니다. 모델 연결은 프롬프트 템플릿에서 프롬프트를 보내고 모델로부터 응답을 받는 데 사용됩니다.

또한 자동화 관리자는 사용자 정의 역할을 만들고 이러한 모델 연결을 사용자 정의 역할에 할당합니다. 그런 다음 이러한 사용자 정의 역할이 모델 연결에 액세스할 수 있는 사용자에게 할당됩니다.

모델 연결을 생성하려면 다음 단계를 따르십시오.

전제 조건

자동화 관리자는 비즈니스 조직에 대한 모델 연결을 만들고 관리하는 데 이러한 역할과 권한이 필요합니다.
  • 역할: AAE_Basic, 자동화 관리자 사용자 정의 역할
  • 권한: 유인 Bot Runner
  • 설정: 자동화 관리자가 AI 데이터 관리를 활성화해야 하며, 사용자가 AI 기술에 대한 로그를 비활성화하도록 허용하는 확인란을 선택해야 합니다. Bot Creator 라이선스를 가진 사용자가 AI 기술을 사용할 때 데이터 로깅을 비활성화할 수 있도록 허용합니다.

자동화 관리자 사용자 정의 역할 권한은 AI 도구에 대한 역할과 권한 항목을 참조하십시오.

중요사항: AI Agent Studio에서 외부 생성형 AI 모델에 연결하려면 해당 모델 제공자로부터 API 키, 액세스 키 또는 토큰과 같은 BYOL(자체 라이선스)을 가져와야 합니다.
기타 요구 사항:
  • 인증 정보를 자격증명 저장소에 저장하려는 경우 정보를 편리하게 보관할 수 있습니다. Credential Vault를 통한 안전한 자격증명 저장소 항목을 참조하십시오.
  • 모델 연결을 테스트하려면 Bot 에이전트 22.60.10 이상에 연결되어 있어야 합니다. 테스트를 위해 데스크톱에서 봇을 실행해야 합니다. 테스트를 통해 Bot 에이전트가 사용자에 맞게 구성되었는지 확인하십시오. 이 태스크를 위해 다른 Control Room으로 연결을 전환해야 하는 경우 Control Room 인스턴스 간 기기 등록 전환 항목을 참조하십시오.
  • 연결을 테스트하려면 레코더 패키지와 AI Skill: 패키지에 액세스할 수 있어야 합니다. 테스트 프롬프트를 실행하여 모델 연결을 테스트합니다.

프로시저

  1. Control Room 환경에서 AI > 모델 연결로 이동하여 모델 연결 만들기를 클릭합니다.
  2. 모델 연결 생성 화면에서 다음 연결 설정를 구성할 수 있습니다.
    모델 연결를 생성합니다.
    1. 모델 연결 이름: 모델 연결을 쉽게 식별할 수 있는 이름을 제공합니다.
    2. 설명(선택 사항): 연결을 정의하는 간략한 설명을 추가합니다.
    3. 공급업체 선택: 지원되는 공급업체 목록에서 Amazon Bedrock, Google Vertex AI, Azure OpenAI 또는 OpenAI와 같은 기본 모델 공급업체를 선택합니다.
    4. 유형 선택: 드롭다운 메뉴에서 모델을 선택하면 유형 선택 필드가 표시됩니다. 드롭다운 목록에서 표준을 선택합니다.
    5. 모델 선택: 드롭다운 목록에서 원하는 모델을 선택합니다. 목록에는 선택한 공급업체에 따라 관련 모델이 표시됩니다.
      각 기본 모델 공급업체에 대해 지원되는 모델의 전체 목록은 항목을 참조하십시오.
    6. 다음을 클릭하여 인증 세부 정보 섹션으로 이동합니다.
  3. 인증 세부 정보 섹션에서 매개변수 설정을 구성합니다. 이 설정은 모델 연결을 정의할 때 선택한 모델에 따라 달라집니다.
    주: 각 모델에 대한 인증 세부 정보는 모델 연결 인증 항목을 참조하십시오.
  4. 인증 세부 정보를 설정한 후 확인을 클릭하고 다음 을 클릭하여 연결 테스트 섹션으로 이동하여 모델 연결을 테스트합니다.
  5. 연결 테스트를 클릭하여 모든 연결 세부 정보가 올바르게 정의되었는지 확인하고 제대로 연결되는지 점검합니다.
    이는 Bot 에이전트를 사용하는 데스크톱 작업입니다. 성공적인 테스트를 위해 Bot 에이전트 22.60.10 이상을 사용하십시오.
    • 연결이 예상대로 작동하면 시스템에서 요청을 처리하고 성공 메시지를 생성해 표시합니다.
    • 연결이 예상대로 작동하지 않으면 시스템에서는 연결 실패 이유를 설명하는 메시지를 생성해 표시합니다. 예를 들어 지원되는 기본 모델 패키지를 워크스페이스에 다운로드하지 않은 경우 오류 메시지가 표시됩니다. 해당 패키지를 다운로드한 다음 모델 연결을 다시 테스트합니다.
    • 모델 연결 테스트에 실패하거나 작업을 완료하지 않은 상태로 두면 모델 연결은 저장되지 않으며 모델 연결 생성 프로세스를 다시 시작해야 합니다.
  6. 다음을 클릭하여 역할 초대 섹션으로 이동해 사용자에게 사용자 정의 역할을 할당합니다.
    자동화 관리자는 사용자 정의 역할을 만들고 모델 연결을 해당 역할에 할당한 다음, 사용자에게 할당할 수 있습니다. 이 사용자 정의 역할에 할당된 사용자만 이 모델 연결을 사용할 수 있습니다.

    사용자에게 사용자 정의 역할 할당

  7. RBAC를 사용하여 사용자 정의 역할을 통해 전문 개발자에게 액세스 권한을 할당하고 이 모델 연결을 사용하여 AI Skill:을 만듭니다.
  8. 모델 연결 생성을 클릭하여 모델 연결 생성을 완료합니다.
    모델 연결을 성공적으로 생성한 후 전문 개발자는 이를 사용하여 AI Skill:을 생성할 것입니다.

    AI Skill: 생성 항목을 참조하십시오.

  9. 모델 연결이 생성되었다는 시스템에서 생성한 성공 메시지가 표시됩니다. 이제 모델 연결 목록이 표시된 모델 연결 화면으로 이동됩니다.
  10. 각 연결 옆에 있는 타원을 클릭하여 연결 보기, 연결 편집, 상태 변경 또는 각 연결 삭제를 수행할 수 있습니다.
    모델 연결 작업
    작업 함수
    연결 보기

    연결 세부 정보에서 모델에 대한 요약 보기를 확인할 수 있습니다.

    일반 세부 정보에는 연결이 마지막으로 수정된 시점과 수정한 사람이 표시됩니다.

    자동화 관리자는 이 보기에서 모델 연결을 편집할 수 있습니다.
    상태 변경
    모델 연결이 사용 가능 상태로 생성됩니다. 자동화 관리자는 모델 연결의 상태를 다음 중 하나로 변경할 수 있습니다.
    • 사용 가능: 모델 연결은 새로운 AI Skill:를 생성하고 기존의 항목을 실행하는 데 사용할 수 있습니다.
    • 제한된 접근: 모델 연결은 기존 항목을 실행하는 데 사용할 수 있지만, 새로 추가할 수는 없습니다.
    • 비활성화됨: 이러한 프롬프트 템플릿을 사용하여 새 모델 연결을 생성할 수 없습니다. 이러한 모델 연결을 사용하는 기존의 모든 자동화 실행은 실패합니다.
    연결 편집 모델 연결 세부 정보를 편집할 수 있습니다.
    편집 버튼은 자동화 관리자만 사용할 수 있습니다.
    주: AI STUDIO > 모델 연결 보기 권한이 있는 전문 개발자 및 시민 개발자와 같은 사용자는 모델 연결의 세부 정보를 볼 수는 있지만 편집할 수는 없습니다.
    삭제

    삭제를 클릭하면 확인을 요청하는 메시지가 표시된 후 모델 연결이 삭제됩니다. 삭제를 확정하는 메시지가 표시됩니다.

    모델 연결을 삭제하면 삭제한 AI Skill:을 참조하는 모든 모델 연결의 기본 모델에 대한 연결이 실패합니다. 결과적으로 AI Skill:을 사용하는 모든 자동화의 실행이 실패합니다.

    삭제 버튼은 자동화 관리자만 사용할 수 있습니다.
    주: 사용자, 예를 들어 전문 개발자 및 시민 개발자, 모델 연결 > 모델 연결 보기 권한을 가진 경우, 모델 연결의 세부 정보를 볼 수 있지만 삭제할 수는 없습니다.

다음 단계

모델 연결을 만들고 테스트한 후 전문 개발자에게 할당하면 전문 개발자는 이 연결을 사용해 AI Skill:을 만들게 됩니다. AI Skill: 생성 항목을 참조하십시오.
주:
모델 연결을 생성, 테스트, 편집 또는 삭제할 때, 성공 또는 실패 세부 정보가 모델 응답과 함께 로그로 캡처되어 다음 탐색 화면에서 확인할 수 있습니다.
  • 관리 > AI 거버넌스 > AI 프롬프트 로그
  • 관리 > AI 거버넌스 > 이벤트 로그
  • 관리 > 감사 로그
AI 거버넌스 항목을 참조하십시오.

태스크 순서의 다음 단계로 AI Skill: 생성으로 이동하여 AI Skill:을 만들고 모델 연결에 연결한 다음 자동화에서 사용합니다.