사용자 정의 모델 정의

사용자 정의 모델 정의를 통해 다양한 환경(온프레미스 인프라, 프라이빗 클라우드, 퍼블릭 클라우드 플랫폼 포함)의 다양한 플랫폼에 호스팅된 외부 생성형 AI 모델과 통합하고 활용할 수 있습니다.

사용자 정의 모델 API를 사용하면 REST API 호환 모델에 연결할 수 있어 더 다양한 AI 솔루션을 활용할 수 있습니다.

사용자 정의 모델의 필요성

생성형 AI 기술의 급속한 발전으로 인해 다양한 기본 모델이 출시되었으며, 각각 고유한 장점과 전문성을 갖추고 있습니다. Automation Anywhere은 AI Agent Studio 내에서 사전 통합된 모델을 선택할 수 있도록 제공하지만 다른 모델을 활용해야 하는 경우 다음과 같은 이유 때문일 수 있습니다.

특화된 모델

비즈니스 요구에 맞는 특정 데이터 세트로 학습되거나 고유한 작업에 맞게 미세 조정된 모델을 개발하거나 획득했습니다.

데이터 보안 및 상주

엄격한 데이터 보안 정책이나 규제 요구 사항이 있는 조직은 온프레미스 인프라나 프라이빗 클라우드와 같은 자체 보안 환경 내에 호스팅된 모델을 사용해야 할 수 있습니다.

기존 투자 활용

플랫폼에 AI 모델을 개발하고 배포하는 데 이미 투자한 조직은 이러한 모델을 Automation Anywhere 워크플로에 직접 통합하는 능력에서 이점을 누릴 수 있습니다.

사용자 정의 모델 API

이 문제를 해결하기 위해 Automation Anywhere은 사용자 정의 생성형 AI 모델을 정의하고 연결할 수 있는 사용자 정의 모델 API를 개발했습니다. 이러한 API는 모델의 공급업체, 이름, 인증 메커니즘, 입력 매개변수 및 출력 매핑 등 모델에 대한 정보를 Control Room 인스턴스의 데이터베이스에 입력하여 작동합니다.


사용자 정의 모델 API
다음 네 가지 API는 AI Agent Studio에서 사용자 정의 모델을 관리하기 위해 설계되었습니다.
  1. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel
    • 이 API는 새로운 사용자 정의 모델 정의를 생성합니다.
    • 모델에 대한 정보를 캡슐화하는 JSON 페이로드 스키마가 필요합니다. 스키마는 공급업체의 이름, 특정 모델의 이름, 인증 프로토콜, API 엔드포인트 세부 정보 (경로 매개변수, 쿼리 매개변수, 필수 헤더 포함), 요청과 응답 본문 구조 등의 속성을 정의합니다.
    • API는 사용자가 실행 시간 동안 동적으로 채워질 수 있는 요청 및 응답 본문 내에서 변수를 정의할 수 있도록 합니다. 이러한 변수들은 다음과 같은 특정 주석 기호를 사용하여 다양한 목적으로 지정될 수 있습니다.
      • PROMPT_QUERY : 이 주석 기호는 해당 변수를 사용자가 AI Skill: 페이지에서 제공한 프롬프트로 바꿔야 함을 나타냅니다. 이것은 사용자 입력 프롬프트를 모델에 전달하는 데 필수적입니다.
      • REQUEST_PARAMETER : 이 주석 기호는 변수가 모델 연결 페이지의 구성 가능한 매개변수로 노출되어야 함을 나타냅니다.
      • MODEL_PARAMETER : 이 주석 기호는 REQUEST_PARAMETER와 유사하지만 AI Skill: 페이지에서 구성을 위한 변수를 지정합니다.
      • RESPONSE_PARAMETER : 이 주석 기호는 변수가 AI 모델의 응답으로 반환될 것임을 나타냅니다.
    • API는 생성이 성공적으로 완료되면 생성된 모델과 함께 200 OK 응답을 반환합니다.
  2. GET https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • 이 API는 기존 사용자 정의 모델의 정의를 검색합니다.
    • 경로 매개변수로서 공급업체 이름(vendorName) 및 모델 이름(modelName)을 필요로 합니다.
    • API는 요청된 모델을 나타내는 객체가 포함된 200 OK 응답을 반환합니다.
  3. DELETE https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • 이 API는 기존 사용자 정의 모델을 삭제합니다.
    • GET API와 유사하게 (vendorName) 및 (modelName)을 경로 매개변수로 사용하여 타겟 모델을 식별합니다.
      주: 모델은 현재 활성 모델 연결과 연결되어 있지 않은 경우에만 삭제할 수 있습니다. 이는 모델 정의를 삭제하기 전에 모든 AI Skill: 및 Task Bots을 제거하여 모델 연결에 의존하는 요소를 제거해야 함을 의미합니다.
    • API는 삭제 성공 시 204 No Content 응답을 반환합니다.
  4. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/list
    • 이 API는 Control Room 내의 공급업체에 대한 모든 사용자 정의 모델의 목록을 검색합니다.
    • 이는 FilterRequest를 포함하는 선택 사항 요청 본문을 수락할 수 있어 사용자가 특정 기준을 토대로 결과를 필터링할 수 있게 해줍니다.
    • API는 요청된 모델을 포함하는 객체와 함께 200 OK 응답을 반환합니다.

자세한 내용은 AI Agent Studio API를 참조하십시오. AI Agent Studio에 대한 Postman 컬렉션은 여기에서 다운로드할 수 있습니다. Postman 컬렉션은 사용자 정의 모델에 연결하기 위한 예시 API 호출이 포함된 사용자 정의 모델 정의입니다.