사용자 정의 모델 정의를 통해 다양한 환경생성형 AId에서 다양한 플랫폼에 호스팅된 외부 모델과 통합하고 활용할 수 있으며 여기에는온프레미스 인프라, 프라이빗 클라우드, 퍼블릭 클라우드 플랫폼이 포함됩니다

사용자 정의 모델 API를 사용하면 REST API 호환 모델에 연결할 수 있어 더 다양한 AI 솔루션을 활용할 수 있습니다.

사용자 정의 모델의 필요성

생성형 AI 기술의 급속한 발전으로 인해 다양한 기본 모델이 출시되었으며, 각각 고유한 장점과 전문성을 갖추고 있습니다. Automation Anywhere은 AI Agent Studio 내에서 사전 통합된 모델을 선택할 수 있도록 제공하지만 다음과 같은 이유 때문에 다른 모델을 활용해야 하는 경우가 있습니다.

특화된 모델

비즈니스 요구에 맞는 특정 데이터 세트로 학습되거나 고유한 작업에 맞게 미세 조정된 모델을 개발하거나 획득했습니다.

데이터 보안 및 레지던시

엄격한 데이터 보안 정책이나 규제 요구 사항이 있는 조직은 온프레미스 인프라나 프라이빗 클라우드와 같은 자체 보안 환경 내에 호스팅된 모델을 사용해야 할 수 있습니다.

기존 투자 활용

플랫폼에 AI 모델을 개발하고 배포하는 데 이미 투자한 조직은 이러한 모델을 Automation Anywhere 워크플로에 직접 통합하는 능력에서 이점을 누릴 수 있습니다.

사용자 정의 모델 API

이 문제를 해결하기 위해 Automation Anywhere은 사용자 정의 생성형 AI 모델을 정의하고 연결할 수 있는 사용자 정의 모델 API를 개발했습니다. 이 API는 모델의 공급업체, 이름, 인증 메커니즘, 입력 매개변수 및 출력 매핑 등 모델에 대한 정보를 Control Room 데이터베이스에 등록하여 작동합니다.


사용자 정의 모델 API
다음 네 가지 API는 AI Agent Studio 에서 사용자 정의 모델을 관리하기 위해 설계되었습니다:
  1. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel
    • 이 API는 새로운 사용자 정의 모델 정의를 생성합니다.
    • 모델에 대한 정보를 캡슐화하는 JSON 페이로드 스키마가 필요합니다. 스키마는 공급업체의 이름, 특정 모델의 이름, 인증 프로토콜, API 엔드포인트 세부 정보(경로 매개변수, 쿼리 매개변수 및 필수 헤더 포함), 요청 및 응답 본문의 구조와 같은 속성을 정의합니다.
    • API는 사용자가 요청 및 응답 본문 내에서 변수를 정의할 수 있도록 하여 실행 시간 동안 동적으로 채워질 수 있습니다. 이러한 변수들은 특정 주석 기호를 사용하여 다양한 목적으로 지정될 수 있습니다.
      • PROMPT_QUERY (필수): 이 주석은 해당 변수가 AI Skill: 페이지에서 사용자가 제공한 프롬프트로 대체되어야 함을 나타냅니다. 이는 사용자 입력 프롬프트를 모델에 전달하는 데 필수적입니다.
      • REQUEST_PARAMETER (필수): 이 주석은 변수가 모델 연결 페이지에서 구성 가능한 매개변수로 노출되어야 함을 나타냅니다.
      • MODEL_PARAMETER : REQUEST_PARAMETER와 유사하게, 이 주석은 AI Skill: 페이지에서 설정할 변수를 지정합니다.
      • RESPONSE_PARAMETER (필수): 이 주석은 변수가 AI 모델의 응답에서 반환될 것임을 나타냅니다.
    • API는 성공적으로 생성된 모델과 함께 200 OK 응답을 반환합니다.
  2. GET https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • 이 API는 기존 사용자 정의 모델의 정의를 검색합니다.
    • 경로 매개변수로 공급업체 이름(vendorName)과 모델 이름(modelName)이 필요합니다.
    • API는 요청된 모델을 나타내는 객체가 포함된 200 OK 응답을 반환합니다.
  3. DELETE https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/vendors/{vendorName}/models/{modelName}
    • 이 API는 기존 사용자 정의 모델을 삭제합니다.
    • GET API와 유사하게, 대상 모델을 식별하기 위해 경로 매개변수로 (vendorName) 및 (modelName)을 사용합니다.
      주: 모델은 현재 활성 모델 연결과 연결되어 있지 않은 경우에만 삭제할 수 있습니다. 이는 모델 정의를 삭제하려고 시도하기 전에 모델 연결에 의존하는 모든 AI Skill: 및 Task Bots를 먼저 제거해야 함을 의미합니다.
    • API는 삭제 성공 시 204 No Content 응답을 반환합니다.
  4. POST https:/{{ControlRoomURL}}/gai/prompttools/v1/custommodel/list
    • 이 API는 Control Room 내의 모든 공급업체에 대해 정의된 모든 사용자 지정 모델의 목록을 검색합니다.
    • 특정 기준에 따라 결과를 필터링할 수 있도록 FilterRequest 객체를 포함하는 선택 사항 요청 본문을 허용합니다.
    • API는 요청된 모델을 포함하는 객체와 함께 200 OK 응답을 반환합니다.

자세한 내용은 AI Agent Studio API를 참조하십시오. AI Agent Studio에 대한 Postman 컬렉션은 여기에서 다운로드할 수 있습니다. 이는 사용자 정의 모델에 연결하기 위한 예제 API 호출을 포함한 사용자 지정 모델 정의입니다.