Google Vertex AI RAG 기능을 갖춘 Grounded Model connections 생성

Google Vertex AI RAG(검색 증강 생성) 기능을 사용하여 Google Data Source에서 참조한 정확하고 문맥적으로 올바른 정보를 생성하기 위해 Grounded by data store Model connections을 만드십시오.

주:

Google Vertex AI Grounded by data store Model connections의 경우 이제 Cloud에서도 Automation 360 v34 릴리스에서 사용할 수 있습니다. Cloud 및 On-Premises에서 이 기능을 사용할 수 있습니다.

Google Data Store에 문서 청크 처리가 이제 지원되어 자동화 실행에서 최적의 결과를 보장합니다. AI Agent Studio에서 Google Vertex AI Grounded 모델을 사용하기 위해 Google Data Store에서 문서 청크 처리를 활성화할 수 있습니다.

이제 Agent Builder 서비스를 사용하여 Grounded by data store Model connections을 생성할 수 있는 옵션을 제공합니다. Google Data Store에서의 검색 쿼리는 대규모 데이터 세트에서 관련 콘텐츠를 검색하여 모델에 제공하고 정확한 응답을 생성합니다.

자동화 실행 중에 Grounded by data store로 생성된 Model connections을 사용하여 Google Data Store의 Google Data Source를 참조하여 응답을 검색합니다. 이는 관련 콘텐츠로부터 더 높은 정확도로 최적화된 응답을 보장합니다. 기초 모델을 사용할 때 그라운딩은 중요한 측면입니다. 이는 조직의 데이터에 기반한 응답을 제공하여 응답의 부정확성과 모델의 환각을 방지합니다.
주: AI Agent Studio에서 Google Vertex AI RAG 기능을 사용하려면 먼저 Agent Builder에 데이터 소스를 만들어야 합니다. 그런 다음 Grounded by data store 옵션을 사용하여 Model connection을 만들 수 있습니다.

항목을 참조하십시오.Google Vertex AI의 데이터 저장소 .

전제 조건

자동화 관리자는 비즈니스 조직에 대한 Model connections을 만들고 관리하는 데 이러한 역할과 권한이 필요합니다.
  • 역할: AAE_Basic, 자동화 관리자 사용자 정의 역할
  • 권한: 유인 Bot Runner
  • 설정: 자동화 관리자가 AI 데이터 관리를 활성화해야 하며, 사용자가 AI 기술에 대한 로그를 비활성화하도록 허용 확인란을 선택해야 합니다.

자동화 관리자 사용자 정의 역할 권한은 역할 및 권한 항목을 참조하십시오.

기타 요구 사항:
  • 앞서 언급했듯이, 먼저 Grounded by data store Model connection을 만들기 위해 Google Data Source를 생성하고, 이를 AI Skill에서 성공적으로 사용해야 합니다. 항목을 참조하십시오.데이터 저장소 및 Vertex Data Store 생성.
  • 인증 정보를 자격증명 저장소에 저장하려는 경우 정보를 편리하게 보관할 수 있습니다. Credential Vault를 통한 안전한 자격증명 저장소 항목을 참조하십시오.
  • Model connection을 테스트하려면 Bot Agent 22.60.10 이상에 연결되어 있어야 합니다. 테스트를 위해 데스크톱에서 bot을 실행해야 합니다. 테스트를 통해 Bot Agent가 사용자에 맞게 구성되었는지 확인하십시오. 이 태스크를 위해 다른 Control Room으로 연결을 전환해야 하는 경우 Control Room 인스턴스 간 기기 등록 전환 항목을 참조하십시오.
  • 연결을 성공적으로 테스트하려면 Recorder 패키지와 AI Skills 패키지에 액세스할 수 있어야 합니다. 테스트 Prompt를 실행하여 Model connection을 테스트합니다.

프로시저

  1. Control Room 환경에서 AI > 모델 연결 > 모델 연결 만들기를 선택합니다.
  2. 모델 연결 생성 화면에서 다음 연결 설정를 구성할 수 있습니다.
    Google Vertex AI RAG 기능을 사용하여 Grounded Model connections 만들기
    모델 이름을 모델 선택 또는 사용자 정의 모델 생성 필드에 수동으로 입력할 수 있습니다. 입력하신 이름은 Model connection 생성에 사용됩니다.
    1. 모델 연결 이름: Model connection을 쉽게 식별할 수 있는 이름을 제공합니다.
    2. 설명(선택 사항): 연결을 정의하는 간략한 설명을 추가합니다.
    3. 공급업체 선택: 지원되는 공급업체 목록에서 기본 모델 공급업체를 선택하십시오. Google Vertex AI를 사용하여 Grounded by data store Model connection을 만들려면 드롭다운 목록에서 Google Vertex AI를 선택하십시오.
    4. 유형 선택: Google Vertex AI를 위해 RAG 기능을 사용하려면 Grounded by data store를 선택하십시오.
    5. 모델을 선택하거나 사용자 정의 모델을 만드십시오. 드롭다운 목록에서 원하는 모델을 선택합니다.
      또한, 드롭다운 목록에 없는 Google Data Store의 다른 모델들도 지원합니다. Google Data Store에서 모델을 추가하려면 모델 이름과 버전을 모델의 전체 URI와 함께 입력해야 합니다. 예시: 모델이 Gemini 1.5 Flash 001인 경우, 형식은 gemini-1.5-001/answer_gen/v1입니다.
      각 기본 모델 공급업체에 대해 지원되는 모델의 전체 목록은 일반 FAQ 항목을 참조하십시오.
    6. 다음을 클릭하여 인증 세부 정보 섹션으로 이동합니다.
  3. 인증 세부 정보 섹션에서 다음 설정을 구성하십시오.
    1. 프로젝트 이름: Google Cloud 계정 프로젝트입니다.
    2. 영역: Model connection 인증을 위해 연결할 지역을 드롭다운 목록에서 선택합니다. Agent Builder에서 데이터 소스를 생성할 때 구성한 자신의 지역을 추가할 수도 있습니다.
      항목을 참조하십시오.데이터 저장소 만들기 .
    3. Control Room OAuth 연결: OAuth 2.0 클라이언트 ID를 만듭니다. 클라이언트 ID는 Google의 OAuth 서버에서 단일 애플리케이션을 식별하는 데 사용합니다.
    4. 인증 세부 정보를 설정한 후 확인을 클릭하고 다음을 클릭하여 연결 테스트 섹션으로 이동하여 Model connection을 테스트합니다.
    주: Google Cloud 프로젝트 및 Control Room OAuth 연결을 Google Vertex AI에 대해 설정하는 방법에 대한 자세한 내용은 Vertex AI: 연결 작업 항목을 참조하십시오.
  4. 연결 테스트를 클릭하여 모든 연결 세부 정보가 올바르게 정의되었는지 확인하고 제대로 연결되는지 점검합니다.
    이는 Bot Agent를 사용하는 데스크톱 작업입니다. 성공적인 테스트를 위해 Bot Agent 22.60.10 이상을 사용하십시오.
    • 연결이 예상대로 작동하면 시스템에서 요청을 처리하고 성공 메시지를 생성해 표시합니다.
    • 연결이 예상대로 작동하지 않으면 시스템에서는 연결 실패 이유를 설명하는 메시지를 생성해 표시합니다. 예를 들어 지원되는 기본 모델 패키지를 워크스페이스에 다운로드하지 않은 경우 오류 메시지가 표시됩니다. 해당 패키지를 다운로드한 다음 Model connection을 다시 테스트합니다.
    • Model connection 테스트에 실패하거나 작업을 완료하지 않은 상태로 두면 Model connection은 저장되지 않으며 Model connection 생성 프로세스를 다시 시작해야 합니다.
  5. 다음을 클릭하여 역할 초대 섹션으로 이동해 사용자에게 사용자 정의 역할을 할당합니다.
    자동화 관리자는 사용자 정의 역할을 만들고 Model connections을 해당 역할에 할당한 다음, 사용자에게 할당할 수 있습니다. 이 사용자 정의 역할에 할당된 사용자만 이 Model connection을 사용할 수 있습니다.
  6. Model connection을 사용자 정의 역할(RBAC 사용)에 할당하여 역할이 할당된 사용자가 액세스할 수 있도록 하십시오.
  7. 모델 연결 생성을 클릭하여 Model connection 생성을 완료합니다.
    Model connection을 성공적으로 생성한 후, 전문 개발자는 이를 사용하여 AI Skill을 생성하게 됩니다.

    Create AI Skills with Grounded by data store Model connections 항목을 참조하십시오.

    .

다음 단계

Model connection을 만들고 테스트한 후 전문 개발자에게 할당하면 전문 개발자는 이 연결을 사용해 AI Skills을 만들게 됩니다.

작업 순서의 다음 단계로 Create AI Skills with Grounded by data store Model connections으로 이동하여 AI Skill을 만들고 Grounded by data store Model connection에 연결하여 자동화에서 사용합니다.