Azure OpenAI RAG 기능을 갖춘 Grounded 모델 연결 생성

Azure AI 검색의 엔터프라이즈 데이터를 대규모 언어 모델과 결합한 풍부한 검색 경험을 구축하려면 Azure OpenAI의 기본 검색 증강 생성(RAG) 기능을 사용하여 AI 검색 기반 모델 연결을(를) 생성합니다.

이제 Azure AI 검색 서비스를 Azure OpenAI 서비스와 통합하여 RAG 솔루션을 만들 수 있습니다. 이에 따라 LLM은 사용자의 자체 데이터에서 정보를 검색하여 더 정확하고 맥락에 맞는 응답을 제공할 수 있게 됩니다.

AI Agent Studio Azure AI 검색 RAG

주: 다음 항목을 Azure OpenAI 포털 내에서 설정해야 합니다.
  • Azure AI 검색 서비스 설정: 이는 Azure OpenAI 포털에서 AI 검색 서비스를 생성하는 것을 포함합니다. 서비스 엔드포인트 URL 설정, API 키, 인덱스 생성이 포함됩니다. Azure AI Search 검색을 만드는 방법에 대한 자세한 내용은 Azure 포털에서 Azure AI Search 서비스 만들기를 참조하세요.
  • 데이터 수집 및 색인: 문서는 blob 저장소와 같은 데이터 소스에 업로드되고, 그런 다음 저장소의 파일을 사용하여 인덱스가 생성됩니다. 문서는 여러 조각으로 나뉘며, 벡터 검색이 활성화된 경우 임베딩 모델을 사용하여 콘텐츠가 벡터화됩니다.

    Automation 360 AI 검색 기반 모델 연결와(과) 통합하기 위해 Azure AI 검색 서비스를 설정할 때, 벡터 임베딩을 생성하기 위해 데이터 수집 및 인덱싱 프로세스를 구성하는 것이 중요합니다. Azure AI 검색은(는) 다른 콘텐츠 유형 및 구성(예: 텍스트만 또는 의미만)을 지원하지만, Automation Anywhere 통합은 벡터 임베딩의 사용을 최적화하여 의미 이해 및 검색을 주로 지원합니다.

전제 조건

자동화 관리자는 비즈니스 조직에 대한 모델 연결을 만들고 관리하는 데 이러한 역할과 권한이 필요합니다.
  • 역할: AAE_Basic, 자동화 관리자 사용자 정의 역할
  • 권한: 유인 Bot Runner
  • 설정: 자동화 관리자가 AI 데이터 관리를 활성화해야 하며, 사용자가 AI 기술에 대한 로그를 비활성화하도록 허용하는 확인란을 선택해야 합니다. Bot Creator 라이선스를 가진 사용자가 AI 기술을 사용할 때 AI Skill: 화면에서 데이터 로깅 토글을 활성화하여 데이터 로깅을 비활성화할 수 있도록 허용합니다.

자동화 관리자 사용자 정의 역할 권한은 역할 및 권한 항목을 참조하십시오.

기타 요구 사항:

  • 앞서 언급했듯이, 먼저 AI 검색 기반 모델 연결을 만들기 위해 Azure AI 검색를 생성하고, 이를 AI Skill:에서 성공적으로 사용해야 합니다.
  • 인증 정보를 자격증명 저장소에 저장하려는 경우 정보를 편리하게 보관할 수 있습니다. Credential Vault를 통한 안전한 자격증명 저장소 항목을 참조하십시오.
  • 모델 연결을 테스트하려면 Bot 에이전트 22.60.10 이상에 연결되어 있어야 합니다. 테스트를 위해 데스크톱에서 봇을 실행해야 합니다. 테스트를 통해 Bot 에이전트가 사용자에 맞게 구성되었는지 확인하십시오. 이 태스크를 위해 다른 Control Room으로 연결을 전환해야 하는 경우 Control Room 인스턴스 간 기기 등록 전환 항목을 참조하십시오.
  • 연결을 성공적으로 테스트하려면 AI Skill: 패키지에 액세스할 수 있어야 합니다. 테스트 프롬프트를 실행하여 모델 연결을 테스트합니다.

프로시저

  1. Control Room 환경에서 AI > 모델 연결 > 모델 연결 만들기를 선택합니다.
  2. 모델 연결 생성 화면에서 다음 연결 설정를 구성할 수 있습니다.
    Azure OpenAI RAG 기능을 사용하여 Grounded 모델 연결 만들기
    1. 모델 연결 이름: 모델 연결을 쉽게 식별할 수 있는 이름을 제공합니다.
    2. 설명(선택 사항): 연결을 정의하는 간략한 설명을 추가합니다.
    3. 공급업체 선택: 지원되는 공급업체 목록에서 기본 모델 공급업체를 선택하십시오. Azure OpenAI를 사용하여 AI 검색 기반 모델 연결을 만들려면 드롭다운 목록에서 Azure OpenAI를 선택하십시오.
    4. 유형 선택: RAG 기능을 사용하려면 AI 검색 기반 을 선택합니다.
    5. 모델을 선택하거나 사용자 정의 모델을 만드십시오. Azure OpenAI의 검증된 모델 목록에서 모델을 선택하십시오.
    6. 다음을 클릭하여 인증 세부 정보 섹션으로 이동합니다.
  3. 인증 세부 정보 섹션에서 다음 설정을 구성하십시오.
    1. Azure OpenAI 리소스 이름: Azure OpenAI 리소스의 이름을 입력합니다.
    2. 배포 ID: 사용하려는 모델의 배포 ID를 입력합니다.
    3. API 키: Azure OpenAI 서비스에 대한 API 키를 입력합니다.
    4. AI 검색 서비스 URL: 배포된 Azure AI 검색 서비스의 URL입니다. 검색 서비스에 접근하는 엔드포인트입니다.
    5. AI 검색 인덱스 이름: Azure AI 검색 서비스 내에서 데이터를 포함하는 인덱스의 이름입니다. 검색할 문서들이 저장되는 곳입니다.
    6. AI 검색 API 키: Azure AI 검색 서비스에 대한 API 키입니다. 이 키는 검색 서비스에 대한 접근을 인증하는 데 필요합니다.
    7. AI 검색 임베딩 모델 배포 이름: Azure에 배포된 임베딩 모델의 이름입니다. 이 모델은 텍스트를 벡터 표현으로 변환하여 의미 기반 검색에 사용됩니다.
      주:
      1. 임베딩 모델: 임베딩 모델은 텍스트, 이미지 또는 코드와 같은 데이터를 벡터 임베딩이라고 하는 수치 표현으로 변환하도록 설계된 기계 학습 모델의 한 유형입니다.

        임베딩 모델은 AI 검색 기반 기능이 의미적으로 관련된 정보를 효과적으로 찾으려면 데이터의 벡터 임베딩이 필요하기 때문에 중요합니다.

      2. 벡터 임베딩: 이 벡터들은 데이터의 의미론적 의미를 포착하는 숫자 목록입니다. 유사한 데이터는 고차원 공간에서 서로 가까운 벡터를 갖게 됩니다.

        Azure AI 검색 인덱스가 데이터에서 생성된 벡터 임베딩으로 채워져 있는지 확인합니다. 이는 Automation Anywhere에서 지원하는 AI 검색 유형을 위해 기본적으로 해야 하는 작업입니다. Azure AI 검색 문서를 참조하여 데이터 수집 과정에서 임베딩을 생성하는 방법에 대한 자세한 지침을 확인하세요.

      3. 의미론적 이해: 핵심은 이러한 임베딩이 단순한 키워드가 아니라 데이터의 의미와 맥락을 포착한다는 것입니다. 이를 통해 Azure AI 검색은 서로 다른 정보 간의 관계를 이해할 수 있습니다.
    8. 다음을 클릭하여 연결 테스트 섹션으로 이동합니다.
  4. 연결 테스트를 클릭하여 모든 연결 세부 정보가 올바르게 정의되었는지 확인하고 제대로 연결되는지 점검합니다.
    이는 Bot 에이전트를 사용하는 데스크톱 작업입니다. 성공적인 테스트를 위해 Bot 에이전트 22.60.10 이상을 사용하십시오.
    • 연결이 예상대로 작동하면 시스템에서 요청을 처리하고 성공 메시지를 생성해 표시합니다.
    • 연결이 예상대로 작동하지 않으면 시스템에서는 연결 실패 이유를 설명하는 메시지를 생성해 표시합니다. 예를 들어 지원되는 기본 모델 패키지를 워크스페이스에 다운로드하지 않은 경우 오류 메시지가 표시됩니다. 해당 패키지를 다운로드한 다음 모델 연결을 다시 테스트합니다.
    • 모델 연결 테스트에 실패하거나 작업을 완료하지 않은 상태로 두면 모델 연결은 저장되지 않으며 모델 연결 생성 프로세스를 다시 시작해야 합니다.
  5. 다음을 클릭하여 역할 초대 섹션으로 이동해 사용자에게 사용자 정의 역할을 할당합니다.
    자동화 관리자는 사용자 정의 역할을 만들고 모델 연결을 해당 역할에 할당한 다음, 사용자에게 할당할 수 있습니다. 이 사용자 정의 역할에 할당된 사용자만 이 모델 연결을 사용할 수 있습니다.
  6. 사용자 정의 역할을 통해 전문 개발자에게 액세스 권한을 할당하고 이 모델 연결을 사용하여 AI Skill:을 만듭니다.
  7. 모델 연결 생성을 클릭하여 모델 연결 생성을 완료합니다.
    모델 연결을 성공적으로 생성한 후, 전문 개발자는 이를 사용하여 AI Skill:을 생성하게 됩니다.

다음 단계

모델 연결을 만들고 테스트한 후 전문 개발자에게 할당하면 전문 개발자는 이 연결을 사용해 AI Skill:을 만들게 됩니다. AI Skill:을 사용하여 AI 검색 기반 모델 연결 생성 항목을 참조하십시오.
주: AI 기술 화면에서 AI Skill:을 생성 또는 테스트하면 모델 응답과 함께 성공 또는 실패 세부 정보를 다음 탐색 화면에서 확인할 수 있습니다:
  • 관리 > AI 거버넌스 > AI 프롬프트 로그
  • 관리 > AI 거버넌스 > 이벤트 로그
  • 관리 > 감사 로그

AI 거버넌스 항목을 참조하십시오.