AI Skills을 사용하여 Grounded by AI Search Model connections 생성

Grounded by AI Search Model connection을 만든 후의 다음 논리적 단계입니다. AI Skill을 생성하고 이를 Azure OpenAI의 Grounded Model connection에 연결합니다.

Azure OpenAI Grounded by AI Search Model connections은 Cloud 및 On-Premises의 Automation 360에서 사용할 수 있습니다.

전문 개발자는 AI Skills을 생성하여 Bot Creators가 자동화에서 이를 사용하여 시간과 노력을 절약할 수 있도록 합니다.

전문 개발자가 액세스할 수 있는 Model connections에 연결하고 비즈니스 요청에 가장 적합한 답변을 찾기 위해 다양한 기본 모델로 테스트하여 프롬프트를 미세 조정함으로써 AI Skills이 생성됩니다. 이러한 AI Skills은 솔루션 전반의 자동화 개발을 가속화하도록 개발자와 비즈니스 유저가 재사용할 수 있습니다.

전제 조건

전문 개발자는 다음 역할과 권한이 있어야 AI Skills을 만들고 테스트할 수 있습니다.
  • 역할: AAE_Basic, 전문 개발자 사용자 정의 역할
  • 권한: Bot Creator. 역할 및 권한 항목을 참조하십시오.
  • 기타 요구 사항: 역할 및 권한 외에도 전문 개발자는 Bot Agent 22.60.10 이상에 연결되어 있어야 합니다. Model connection의 테스트의 일부로 데스크톱에서 bot을 실행해야 합니다. 테스트를 통해 Bot Agent가 사용자에 맞게 구성되었는지 확인하십시오. 다른 Control Room으로 연결을 전환해야 하는 경우 Control Room 인스턴스 간 기기 등록 전환 항목을 참조하십시오.

프로시저

  1. Control Room에 로그인하고 자동화 > 새로 만들기 또는 \'+\' 아이콘 으로 이동하여 AI Skills을 선택합니다.
  2. 이름과 설명을 입력하고 생성 및 편집 을 클릭하여 템플릿 개요를 표시합니다.
  3. AI 기술 화면에서 모델 연결 선택 을 클릭한 다음 액세스 권한이 있는 사용 가능한 Model connections 목록에서 선택합니다. Azure OpenAI에서 Grounded by AI Search 유형 옵션을 사용하여 생성된 Model connection을 선택하게 됩니다. Grounded by AI Search을 사용하여 Model connections을 생성하는 방법에 대한 자세한 내용은 Azure OpenAI RAG 기능을 갖춘 Grounded Model connections 생성 항목을 참조하십시오.
    이러한 Model connections은 자동화 관리자가 만들고 사용자 정의 역할로 사용자에게 할당합니다.
  4. Model connection을 선택하면 선택한 모델에 가장 적합한 기본 매개변수 설정으로 AI Skills이 설정됩니다. 필요에 따라 설정을 변경할 수 있습니다.
    AI Skill 편집기에는 모델 공급업체가 설정한 기본 매개변수 값이 표시되며 필요에 따라 구성할 수 있습니다. 이러한 값은 Agent Builder에서 데이터 저장소를 생성할 때 구성할 수 있습니다.
  5. AI 검색 유형을 선택합니다.
    1. 하이브리드(벡터 + 키워드): 이는 전체 텍스트 검색과 벡터 검색의 강점을 하나의 쿼리로 결합합니다. Azure AI Search은 키워드 기반 검색과 벡터 기반 검색을 동시에 수행합니다. 그런 다음 결과를 병합하여 보다 포괄적인 관련 문서 세트를 제공합니다.
    2. 벡터: 이 검색 유형은 AI 임베딩의 힘을 활용하여 정확한 키워드를 포함하지 않더라도 쿼리와 의미적으로 관련된 문서를 찾습니다. 임베딩 모델(예: Azure OpenAI의 모델)을 사용하여 문서와 쿼리를 벡터 임베딩으로 변환합니다. Azure AI Search은 이러한 임베딩을 인덱스에 저장합니다. 검색할 때, 쿼리의 임베딩을 문서의 임베딩과 비교하여 가장 유사한 문서를 찾습니다.
    3. 하이브리드 + 시맨틱: 이는 전체 텍스트, 벡터 및 시맨틱 순위를 결합하여 가장 포괄적이고 관련성 높은 검색 결과를 제공합니다. 시맨틱 순위는 쿼리와 문서 간의 미묘한 관계를 식별하여 더 정확한 결과를 도출할 수 있습니다.
      • 시맨틱 순위: 하이브리드 + 시맨틱 옵션은 시맨틱 순위를 적용하여 검색 결과를 개선합니다. Azure AI Search의 이 고급 순위 기능은 쿼리의 의도와 맥락을 이해하여 더 관련성이 높은 결과를 제공합니다.
      • 구성: 시맨틱 순위를 사용하려면 Azure Azure AI Search에서 시맨틱 검색을 구성해야 합니다. 공식 Azure AI 검색 문서를 참조하여 시맨틱 구성 설정 방법에 대한 자세한 설정 단계를 확인하세요(Azure AI Search Semantic Search Configuration).
      • 비용 고려 사항: Azure AI Search은(는) 시맨틱 순위 기능을 사용하는 데 별도의 가격 모델이 있다는 점을 유념하시기 바랍니다. Azure AI Search 가격 페이지에서 시맨틱 검색과 관련된 비용에 대한 자세한 정보(Azure AI Search Pricing)를 확인하는 것이 좋습니다.
      주: Azure AI Search이(가) 다양한 검색 유형을 제공하긴 하지만, 기본 Azure AI Search 인덱스가 벡터 임베딩으로 구성되어 있는지 반드시 확인하시기 바랍니다. 벡터 및 하이브리드(벡터 + 키워드) 옵션은 이러한 임베딩을 직접 활용합니다. 하이브리드 + 시맨틱 옵션 또한 초기 검색 단계에 대해 벡터 임베딩의 이점을 활용합니다.
  6. 엄격성을 선택합니다. 검색 엔진이 질문에 답하기 위해 문서를 필터링하고 선택할 때 얼마나 엄격한지를 제어합니다. 더 높은 엄격성은 더 높은 정밀도로 이어지지만, 재현율은 낮아집니다(잠재적으로 관련 있는 답변을 놓칠 수 있음). 엄격성을 낮추면 재현율이 높아져 더 많은 잠재적인 답변을 얻을 수 있지만, 정밀도가 낮아져 일부 답변이 덜 관련 있거나 심지어 부정확할 수 있습니다.
  7. 문서 수를 선택합니다. 이는 언어 모델이 답변을 생성하기 위해 상위 순위 문서 중 Azure AI Search에서 몇 개를 제공해야 하는지를 결정합니다. 문서 수가 많으면 언어 모델에 더 포괄적이고 정확한 답변을 생성할 수 있는 더 많은 맥락을 제공합니다. 문서 수가 적으면 언어 모델이 작업할 정보가 적어져서 덜 포괄적이거나 정확하지 않은 답변이 나올 수 있습니다.
  8. 다음으로, Azure 필터 조건을 추가합니다. 이는 선택 사항입니다. 이 필드는 필터 값을 입력하기 위한 string 형식을 지원합니다. 필터를 추가하면 저장소 내 특정 파일로 모델 검색 범위를 좁히는 데 도움이 됩니다.

    AI Skill이 Azure OpenAI 포털의 특정 문서 세트를 사용하여 응답을 그라운딩하도록 할 수 있습니다. 이는 응답의 범위를 좁히고 더 정확하게 만듭니다.

  9. 이제 AI Skill 생성을 시작하고 필요에 따라 프롬프트 입력을 추가할 수 있습니다. 예시를 사용하여 단계를 설명해 드리겠습니다.
  10. 시스템 프롬프트 및 사용자 프롬프트 필드에 필요한 경우 입력 변수를 포함하여 Prompt 텍스트를 입력합니다.

    예:

    System prompt : 당신은 자바 코드 전문가입니다.

    User prompt : OOD 원칙을 사용하여 직사각형과 원의 면적을 계산하는 샘플 코드를 작성하십시오.

    Prompt 텍스트에 대한 응답은 Azure 포털의 문서를 참조합니다.

  11. 프롬프트 입력란을 클릭합니다.
  12. 응답 가져오기를 클릭하여 프롬프트를 기반으로 모델에서 응답을 가져옵니다.ㄴ
    주: Prompt 데이터 세부 정보에는 PHI, PII 또는 System prompt나 User prompt 필드에 입력하기로 선택한 기타 민감한 데이터가 포함될 수 있습니다. 프롬프트를 테스트하고 실행할 때 이 점을 염두에 두는 것이 좋습니다.
  13. Grounded by AI Search Model connection은 응답 필드에 응답을 반환하고, 모든 인용 참조를 표시하는 인용 필드를 추가로 표시합니다.

    인용은 Grounded by AI Search에 저장된 문서의 어느 섹션에서 응답이 참조되었는지를 나타내는 정보 덩어리입니다. 참조된 데이터 저장소의 문서 제목은 Azure OpenAI에서 확인할 수 있습니다.