Azure OpenAI RAG 기능을 갖춘 Grounded 모델 연결 생성
- 최종 업데이트2025/03/04
Azure OpenAI RAG 기능을 갖춘 Grounded 모델 연결 생성
Azure OpenAI의 기본 RAG(검색 증강 생성) 기능을 사용하여 Azure AI 검색의 엔터프라이즈 데이터를 대규모 언어 모델과 결합한 풍부한 검색 경험을 구축하려면 AI 검색 기반 모델 연결을 만드십시오.
이제 Azure AI 검색 서비스를 Azure OpenAI 서비스와 통합하여 RAG 솔루션을 만들 수 있습니다. 이는 LLM이 사용자의 자체 데이터에서 정보를 검색하여 보다 정보에 입각하고 맥락에 맞는 응답을 제공할 수 있도록 합니다.
전제 조건
- Azure AI 검색 서비스 설정: 이는 Azure OpenAI 포털에서 AI 검색 서비스를 생성하는 것을 포함합니다. 서비스 엔드포인트 URL 설정, API 키, 인덱스 생성이 포함됩니다.
- 데이터 수집 및 색인: 문서는 blob 저장소와 같은 데이터 소스에 업로드되고, 그런 다음 저장소의 파일을 사용하여 인덱스가 생성됩니다. 문서는 여러 조각으로 나뉘며, 벡터 검색이 활성화된 경우 임베딩 모델을 사용하여 콘텐츠가 벡터화됩니다.
전제 조건
자동화 관리자는 비즈니스 조직에 대한 모델 연결을 만들고 관리하는 데 이러한 역할과 권한이 필요합니다.
- 역할: AAE_Basic, 자동화 관리자 사용자 정의 역할
- 권한: 유인 Bot Runner
- 설정: 자동화 관리자가 AI 데이터 관리를 활성화해야 하며, 사용자가 AI 기술에 대한 로그를 비활성화하도록 허용하는 확인란을 선택해야 합니다. Bot Creator 라이선스를 가진 사용자가 AI 기술을 사용할 때 AI Skill: 화면에서 데이터 로깅 토글을 활성화하여 데이터 로깅을 비활성화할 수 있도록 허용합니다.
자동화 관리자 사용자 정의 역할 권한은 AI 도구에 대한 역할과 권한 항목을 참조하십시오.
기타 요구 사항:
- 앞서 언급했듯이, 먼저 AI 검색 기반 모델 연결을 만들기 위해 Azure AI 검색를 생성하고, 이를 AI Skill:에서 성공적으로 사용해야 합니다.
- 인증 정보를 자격증명 저장소에 저장하려는 경우 정보를 편리하게 보관할 수 있습니다. Credential Vault를 통한 안전한 자격증명 저장소 항목을 참조하십시오.
- 모델 연결을 테스트하려면 Bot 에이전트 22.60.10 이상에 연결되어 있어야 합니다. 테스트를 위해 데스크톱에서 봇을 실행해야 합니다. 테스트를 통해 Bot 에이전트가 사용자에 맞게 구성되었는지 확인하십시오. 이 태스크를 위해 다른 Control Room으로 연결을 전환해야 하는 경우 Control Room 인스턴스 간 기기 등록 전환 항목을 참조하십시오.
- 연결을 성공적으로 테스트하려면 AI Skill: 패키지에 액세스할 수 있어야 합니다. 테스트 프롬프트를 실행하여 모델 연결을 테스트합니다.
프로시저
다음 단계
주:
AI 기술 화면에서 AI Skill:을 생성 또는 테스트하면 모델 응답과 함께 성공 또는 실패 세부 정보를 다음 탐색 화면에서 확인할 수 있습니다:
AI 거버넌스 항목을 참조하십시오.