프롬프트 템플릿 만들기(전문 개발자)

전문 개발자는 조직의 비즈니스 요구 사항에 맞게 프롬프트 템플릿을 생성하여 시민 개발자, 전문 개발자, 비즈니스 유저 등의 사용자가 Bot 편집기 > 생성형 AI 프롬프트 템플릿 패키지에서 사용할 수 있도록 합니다.

전문 개발자는 프롬프트 템플릿에 연결하여 모델 연결를 만들고 기본 모델에서 프롬프트를 미세 조정하여 조직의 자동화 요구 사항에 가장 적합한 것을 찾습니다. 솔루션 전반의 자동화 개발을 가속화할 수 있도록 이러한 프롬프트 템플릿을 개발자와 비즈니스 유저가 재사용할 수 있게 만들 수 있습니다. 이 기능의 미리보기 버전에서는 다음과 같은 기본 모델을 사용할 수 있습니다.
  • Azure OpenAI
  • OpenAI

여기서는 프롬프트 템플릿을 만드는 단계를 설명합니다.

전제 조건

전문 개발자는 다음 역할과 권한이 있어야 프롬프트 템플릿을 만들고 테스트할 수 있습니다.
  • 역할:
    • Bot_Creator
    • Bot_Runner
    • AAE_Basic
    • 사용자 정의 역할
    • 시민 개발자
  • Control Room에 필요한 설정
    • 모델 연결 > 모델 연결 보기
    • AI 데이터 관리 > 데이터 로깅 설정
    • 읽기 전용
    • 관리 > 설정 보기
  • 권한 및 작업:
    • 자동화 생성/편집/실행
    • 프롬프트 템플릿 생성/보기/편집/저장/구성
    • 모델 연결 보기 및 액세스
    • 타사 GenAI 모델에 대한 모델 구성 값 구성
    • 프롬프트 입력/수정
    • 프롬프트에 대한 입력 변수 추가/편집
    • 모델 연결에 지정된 GenAI 모델로 프롬프트 테스트
    • 프롬프트 응답 보기
    • 자동화 체크인 및 체크아웃
    • 설정 보기:
      • 데이터 로깅 활성화
      • 프롬프트 템플릿 테스트
    • 다음과 같은 모델 연결 세부 정보 보기:
      • GenAI 모델 공급업체
      • 모델 버전
      • 모델 연결 설명
    • 생성형 AI 프롬프트 템플릿 패키지 보기
    • 리포지토리 폴더 생성
    • Credential Vault 값 읽기

역할 및 권한 외에도 Bot 에이전트(v22.31 이상)에 연결되어 있어야 합니다. 모델 연결의 테스트의 일부로 데스크톱에서 Bot을 실행해야 합니다. 테스트를 통해 Bot 에이전트가 사용자에 맞게 구성되었는지 확인하십시오. 다른 Control Room로 연결을 전환해야 하는 경우 참조하세요: Control Room 인스턴스 간 기기 등록 전환

프로시저

  1. Control Room 에 로그인하고 자동화 > 새로 만들기 또는 '+' 아이콘으로 이동하여 프롬프트 템플릿을 선택합니다.
  2. 이름과 설명을 입력하고 만들기 및 편집을 클릭하여 템플릿 개요를 표시합니다. Address Parser라는 이름의 예제를 만들어 보겠습니다.
  3. 프롬프트 템플릿 화면에서 모델 연결 선택을 클릭한 다음 액세스 권한이 있는 모델 연결 목록에서 선택합니다.
    이러한 모델 연결은 자동화 관리자가 만들고 사용자 정의 역할로 사용자에게 할당합니다.
  4. 모델 연결을 선택하면 선택한 모델에 가장 적합한 기본 매개변수 설정으로 프롬프트 템플릿이 설정됩니다. 필요에 따라 설정을 변경할 수 있습니다.
    프롬프트 템플릿 매개변수
    프롬프트 생성을 위한 매개변수 값은 선택한 기본 모델에 따라 다릅니다. 다음은 지원되는 Azure OpenAI 및 OpenAI 모델에 대한 매개변수 설정입니다.
    • 빈도 패널티:

      이 설정은 토큰의 사용 빈도에 맞게 토큰의 반복 사용을 제한하여 생성된 텍스트의 반복을 방지합니다. 텍스트에 토큰을 많이 사용할수록 반복될 가능성이 줄어듭니다. 소수점 단위로 -2.0에서 2 사이의 값을 선택합니다.

    • 최대 토큰:

      이 설정은 생성된 응답에 사용되는 최대 토큰 수를 나타냅니다. 1에서 2048 사이의 값을 선택할 수 있으며 기본값은 2048로 설정되어 있습니다. 프롬프트 응답은 여기에 설정된 값에 향을 받습니다. 토큰을 많이 할당할수록 더 포괄적이고 자세한 응답을 반환합니다.

    • 온도:

      값이 높을수록 다양하고 예측하기 어려운 응답을 반환합니다. 소수점 단위로 0에서 1 사이의 값을 선택할 수 있습니다. 값이 높을수록 반환되는 응답은 다양해집니다.

    • N:

      특정 프롬프트에 대해 모델이 생성하는 응답의 수를 정의합니다. 기본값은 1로 설정되어 있으며 1에서 9 사이의 값을 선택합니다. 많은 토큰을 할당하고 높은 온도 값을 구성하고 N값을 9로 높게 설정하면 2,048개의 토큰을 수용할 수 있는 세부 정보가 포함된 9개의 다양한 응답을 얻을 수 있습니다.

    • 존재 패널티:

      이 설정은 토큰이 얼마나 자주 등장하는지에 따라 토큰 사용을 제한하여 생성된 텍스트에서 토큰이 반복되는 것을 방지합니다. 토큰이 텍스트에 자주 사용될수록 반복될 가능성이 줄어듭니다. 소수점 단위로 -2.0에서 2 사이의 값을 선택합니다.

    • Top P:

      이 설정은 생성되는 응답의 다양성을 결정합니다. 값이 높을수록 다양한 응답이 반환됩니다. 둘 다 변경하기보다 P 또는 온도 값 중 하나만 변경하는 것이 좋습니다. 소수점 단위로 0에서 1 사이의 값을 선택합니다.

    주: 다양한 매개변수 값을 설정하여 유스케이스에 가장 적합한 값을 테스트하고 결정할 수 있습니다. 매개변수 값을 변경하면 모델의 응답에 영향을 미칩니다.
  5. 이제 프롬프트 생성을 시작하고 필요에 따라 프롬프트 입력을 추가할 수 있습니다. 예시를 통해 단계를 설명해 드리겠습니다.

예:

한 전문 개발자가 데이터 추출을 위해 문서를 처리하는 동안 다양한 유형의 문서에서 주소를 구문 분석하고 추출하는 데 사용할 프롬프트 템플릿을 만들고 있습니다.
전문 개발자는 다음 이름으로 프롬프트 템플릿을 생성합니다. Address Parser. 이 프롬프트 템플릿은 문서에서 주소 정보를 추출하는 데 중점을 둡니다. 이 템플릿은 시민 개발자와 비즈니스 유저가 자동화의 작업으로 재사용할 수 있도록 제공됩니다.

프롬프트 템플릿 생성

  1. 사용 가능한 목록에서 모델 연결을 선택했으며(위의 3단계 참조) 이제 프롬프트를 작성할 수 있습니다.
  2. 프롬프트 필드에 다음을 입력합니다.
    $inputAddress$ 구문 분석 및 반환 형식은 다음과 같습니다.
    • 거리: 거리
    • 도시: 도시
    • 상태: 상태
    • 우편 번호: 우편번호
  3. 프롬프트 입력란을 클릭합니다.
  4. 프롬프트 입력 섹션은 자동으로 값을 정의할 자리 표시자 프롬프트 입력으로 채워집니다. 이 경우 시스템에서 inputAddress$ 프롬프트 입력 필드를 생성합니다.
    프롬프트는 주소의 도로명, 도시, 주, 우편번호를 별도의 줄로 형식화한 응답을 반환하기 위한 것입니다.
    주: 프롬프트 입력 추가를 클릭하여 프롬프트 입력을 수동으로 추가할 수도 있습니다.
  5. 다음으로 프롬프트 입력 입력주소 필드에 다음 주소를 입력합니다. '1502 royal oak dr, tx, 75243'.
  6. 응답 가져오기를 클릭하여 프롬프트를 기반으로 모델에서 응답을 가져옵니다.
    주:

    다양한 프롬프트와 프롬프트 입력 값을 테스트하고 시도하여 모델에서 원하는 응답을 얻고 가장 만족스러운 값을 최종적으로 결정합니다.

    프롬프트 데이터 세부 정보에는 PHI, PII 또는 프롬프트에 입력하기로 선택한 기타 민감한 데이터가 포함될 수 있습니다. 프롬프트를 테스트하고 실행할 때 이 점을 염두에 두는 것이 좋습니다.

  7. 응답이 만족스러우면 프롬프트 템플릿을 저장합니다.

다음 단계

다음 단계는 프롬프트 템플릿 패키지를 체크인하여 시민 개발자 및 비즈니스 유저가 생성형 AI 프롬프트 템플릿 패키지를 자동화에 사용할 수 있도록 하는 것입니다.
주: 프롬프트 템플릿 화면에서 프롬프트 템플릿을 만들거나 테스트하면 관리 > 감사 로그 및 관리 > AI 거버넌스 > AI 프롬프트 로그에서 해당 모델 응답과 함께 성공 또는 실패 세부 사항을 볼 수 있습니다 AI 거버넌스 항목을 참조하십시오.
프롬프트 템플릿을 체크인하는 이유는 무엇인가요?

프롬프트 템플릿을 만든 후 공개 폴더에 체크인합니다. 이렇게 하면 전문 개발자, 비즈니스 유저 또는 시민 개발자가 프롬프트 템플릿 패키지에서 생성형 AI 프롬프트 템플릿을 사용할 수 있게 됩니다.

하나 또는 여러 개의 내장된 프롬프트 템플릿이 포함된 Task Bot을 전체 워크플로 시나리오를 실행하는 더 큰 프로세스 자동화에 추가할 수 있습니다.

주: 참조: