Azure OpenAI: Prompt AI 작업

Azure OpenAI: Prompt AI 작업은 Microsoft Azure AI의 완료 엔드포인트를 사용하여 텍스트를 생성합니다. 이 엔드포인트는 모델의 텍스트 입력 및 출력 인터페이스에 대한 액세스를 제공합니다. 모델에 자연어로 된 텍스트 프롬프트를 입력하면 텍스트가 완성됩니다.

전제 조건

  • 봇에서 Azure OpenAI: Prompt AI 작업은 봇 내에 있어야 합니다.
  • 요청을 보내는 데 필요한 자격증명을 보유하고 Microsoft Azure OpenAI 작업을 호출하기 전에 인증 작업을 포함했는지 확인하십시오.

이 예제에서는 Azure OpenAI: Prompt AI 작업을 사용하여 자연어 프롬프트를 보내고 적절한 답변을 얻는 방법을 보여줍니다.

프로시저

  1. Automation Anywhere Control Room에서 작업 창으로 이동하여 생성형 AI > Microsoft를 선택하고 Azure OpenAI: Prompt AI를 드래그하여 캔버스에 놓습니다.
  2. 다음 필드를 입력하거나 선택합니다.

    Azure Prompt AI

    1. 인증에서 최신 버전을 선택하여 API 키와 함께 인증 작업을 사용합니다.
      사용 중단 예정을 선택하면 인증 작업을 호출하지 않고도 API 키를 사용하여 인증할 수 있습니다.
      주: 사용 중단 예정 옵션은 다음 릴리스에서 더 이상 지원되지 않습니다.
    2. 현재 세션으로 제한하려면 세션 이름으로 Default를 입력합니다.
    3. 배포 ID를 입력합니다. 배포 ID는 프롬프트에 사용할 LLM(대규모 언어 모델)에 연결됩니다.
    4. 모델에서 응답을 생성하는 데 사용할 프롬프트를 입력합니다.
    5. 생성할 최대 토큰 수를 입력합니다. 기본적으로 값을 입력하지 않으면 생성된 응답의 길이를 고려하여 선택한 모델의 최대 컨텍스트 길이 이내로 유지되도록 생성되는 토큰의 최대 개수가 자동으로 설정됩니다.
    6. 온도를 입력합니다. 이 값은 응답의 무작위성을 나타냅니다. 온도가 0에 가까워질수록 반응이 더 중점적이고 결정적으로 나타납니다. 값이 높을수록 응답이 무작위일 가능성이 높습니다.
    7. 선택적 매개변수를 관리하려면 옵션 더 보기를 클릭하고 예를 선택합니다. 예를 선택하면 다음과 같은 다른 매개변수를 추가할 수 있습니다. API version, Suffix, Top P, N, Logprobs, Echo, Stop, Presence Penalty, Frequency Penalty, Best of, Logit bias 및 User. 이러한 선택적 매개변수에 대한 자세한 내용은 Azure Open AI 완료를 참조하십시오.
    8. 응답을 변수에 저장합니다. 예제에서는 응답이 str_promptai_response에 저장됩니다.
  3. 실행을 클릭하여 Bot을 시작합니다. 프롬프트의 출력은 N을 선택적 매개변수로 설정하고 각 입력에 대해 여러 프롬프트를 생성할 수 있는 목록입니다. 프롬프트의 응답을 읽으려면 메시지 상자 작업에서 응답을 인쇄할 수 있습니다. 이 예에서는 N이 1로 설정되어 있으므로 목록 str_promptai_response[0]의 첫 번째 요소에 응답이 인쇄됩니다.