Vertex AI: Prompt AI 작업

Vertex AI: Prompt AI 작업은 모델의 텍스트 생성 기능에 대한 액세스를 제공하는 Google의 PaLM API를 사용합니다. 모델에 영어로 된 텍스트 프롬프트를 입력하면 텍스트가 완성됩니다.

전제 조건

  • Bot에서 Vertex 프롬프트 AI 작업을 사용하려면 Bot Creator 역할이 있어야 합니다.
  • 요청을 보내는 데 필요한 자격증명을 보유하고 Google Cloud 작업을 호출하기 전에 연결 작업을 포함했는지 확인하십시오.

이 예제에서는 Vertex 프롬프트 AI 작업을 사용하여 자연어 프롬프트를 전송하고 적절한 응답을 얻는 방법을 보여줍니다.

프로시저

  1. Automation Anywhere Control Room에서 작업 창으로 이동하여 생성형 AI > Google을 선택하고 Vertex AI: Prompt AI를 드래그하여 캔버스에 놓습니다.
  2. 다음 필드를 입력하거나 선택합니다.

    Google Vertex 프롬프트 AI 작업

    1. 프로젝트 번호/이름을 입력합니다. GCP의 고유한 프로젝트 ID입니다. 프로젝트 ID에 대한 자세한 내용은 Google Cloud 프로젝트의 프로젝트 ID를 참조하십시오.
    2. 위치를 입력합니다. Vertex AI 위치에 대한 자세한 내용은 Vertex AI 위치 항목을 참조하십시오.
    3. 게시자 드롭다운을 클릭하고 Google을 선택하거나 제3자를 선택하여 타사 게시자를 입력합니다.
    4. 모델 드롭다운에서 프롬프트에 사용할 LLM(대규모 언어 모델)을 선택합니다. 다음 모델을 선택할 수 있습니다.
      • text-bison(최신):
      • text-bison-32k(최신):
      • text-bison-32k@002
      • text-bison@001:
      • text-bison@002
      • text-unicorn@001
      • code-bison(최신)
      • code-bison-32k@002
      • code-bison@001:
      • code-bison@002
      • code-gecko@001:
      • code-gecko@002
      • code-gecko
      • 기타 지원 버전을 클릭하여 지원되는 다른 모델을 입력합니다.
      주:
      • Bison: 기능 및 비용에서 최고의 가치를 제공합니다.
      • Gecko: 간단한 작업을 위한 가장 작고 저렴한 모델입니다.
    5. 모델에서 응답을 생성하는 데 사용할 프롬프트를 입력합니다.
    6. 생성할 최대 토큰 수(최대 토큰)를 입력합니다. 기본적으로 값을 입력하지 않으면 생성된 응답의 길이를 고려하여 선택한 모델의 최대 컨텍스트 길이 이내로 유지되도록 생성되는 토큰의 최대 개수가 자동으로 설정됩니다.
    7. 온도를 입력합니다. 이 값은 응답의 무작위성을 나타냅니다. 온도가 0에 가까워질수록 반응이 더 중점적이고 결정적으로 나타납니다. 값이 높을수록 응답이 무작위일 가능성이 높습니다.
    8. 현재 세션으로 제한하려면 세션 이름으로 Default를 입력합니다.
    9. 선택적 매개변수를 관리하려면 옵션 더 보기를 클릭하고 예를 선택합니다. 예를 선택하면 다음과 같은 다른 매개변수를 추가할 수 있습니다. Top K 및 Top P. 이러한 선택적 매개변수에 대한 자세한 내용은 모델 학습하기를 참조하십시오.
    10. 응답을 변수에 저장합니다. 예제에서는 응답이 google-vertex_prompt-response에 저장됩니다.
  3. 실행을 클릭하여 Bot을 시작합니다. 메시지 상자 작업에 있는 응답을 인쇄하면 필드의 값을 읽을 수 있습니다. 이 예제에서는 google-vertex_prompt-response가 응답을 인쇄합니다.