Vertex AI: Chat AI 작업은 모델과 상호 작용하기 위해 Google의 Vertex AI 완성 API를 사용합니다. 대화 형식으로 텍스트를 생성합니다.

전제 조건

  • Bot에서 Vertex Chat AI 작업을 사용하려면 Bot Creator 역할이 있어야 합니다.
  • 요청을 보내는 데 필요한 자격증명을 보유하고 Google Cloud 작업을 호출하기 전에 Vertex AI: 연결 작업을 포함했는지 확인하십시오.

이 예시에서는 Vertex AI: Chat AI 작업을 사용하여 자연어 메시지를 보내고 적절한 답변을 얻는 방법을 보여줍니다.

프로시저

  1. Automation Anywhere Control Room에서 작업 창으로 이동하여 생성형 AI > Google을 선택하고 Vertex AI: Chat AI를 드래그하여 캔버스에 놓습니다.
  2. 다음 필드를 입력하거나 선택합니다.

    Vertex Chat AI

    1. 프로젝트 번호/이름을 입력합니다. GCP의 고유한 프로젝트 ID입니다. 프로젝트 ID에 대한 자세한 내용은 Google Cloud 프로젝트의 프로젝트 ID를 참조하십시오.
    2. 위치를 입력합니다. Vertex AI 위치에 대한 자세한 내용은 Vertex AI 위치 항목을 참조하십시오.
    3. 게시자 드롭다운을 클릭하고 Google을 선택하거나 제3자를 선택하여 타사 게시자를 입력합니다.
    4. 모델 드롭다운에서 프롬프트에 사용할 LLM(대규모 언어 모델)을 선택합니다. 다음 모델을 선택할 수 있습니다.
      • chat-bison(최신)
      • chat-bison-32k(최신)
      • chat-bison-32k@002
      • chat-bison@001
      • chat-bison@002
      • codechat-bison
      • codechat-bison-32k
      • codechat-bison-32k@002
      • codechat-bison@001
      • codechat-bison@002
      • gemini-1.0-pro-001
      • 기타 지원되는 버전: 위 모델의 다른 지원 버전을 입력하려면 자세한 내용은 Google Vertex AI models 항목을 참조하십시오.
      주: 생성형 AI 패키지는 모델의 특정 입력/출력 스키마에 의존하여 올바르게 작동합니다. 서로 다른 모델은 종종 고유한 스키마를 가지고 있기 때문에 동일한 모델의 버전만 통합할 수 있습니다. 다른 지원 버전에 대해서는 모델의 지원 버전에 대한 하이퍼스케일러 문서를 참조하십시오.
    5. 모델이 응답을 생성하는 데 사용할 채팅 메시지를 입력합니다.
      주: 채팅 작업은 동일한 세션 내에서 이전 채팅 작업의 결과를 유지합니다. 채팅 작업을 연속적으로 호출하면 모델이 후속 메시지를 이해하고 이전 메시지와 연관시킬 수 있습니다. 그러나 세션이 종료되면 모든 채팅 기록이 삭제됩니다.
    6. 생성할 최대 토큰 수(최대 토큰)를 입력합니다. 기본적으로 값을 입력하지 않으면 생성된 응답의 길이를 고려하여 선택한 모델의 최대 컨텍스트 길이 이내로 유지되도록 생성되는 토큰의 최대 개수가 자동으로 설정됩니다.
    7. 온도를 입력합니다. 이 값은 응답의 무작위성을 나타냅니다. 온도가 0에 가까워질수록 반응이 더 중점적이고 결정적으로 나타납니다. 값이 높을수록 응답이 무작위일 가능성이 높습니다.
    8. 현재 세션으로 제한하려면 세션 이름으로 Default를 입력합니다.
    9. 선택적 매개변수를 관리하려면 더 많은 옵션 표시를 클릭하고 예를 선택합니다. 예를 선택하면 다음과 같은 다른 매개변수를 추가할 수 있습니다. Context, Examples, Top K 및 Top P. 이러한 선택적 매개변수에 대한 자세한 내용은 모델 학습하기를 참조하십시오.
      주: Vertex AI 모델(예: codechat-bison@002)은 프롬프트를 개선하기 위해 컨텍스트 및 예시를 제공할 수 있지만, gemini-1.0-pro-001 모델은 현재 이러한 기능을 지원하지 않습니다. 이러한 필드는 인터페이스에서 사용할 수 있지만 비워 두어도 안전합니다.
    10. 응답을 변수에 저장합니다. 예제에서는 응답이 VertexChatResponse에 저장됩니다.
  3. 실행을 클릭하여 bot을 시작합니다. 메시지 상자 작업을 사용하여 응답을 표시합니다(예: VertexChatResponse). 대화를 계속하기 위해 채팅 작업을 추가할 수 있습니다
    팁: 동일한 봇에서 여러 개의 채팅을 유지하려면, 서로 다른 이름이나 변수를 사용하여 여러 세션을 만들어야 합니다.