Automation 360

Hugging Face: Serverless Inference 작업

PDF로 다운로드

콘텐츠

Hugging Face: Serverless Inference 작업

PDF로 다운로드

최종 업데이트2024/11/20

Hugging Face: Serverless Inference 작업

이 주제에서는 Hugging Face 사용에 대해 설명합니다. Serverless Inference 작업을 통해 다양한 NLP 작업에 Hugging Face 모델의 강력한 기능을 활용합니다.

전제 조건

주: 이 페이지에 제공된 예시와 그림은 설명을 목적으로만 사용되며 특정 케이스를 정확하게 반영하지 않을 수 있습니다. 당사는 유지보수 또는 정확성에 대한 책임을 지지 않습니다.

봇에서 다음 작업을 사용하려면 Bot Creator 역할이 있어야 합니다. Hugging Face: 인증 작업.
Hugging Face 계정을 생성합니다. Hugging Face 계정 생성에서 계정을 생성할 수 있습니다.
요청을 보내는 데 필요한 자격증명을 보유하고 Hugging Face를 호출하기 전에 Hugging Face: 인증 작업을 포함했는지 확인하십시오. Serverless Inference 작업.

프로시저

Hugging Face 계정에 로그인합니다.
모델을 선택합니다. Hugging Face 모델 라이브러리(Hugging Face 모델)로 이동합니다. Serverless Inference를 지원하는 모델을 검색하고 선택합니다. 지원되는 모델 유형은 다음과 같습니다.
1. 텍스트 생성
2. 텍스트를 이미지로 생성
3. 이미지를 텍스트로 생성
4. 텍스트를 오디오로 생성
이 예시에서는 텍스트 생성을 위해 openai-community/gpt2 모델이 사용됩니다.
모델의 Serverless Inference 요청 형식에서 다음을 복사하십시오.
1. 모델 ID: 요청 형식의 API URL에서 모델 ID를 복사합니다. 이 케이스에서는 openai-community/gpt2가 됩니다.
2. 요청 페이로드: 모델의 Serverless Inference 형식으로 제공된 JSON을 사용합니다.
  JSON 내의 프롬프트를 특정 유스케이스에 맞게 수정합니다. 에 대한 예를 들어, 위의 JSON을 다음과 같이 수정할 수 있습니다.
```
{"inputs": "Explain quantum computing in simple terms."}
```
  다음 동영상을 시청하여 위의 요청 형식의 모델에 액세스하는 방법을 알아보십시오. <span> <span class="ph">Hugging Face</span> </span>
Control Room에 로그인합니다.
작업 창에서 AI > Hugging Face > Serverless Inference를 선택하고 캔버스에 배치합니다.
다음 필드를 입력하거나 선택합니다.
1. 모델 ID 필드에 Hugging Face에서 복사한 모델 ID를 붙여넣습니다.
2. 요청 페이로드 필드에 Hugging Face에서 복사한 요청 페이로드를 붙여넣습니다.
3. 선택 사항: 데이터 파일 경로: 데이터 파일 경로는 모델이 생성한 이미지/오디오 파일의 다운로드 위치를 지정합니다.
4. 세션을 현재 세션으로 제한하려면 세션 이름으로 Default를 입력합니다.
5. 응답을 변수에 저장합니다. 이 예시에서는 응답이 HuggingFace-response에 저장됩니다.
실행을 클릭하여 자동화를 시작합니다.
필드의 값을 읽으려면 메시지 박스 작업. 이 예시에서는 HuggingFace-response가 응답을 출력합니다.
팁: 동일한 봇에서 여러 개의 채팅을 유지하려면, 서로 다른 이름이나 변수를 사용하여 여러 세션을 만들어야 합니다.

위 자동화의 응답은 다음과 같습니다.

JSON 패키지를 사용해 출력 JSON을 구문 분석하여 원하는 출력을 얻을 수 있습니다.