Hugging Face: Ação Inferência sem servidor

Este tópico descreve o uso do Hugging Face: Ação Inferência sem servidor para aproveitar o poder dos modelos Hugging Face para várias tarefas de PLN.

Pré-requisitos

Nota: Os exemplos e gráficos apresentados nesta página são apenas para fins de representação e podem não refletir com precisão a instância específica. Não assumimos responsabilidade pela manutenção ou precisão deles.
  • Você deve ter a função de Criador de bots para usar o Hugging Face: Ação de autenticação em um bot.
  • Criar uma conta Hugging Face. Você pode criar uma conta aqui Criar uma conta Hugging Face.
  • Certifique-se de ter as credenciais obrigatórias para enviar uma solicitação e de ter incluído Hugging Face: Ação de autenticação antes de chamar Hugging Face: ação Inferência sem servidor.

Procedimento

  1. Faça login na sua conta Hugging Face.
  2. Selecione um modelo: Navegue até a biblioteca de modelos do Hugging Face (modelos do Hugging Face). Procure e selecione um modelo que seja compatível com a Inferência sem servidor. Dentre os tipos de modelo compatíveis estão:
    1. Geração de texto
    2. Geração de imagem a partir de texto
    3. Geração de texto a partir de imagem
    4. Geração de texto para áudio
    Para este exemplo, o modelo openai-community/gpt2 é usado para Text Generation.
  3. Copie o seguinte do formato de solicitação de Inferência sem servidor do modelo.
    1. ID do modelo: Copie o ID do modelo do URL da API no formato de solicitação. Neste caso, seria openai-community/gpt2.
    2. Payload da solicitação: Use o JSON fornecido no formato de Inferência sem servidor do modelo.

      Formato de solicitação do Hugging Face
      Modifique o prompt dentro do JSON para se adequar ao seu caso de uso específico. Para exemplo: é possível modificar o JSON acima conforme segue:
      {"inputs": "Explain quantum computing in simple terms."}

      Assista ao vídeo a seguir para saber como acessar o formato de solicitação de um modelo, mostrado acima.

  4. Faça login na Control Room.
  5. No painel Ações, selecione IA > Hugging Face > Inferência sem servidor e coloque-a na tela.
  6. Insira ou selecione os seguintes campos:

    Ação de Inferência sem servidor do Hugging Face
    1. No campo ID do modelo, cole o ID do modelo copiado do Hugging Face.
    2. No campo Carga útil da solicitação, cole a Carga útil da solicitação copiada do Hugging Face.
    3. Opcional: Caminho do arquivo de dados: O Caminho do arquivo de dados especifica o local de download para arquivos de imagem/áudio gerados pelo modelo.
    4. Digite Padrão como o nome da sessão para limitar a sessão à sessão atual.
    5. Salve a resposta em uma variável. No exemplo, a resposta é salva em HuggingFace-resposta.
  7. Clique em Executar para iniciar a automação.
    É possível ler o valor do campo imprimindo a resposta em uma Caixa de mensagem ação. No exemplo, HuggingFace-resposta imprime a resposta.
    Dica: Para manter vários chats no mesmo bot, será necessário criar várias sessões com nomes ou variáveis diferentes.

    A resposta da automação acima é a seguinte:


    Resposta de inferência sem servidor do Hugging Face

    Você pode analisar o JSON de saída usando o pacote JSON para obter a saída desejada.

Mais exemplos

A seguinte automação demonstra texto para imagem, imagem para texto, e capacidades de geração de texto para áudio usando o Hugging Face: Ação Inferência sem servidor. Cada exemplo é explicado em detalhes nas seções subsequentes.


Exemplos de Hugging Face

Texto para imagem

O exemplo a seguir demonstra a capacidade de geração de imagem a partir de texto usando o Hugging Face: Ação Inferência sem servidor:


Exemplo de texto para imagem do Hugging Face com Automation Anywhere
Nota: Forneça um Caminho do Arquivo de Dados para o qual a imagem é salva.

Imagem para texto

O exemplo a seguir demonstra a capacidade de geração de imagem para texto usando o Hugging Face: Ação Inferência sem servidor:


Exemplo de imagem para texto do Hugging Face com Automation Anywhere
Nota: Converta a imagem para o formato Base64 usando Conversão Base64 >> Codificar ação em Base64 antes de alimentar o modelo. O modelo requer a imagem neste formato para gerar texto com precisão.

Texto para áudio

Os exemplos a seguir demonstram a capacidade de geração de texto para áudio usando o Hugging Face: Ação Inferência sem servidor:


Exemplo de Texto para áudio do Hugging Face com Automation Anywhere
Nota: Forneça um Caminho do arquivo de dados com uma extensão à qual o texto do prompt de entrada na opção Solicitar carga útil é convertido para um formato de áudio.