Hugging Face: Action d\'inférence sans serveur

Ce sujet décrit l\'utilisation du Hugging Face : Action d\'inférence sans serveur pour exploiter la puissance des modèles Hugging Face pour diverses tâches de traitement du langage naturel (NLP).

Prérequis

Remarque : Les exemples et les graphiques fournis sur cette page ne sont donnés qu\'à titre indicatif et peuvent ne pas refléter exactement votre propre situation. Nous n\'assumons pas la responsabilité de leur mise à jour ou de leur exactitude.
  • Vous devez avoir le rôle de Créateur de robots pour utiliser l\'action Hugging Face : Action d\'authentification dans un robot.
  • Créez un compte Hugging Face. Vous pouvez créer un compte ici Créer un compte Hugging Face.
  • Assurez-vous de disposer des informations d\'identification nécessaires pour envoyer une demande et d\'inclure Hugging Face: Action d\'authentification avant d\'appeler Hugging Face : Inférence sans serveur action.

Procédure

  1. Connectez-vous à votre compte Hugging Face.
  2. Sélectionner un modèle : Accédez à la bibliothèque de modèles Hugging Face (modèles Hugging Face). Recherchez et sélectionnez un modèle qui prend en charge l\'inférence sans serveur. Types de modèles pris en charge:
    1. Génération de texte
    2. Génération d\'images à partir de texte
    3. Génération de texte à partir d\'images
    4. Génération de texte en audio
    Pour cet exemple, le modèle openai-community/gpt2 est utilisé pour la génération de texte.
  3. Copiez ce qui suit à partir du format de requête d\'inférence sans serveur du modèle.
    1. ID du modèle : Copiez l\'ID du modèle à partir de l\'URL de l\'API dans le format de la requête. Dans ce cas, ce serait openai-community/gpt2.
    2. Charge utile de la demande: Utilisez le JSON fourni dans le format d\'inférence sans serveur du modèle.

      Format de Demande Hugging Face
      Modifiez l\'invite dans le JSON pour l\'adapter à votre cas d\'utilisation spécifique. Par exemple : vous pouvez modifier le JSON ci-dessus comme suit 
      {"inputs": "Explain quantum computing in simple terms."}
      :

      Regardez la vidéo suivante pour apprendre comment accéder à la format de demande ci-dessus d\'un modèle.

  4. Connectez-vous à la Control Room.
  5. Dans le volet Actions, sélectionnez IA > Visage câlin > Inférence sans serveur et placez-la dans le canevas.
  6. Renseignez ou sélectionnez les champs suivants :

    Action d\'inférence sans serveur de Hugging Face
    1. Dans le champ Model Id, collez le ID de modèle copié depuis votre Hugging Face.
    2. Dans le champ Charge utile de la demande, collez le Charge utile de la demande copiée depuis votre Hugging Face.
    3. Facultatif : Chemin du fichier de données : Chemin du fichier de données spécifie le téléchargement emplacement pour les fichiers image/audio générés par votre modèle.
    4. Saisissez Par défaut comme nom de session pour limiter la session à la session actuelle.
    5. Enregistrez la réponse dans une variable. Dans cet exemple, la réponse est sauvegardée vers CâlinRéponse faciale.
  7. Cliquez sur Exécuter pour démarrer l\'automatisation.
    Vous pouvez lire la valeur du champ en affichant la réponse dans une Zone de message boîte action. Dans cet exemple, CâlinRéponse faciale imprime la réponse.
    Conseil : Pour gérer plusieurs chats dans le même robot, vous devez créer plusieurs sessions avec des variables ou des noms différents.

    La réponse à l\'automatisation ci-dessus est la suivante : suit


    Réponse d\'inférence sans serveur de Hugging Face

    Vous pouvez analyser le JSON de sortie en utilisant le package JSON pour obtenir le sortie souhaitée.

Plus d\'exemples

L\'automatisation suivante présente texte en image, image en texte, et capacités de génération de texte en audio utilisant le Hugging Face: Action d\'inférence sans serveur. Chaque exemple est expliqué en détail dans les sections suivantes.


Exemples de Hugging Face

Texte vers image

L\'exemple suivant démontre la capacité de génération de texte en image en utilisant le Hugging Face : Action d\'inférence sans serveur :


Exemple de texte en image Hugging Face Automation Anywhere
Remarque : Fournissez un chemin d\'accès au fichier de données vers lequel le chemin d\'accès au fichier de données L\'image est enregistrée dans.

Image en texte

L\'exemple suivant démontre la capacité de génération d\'image en texte en utilisant le Hugging Face : Action d\'inférence sans serveur :


Exemple d\'image en texte Hugging Face Automation Anywhere
Remarque : Convertissez l\'image au format Base64<1> en utilisant Base64. Conversion >> Action d\'encodage en Base64 avant de l\'alimenter dans le modèle. Le modèle nécessite l\'image dans ce format pour générer du texte avec précision.

Texte en audio

Les exemples suivants démontrent la capacité de génération de texte en audio en utilisant le Hugging Face : Action d\'inférence sans serveur :


Exemple de texte en audio Hugging Face Automation Anywhere
Remarque : Fournissez un chemin de fichier de données avec un extension à laquelle le texte de l\'invite d\'entrée dans la demande [payload est converti en un format audio.