Hugging Face: Acción de inferencia sin servidor

Este tema describe el uso de Hugging Face: Acción de inferencia sin servidor para aprovechar el poder de los modelos de Hugging Face en diversas tareas de procesamiento del lenguaje natural (NLP).

Antes de empezar

Nota: Los ejemplos y gráficos proporcionados en esta página son meramente ilustrativos y es posible que no reflejen con precisión su caso específico. No nos hacemos responsables de su mantenimiento ni de su exactitud.

Procedimiento

  1. Inicie sesión en su cuenta Hugging Face.
  2. Seleccione un modelo: Vaya a la biblioteca de modelos de Hugging Face (Modelos de Hugging Face). Busque y seleccione un modelo que sea compatible con Inferencia sin servidor. Los tipos de modelos compatibles incluyen los siguientes:
    1. Generación de texto
    2. Generación de imágenes a partir de texto
    3. Generación de texto a partir de imágenes
    4. Generación de audio a partir de texto:
    Para este ejemplo, se utiliza el modelo openai-community/gpt2 para la Generación de textos.
  3. Copie lo siguiente del formato de solicitud de inferencia sin servidor del modelo.
    1. Id del modelo: Copie el ID del modelo de la URL de la API en el formato de solicitud. En este caso, sería openai-community/gpt2.
    2. Carga de la solicitud: Utilice el archivo JSON proporcionado en el formato de inferencia sin servidor del modelo.

      Formato de solicitud de Hugging Face
      Modifique la indicación dentro del archivo JSON para que se ajuste a su caso de uso específico. Para ejemplo: puede modificar el archivo JSON anterior de la siguiente forma:
      {"inputs": "Explain quantum computing in simple terms."}

      Vea el siguiente video para aprender cómo acceder al formato de solicitud anterior de un modelo.

  4. Inicie sesión en el Control Room.
  5. Desde el panel Acciones, seleccione AI > Hugging Face > Inferencia sin servidor y colóquelo en el lienzo.
  6. Ingrese o seleccione los siguientes campos:

    Acción de inferencia sin servidor de Hugging Face
    1. En el campo ID del modelo, pegue el ID del modelo copiado de su Hugging Face.
    2. En el campo Solicitud de carga útil, pegue la Solicitud de carga útil copiada de su Hugging Face.
    3. Opcional: Ruta del archivo de datos: La Ruta del archivo de datos especifica la ubicación de la descarga para los archivos de imagen/audio generados por el modelo.
    4. Introduzca Predeterminado como nombre de la sesión para limitarla a la sesión actual.
    5. Guardar la respuesta en una variable. En este ejemplo, la respuesta se guarda en Respuesta de HuggingFace.
  7. Haga clic en Ejecutar para iniciar la automatización.
    Podrá leer el valor del campo mediante la impresión de la respuesta en un Cuadro de mensaje acción. En este ejemplo, Respuesta HuggingFace imprime la respuesta.
    Consejo: Para mantener múltiples chats en el mismo bot, deberá crear múltiples sesiones con diferentes nombres o variables.

    La respuesta de la automatización anterior es la siguiente:


    Respuesta de inferencia sin servidor de Hugging Face

    Puede analizar el archivo JSON de salida utilizando el paquete JSON para obtener la salida deseada.

Más ejemplos

La siguiente automatización muestra capacidades de generación de texto a imagen, imagen a texto, y texto a audio utilizando Hugging Face: Acción de inferencia sin servidor. Se explica en detalle cada ejemplo en las secciones siguientes.


Ejemplos de Hugging Face

Texto a imagen

El siguiente ejemplo demuestra la capacidad de generación de texto a imagen utilizando Hugging Face: Acción de inferencia sin servidor:


Ejemplo de texto a imagen de Hugging Face de Automation Anywhere
Nota: Facilite una Ruta de archivo de datos a la que se guardará la imagen.

Imagen a texto

El siguiente ejemplo demuestra la capacidad de generación de texto a partir de imágenes utilizando Hugging Face: Acción de inferencia sin servidor:


Ejemplo de imagen a texto de Hugging Face de Automation Anywhere
Nota: Convierte la imagen a formato Base64 usando Base64. Conversión de la >> acción Codificar en Base64 antes de introducirlo en el modelo. El modelo requiere la imagen en este formato para generar texto con precisión.

Texto a audio

Los siguientes ejemplos demuestran la capacidad de generación de texto a audio utilizando Hugging Face: Acción de inferencia sin servidor:


Ejemplo de texto a audio de Hugging Face de Automation Anywhere
Nota: Facilite una Ruta de archivo de datos con una extensión en la que el texto del indicador de entrada en la Solicitud de carga se convierte a un formato de audio.