En esta guía, le mostraré cómo usar los modelos de cara de abrazo como API, con meta llama-3.2-3b-instruct como ejemplo. Este modelo está diseñado para el autocompleto basado en chat y puede manejar tareas de IA conversacionales de manera efectiva. ¡Configurar la API y comenzar!

Paso 1: Elija un modelo en la cara abrazada

1. vaya a abrazar modelos de cara y busque meta llama-3.2-3b-instruct o cualquier otro modelo con el que desee experimentar.
2. Una vez en la página del modelo, confirmar que admite la API de inferencia , que permite que se use como punto de finalización API.

Paso 2: crear un token API

Para acceder a las API del modelo de Hugging Face, necesita un token API.

1. inicie sesión en su cuenta de la cara de abrazo y navegue a su configuración Access tokens .

2. crea un read token seleccionando nuevo token . Esto le permite llamar a la API para obtener inferencia sin permisos para modificar o administrar recursos.

3. Guarde su token de forma segura, ya que lo necesitará para la autenticación API.

Paso 3: Uso de la API de inferencia para su modelo

Hugging Face proporciona una API de inferencia de inferencia sin servidor para acceder a los modelos previamente entrenados. Este servicio está disponible con límites de tarifas para usuarios gratuitos y cuotas mejoradas para cuentas Pro.

1. en la página del modelo

   meta llama-3.2-3b-insucta , haga clic en la pestaña de inferencia [&] api . Esta pestaña proporciona ejemplos de código e información de uso de API adicional.

Puede encontrar el código de muestra para comenzar. Aquí le mostramos cómo configurar un script de Python básico para llamar a la API del modelo.

Para cuentas gratuitas, se aplica el límite de tarifa de la API, y excediendo esto puede dar lugar a solicitudes de estrangulamiento. Si planea usar la API ampliamente o requiere respuestas más rápidas, considere una cuenta

. Hay más detalles disponibles en la página de precios de Hugging Face.

siguiendo estos pasos, puede usar

o cualquier otro modelo de abrazadera a través de API para tareas como el autocompleto de chat, la IA conversacional y más. Esta configuración es altamente flexible y le permite integrar las capacidades de IA directamente en sus aplicaciones, ya sea para fines experimentales o de producción. ¡Ahora estás listo para explorar y construir con los modelos poderosos de Hugging Face!