Skip to content

Latest commit

 

History

History
111 lines (65 loc) · 3.82 KB

01.HF.md

File metadata and controls

111 lines (65 loc) · 3.82 KB

Usar la Familia Phi en Hugging Face

Hugging Face es una comunidad de IA muy popular con abundantes datos y recursos de modelos de código abierto. Diferentes fabricantes lanzan modelos LLM y SLM de código abierto a través de Hugging Face, como Microsoft, Meta, Mistral, Apple, Google, entre otros.

Microsoft ha lanzado la Familia Phi en Hugging Face. Los desarrolladores pueden descargar el modelo correspondiente de la Familia Phi según los escenarios y negocios. Además de implementar los modelos Phi en Pytorch en Hugging Face, también hemos publicado modelos cuantificados utilizando formatos GGUF y ONNX para ofrecer opciones a los usuarios finales.

Descargar Modelos en Hugging Face

Puedes descargar los modelos de la familia Phi en este enlace:

Puedes descargar el modelo de diferentes maneras, como instalando el CLI SDK de Hugging Face o utilizando git clone.

Usar el CLI de Hugging Face para Descargar el Modelo de la Familia Phi

  • Instalar el CLI de Hugging Face
pip install -U "huggingface_hub[cli]"
  • Usar huggingface-cli para iniciar sesión

Inicia sesión en Hugging Face con el User Access Token desde tu página de configuración.

huggingface-cli login --token $HF_TOKEN --add-to-git-credential
  • Descargar

Puedes descargar el modelo y guardarlo en la caché.

huggingface-cli download microsoft/phi-4

Puedes establecer la ubicación en un lugar específico.

huggingface-cli download microsoft/phi-4 --local-dir $YOUR_PATH

Usar git clone para Descargar el Modelo de la Familia Phi

También puedes utilizar git clone para descargar el modelo.

git lfs install

git clone https://huggingface.co/microsoft/phi-4

Ejemplos - Inferencia con Microsoft Phi-4

  • Instalar la biblioteca transformers
pip install transformers -U
  • Ejecutar este código en VSCode
import transformers

pipeline = transformers.pipeline(
    "text-generation",
    model="microsoft/phi-4",
    model_kwargs={"torch_dtype": "auto"},
    device_map="auto",
)

messages = [
    {"role": "user", "content": "I have $20,000 in my savings account, where I receive a 4% profit per year and payments twice a year. Can you please tell me how long it will take for me to become a millionaire? Also, can you please explain the math step by step as if you were explaining it to an uneducated person?"},
]

outputs = pipeline(messages, max_new_tokens=2048)
print(outputs[0]["generated_text"][-1])

Descargo de responsabilidad:
Este documento ha sido traducido utilizando el servicio de traducción por IA Co-op Translator. Si bien nos esforzamos por lograr precisión, tenga en cuenta que las traducciones automatizadas pueden contener errores o imprecisiones. El documento original en su idioma nativo debe considerarse como la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No nos hacemos responsables de malentendidos o interpretaciones erróneas que puedan surgir del uso de esta traducción.