Skip to content

Latest commit

 

History

History
102 lines (56 loc) · 3.48 KB

01.HF.md

File metadata and controls

102 lines (56 loc) · 3.48 KB

Paggamit ng Phi Family sa Hugging Face

Ang Hugging Face ay isang napakapopular na AI community na mayaman sa data at open source na mga modelo. Iba't ibang kumpanya ang naglalabas ng open source na LLM at SLM sa pamamagitan ng Hugging Face, tulad ng Microsoft, Meta, Mistral, Apple, Google, at iba pa.

Ang Microsoft Phi Family ay inilabas na sa Hugging Face. Maaaring i-download ng mga developer ang kaukulang modelo ng Phi Family batay sa mga senaryo at negosyo. Bukod sa pag-deploy ng mga Phi Pytorch na modelo sa Hugging Face, naglabas din kami ng mga quantized na modelo gamit ang GGUF at ONNX na mga format upang mabigyan ng opsyon ang mga end user.

Pag-download ng Mga Modelo sa Hugging Face

Maaari mong i-download ang modelo ng Phi Family gamit ang link na ito:

Maaari mong i-download ang modelo sa iba't ibang paraan, tulad ng pag-install ng Hugging Face CLI SDK o paggamit ng git clone.

Paggamit ng Hugging Face CLI para I-download ang Phi Family na Modelo

  • I-install ang Hugging Face CLI
pip install -U "huggingface_hub[cli]"
  • Gumamit ng huggingface-cli upang mag-login

Mag-login sa Hugging Face gamit ang User Access Token mula sa iyong Settings page.

huggingface-cli login --token $HF_TOKEN --add-to-git-credential
  • Pag-download

Maaari mong i-download ang modelo at i-save ito sa cache.

huggingface-cli download microsoft/phi-4

Maaari mong itakda ang lokasyon sa iyong nais na lugar.

huggingface-cli download microsoft/phi-4 --local-dir $YOUR_PATH

Paggamit ng git clone para I-download ang Phi Family na Modelo

Maaari mo ring gamitin ang git clone upang i-download ang modelo.

git lfs install

git clone https://huggingface.co/microsoft/phi-4

Mga Halimbawa - Inference gamit ang Microsoft Phi-4

  • Pag-install ng transformers library
pip install transformers -U
  • Pagpapatakbo ng code na ito sa VSCode
import transformers

pipeline = transformers.pipeline(
    "text-generation",
    model="microsoft/phi-4",
    model_kwargs={"torch_dtype": "auto"},
    device_map="auto",
)

messages = [
    {"role": "user", "content": "I have $20,000 in my savings account, where I receive a 4% profit per year and payments twice a year. Can you please tell me how long it will take for me to become a millionaire? Also, can you please explain the math step by step as if you were explaining it to an uneducated person?"},
]

outputs = pipeline(messages, max_new_tokens=2048)
print(outputs[0]["generated_text"][-1])

Paunawa:
Ang dokumentong ito ay isinalin gamit ang mga serbisyong pang-AI na awtomatikong pagsasalin. Bagama't sinisikap naming maging tumpak, mangyaring tandaan na ang mga awtomatikong pagsasalin ay maaaring maglaman ng mga pagkakamali o hindi pagkakatugma. Ang orihinal na dokumento sa orihinal nitong wika ang dapat ituring na opisyal na sanggunian. Para sa mahalagang impormasyon, inirerekomenda ang propesyonal na pagsasalin ng tao. Hindi kami mananagot sa anumang hindi pagkakaunawaan o maling interpretasyon na dulot ng paggamit ng pagsasaling ito.