Skip to content

Latest commit

 

History

History
102 lines (56 loc) · 3.26 KB

01.HF.md

File metadata and controls

102 lines (56 loc) · 3.26 KB

Bruke Phi Family i Hugging Face

Hugging Face er et svært populært AI-fellesskap med rike data- og åpen kildekode-modellressurser. Ulike aktører, som Microsoft, Meta, Mistral, Apple, Google osv., publiserer åpne LLM- og SLM-modeller via Hugging Face.

Microsoft har lansert Phi Family på Hugging Face. Utviklere kan laste ned den aktuelle Phi Family-modellen basert på scenarier og behov. I tillegg til å gjøre Phi Pytorch-modeller tilgjengelige på Hugging Face, har vi også publisert kvantiserte modeller i GGUF- og ONNX-format for å gi sluttbrukerne flere valg.

Last ned modeller i Hugging Face

Du kan laste ned Phi Family-modeller via denne lenken:

Du kan laste ned modellene på forskjellige måter, som ved å installere Hugging Face CLI SDK eller bruke git clone.

Bruke Hugging Face CLI for å laste ned Phi Family-modeller

  • Installer Hugging Face CLI
pip install -U "huggingface_hub[cli]"
  • Logg inn med huggingface-cli

Logg inn på Hugging Face med User Access Token fra Innstillingssiden din.

huggingface-cli login --token $HF_TOKEN --add-to-git-credential
  • Last ned

Du kan laste ned modellen og lagre den i cache.

huggingface-cli download microsoft/phi-4

Du kan også angi en spesifikk plassering for lagring.

huggingface-cli download microsoft/phi-4 --local-dir $YOUR_PATH

Bruke git clone for å laste ned Phi Family-modeller

Du kan også bruke git clone for å laste ned modellene.

git lfs install

git clone https://huggingface.co/microsoft/phi-4

Eksempler - Inference med Microsoft Phi-4

  • Installere transformers-biblioteket
pip install transformers -U
  • Kjøre denne koden i VSCode
import transformers

pipeline = transformers.pipeline(
    "text-generation",
    model="microsoft/phi-4",
    model_kwargs={"torch_dtype": "auto"},
    device_map="auto",
)

messages = [
    {"role": "user", "content": "I have $20,000 in my savings account, where I receive a 4% profit per year and payments twice a year. Can you please tell me how long it will take for me to become a millionaire? Also, can you please explain the math step by step as if you were explaining it to an uneducated person?"},
]

outputs = pipeline(messages, max_new_tokens=2048)
print(outputs[0]["generated_text"][-1])

Ansvarsfraskrivelse:
Dette dokumentet er oversatt ved hjelp av maskinbaserte AI-oversettingstjenester. Selv om vi tilstreber nøyaktighet, vennligst vær oppmerksom på at automatiserte oversettelser kan inneholde feil eller unøyaktigheter. Det originale dokumentet på dets opprinnelige språk bør betraktes som den autoritative kilden. For kritisk informasjon anbefales profesjonell menneskelig oversettelse. Vi er ikke ansvarlige for eventuelle misforståelser eller feiltolkninger som oppstår ved bruk av denne oversettelsen.