README.md

Phi Cookbook: Mga Praktikal na Halimbawa gamit ang Phi Models ng Microsoft

Ang Phi ay isang serye ng mga open-source AI models na binuo ng Microsoft.

Sa kasalukuyan, ang Phi ang pinaka-makapangyarihan at cost-effective na small language model (SLM), na may mahusay na performance sa multi-language, reasoning, text/chat generation, coding, mga imahe, audio, at iba pang mga senaryo.

Maaaring i-deploy ang Phi sa cloud o sa edge devices, at madali kang makakagawa ng generative AI applications kahit limitado ang computing power.

Sundin ang mga hakbang na ito upang magsimula gamit ang mga resource na ito:

1. I-Fork ang Repository: I-click ang
2. I-Clone ang Repository: git clone https://github.com/microsoft/PhiCookBook.git
3. Sumali sa Microsoft AI Discord Community at makipag-ugnayan sa mga eksperto at kapwa developer

Talaan ng Nilalaman

• Panimula

  • Maligayang Pagdating sa Pamilya ng Phi
  • Pag-set up ng Iyong Kapaligiran
  • Pag-unawa sa Mahahalagang Teknolohiya
  • Kaligtasan ng AI para sa Phi Models
  • Suporta ng Hardware para sa Phi
  • Mga Phi Models at Availability sa Iba't Ibang Platform
  • Paggamit ng Guidance-ai at Phi
  • Mga Modelo sa GitHub Marketplace
  • Azure AI Model Catalog

• Pag-inference ng Phi sa iba't ibang kapaligiran

  • Hugging Face
  • Mga Modelo sa GitHub
  • Azure AI Foundry Model Catalog
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Pag-inference ng Pamilya ng Phi

  • Pag-inference ng Phi sa iOS
  • Pag-inference ng Phi sa Android

• Inference Phi sa Jetson

  • Inference Phi sa AI PC
  • Inference Phi gamit ang Apple MLX Framework
  • Inference Phi sa Lokal na Server
  • Inference Phi sa Remote Server gamit ang AI Toolkit
  • Inference Phi gamit ang Rust
  • Inference Phi--Vision sa Lokal
  • Inference Phi gamit ang Kaito AKS, Azure Containers (opisyal na suporta)

• Pagku-quantify sa Phi Family

  • Pagku-quantize sa Phi-3.5 / 4 gamit ang llama.cpp
  • Pagku-quantize sa Phi-3.5 / 4 gamit ang Generative AI extensions para sa onnxruntime
  • Pagku-quantize sa Phi-3.5 / 4 gamit ang Intel OpenVINO
  • Pagku-quantize sa Phi-3.5 / 4 gamit ang Apple MLX Framework

• Pagsusuri sa Phi

  • Responsableng AI
  • Azure AI Foundry para sa Pagsusuri
  • Paggamit ng Promptflow para sa Pagsusuri

• RAG gamit ang Azure AI Search

  • Paano gamitin ang Phi-4-mini at Phi-4-multimodal (RAG) gamit ang Azure AI Search

• Mga halimbawa ng pag-develop ng Phi application

  • Mga Aplikasyon sa Teksto at Chat
    • Mga Halimbawa ng Phi-4 🆕
      • [📓] Chat Gamit ang Phi-4-mini ONNX Model
      • Chat gamit ang Phi-4 lokal ONNX Model .NET
      • Chat .NET Console App gamit ang Phi-4 ONNX gamit ang Semantic Kernel
    • Mga Halimbawa ng Phi-3 / 3.5
      • Lokal na Chatbot sa browser gamit ang Phi3, ONNX Runtime Web at WebGPU
      • OpenVino Chat
      • Multi Model - Interaktibong Phi-3-mini at OpenAI Whisper
      • MLFlow - Paggawa ng wrapper at paggamit ng Phi-3 gamit ang MLFlow
      • Pag-optimize ng Model - Paano i-optimize ang Phi-3-min model para sa ONNX Runtime Web gamit ang Olive
      • WinUI3 App gamit ang Phi-3 mini-4k-instruct-onnx
      • WinUI3 Multi Model AI Powered Notes App Sample
      • Pag-fine-tune at Pagsasama ng custom na Phi-3 models gamit ang Prompt flow
      • Pag-fine-tune at Pagsasama ng custom na Phi-3 models gamit ang Prompt flow sa Azure AI Foundry
      • Pagsusuri sa Fine-tuned Phi-3 / Phi-3.5 Model sa Azure AI Foundry na Nakatuon sa Prinsipyo ng Responsableng AI ng Microsoft

• [📓] Phi-3.5-mini-instruct halimbawa ng hula ng wika (Chinese/English)
  - Phi-3.5-Instruct WebGPU RAG Chatbot
  - Paggamit ng Windows GPU upang lumikha ng Prompt flow solution gamit ang Phi-3.5-Instruct ONNX
  - Paggamit ng Microsoft Phi-3.5 tflite upang gumawa ng Android app
  - Halimbawa ng Q&A .NET gamit ang lokal na ONNX Phi-3 model gamit ang Microsoft.ML.OnnxRuntime
  - Console chat .NET app gamit ang Semantic Kernel at Phi-3

  • Azure AI Inference SDK Mga Halimbawa ng Code

    • Phi-4 Mga Halimbawa 🆕
      • [📓] Gumawa ng project code gamit ang Phi-4-multimodal
    • Phi-3 / 3.5 Mga Halimbawa
      • Gumawa ng sarili mong Visual Studio Code GitHub Copilot Chat gamit ang Microsoft Phi-3 Family
      • Gumawa ng sarili mong Visual Studio Code Chat Copilot Agent gamit ang Phi-3.5 sa pamamagitan ng GitHub Models

  • Advanced Reasoning Mga Halimbawa

    • Phi-4 Mga Halimbawa 🆕
      • [📓] Phi-4-mini Advanced Reasoning Mga Halimbawa

  • Mga Demo

    • Phi-4-mini demos na naka-host sa Hugging Face Spaces
    • Phi-4-multimodal demos na naka-host sa Hugging Face Spaces

  • Vision Mga Halimbawa

    • Phi-4 Mga Halimbawa 🆕
      • [📓] Gamitin ang Phi-4-multimodal upang magbasa ng mga larawan at gumawa ng code
    • Phi-3 / 3.5 Mga Halimbawa
      • [📓]Phi-3-vision-Image text to text
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • DEMO: Phi-3 Recycling
      • Phi-3-vision - Visual language assistant - gamit ang Phi3-Vision at OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision multi-frame o multi-image halimbawa
      • Phi-3 Vision Lokal na ONNX Model gamit ang Microsoft.ML.OnnxRuntime .NET
      • Menu-based Phi-3 Vision Lokal na ONNX Model gamit ang Microsoft.ML.OnnxRuntime .NET

  • Audio Mga Halimbawa

    • Phi-4 Mga Halimbawa 🆕
      • [📓] Pagkuha ng audio transcripts gamit ang Phi-4-multimodal
      • [📓] Phi-4-multimodal Audio Halimbawa
      • [📓] Phi-4-multimodal Speech Translation Halimbawa
      • .NET console application gamit ang Phi-4-multimodal Audio upang suriin ang audio file at gumawa ng transcript

  • MOE Mga Halimbawa

    • Phi-3 / 3.5 Mga Halimbawa
      • [📓] Phi-3.5 Mixture of Experts Models (MoEs) Social Media Halimbawa
      • [📓] Paggawa ng Retrieval-Augmented Generation (RAG) Pipeline gamit ang NVIDIA NIM Phi-3 MOE, Azure AI Search, at LlamaIndex

  • Mga Halimbawa ng Function Calling

    • Phi-4 Mga Halimbawa 🆕
      • [📓] Paggamit ng Function Calling Gamit ang Phi-4-mini

  • Mga Halimbawa ng Multimodal Mixing

    • Phi-4 Mga Halimbawa 🆕

• [📓] Paggamit ng Phi-4-multimodal bilang isang Technology journalist

  • .NET console application gamit ang Phi-4-multimodal para suriin ang mga imahe

• Fine-tuning Phi Samples

  • Mga Senaryo ng Fine-tuning
  • Fine-tuning kumpara sa RAG
  • Fine-tuning: Hayaan ang Phi-3 na maging eksperto sa industriya
  • Fine-tuning Phi-3 gamit ang AI Toolkit para sa VS Code
  • Fine-tuning Phi-3 gamit ang Azure Machine Learning Service
  • Fine-tuning Phi-3 gamit ang Lora
  • Fine-tuning Phi-3 gamit ang QLora
  • Fine-tuning Phi-3 gamit ang Azure AI Foundry
  • Fine-tuning Phi-3 gamit ang Azure ML CLI/SDK
  • Fine-tuning gamit ang Microsoft Olive
  • Fine-tuning gamit ang Microsoft Olive Hands-On Lab
  • Fine-tuning Phi-3-vision gamit ang Weights and Bias
  • Fine-tuning Phi-3 gamit ang Apple MLX Framework
  • Fine-tuning Phi-3-vision (opisyal na suporta)
  • Fine-Tuning Phi-3 gamit ang Kaito AKS, Azure Containers (opisyal na suporta)
  • Fine-Tuning Phi-3 at 3.5 Vision

• Hands on Lab

  • Paggalugad sa mga pinakabagong modelo: LLMs, SLMs, lokal na pag-develop, at iba pa
  • Pagbubukas ng Potensyal ng NLP: Fine-Tuning gamit ang Microsoft Olive

• Mga Academic Research Papers at Publikasyon

  • Textbooks Are All You Need II: phi-1.5 technical report
  • Phi-3 Technical Report: Isang Highly Capable Language Model na Lokal sa Iyong Telepono
  • Phi-4 Technical Report
  • Pag-optimize ng Maliit na Language Models para sa In-Vehicle Function-Calling
  • (WhyPHI) Fine-Tuning PHI-3 para sa Multiple-Choice Question Answering: Methodology, Results, at Mga Hamon

Paggamit ng Phi Models

Phi sa Azure AI Foundry

Maaari kang matuto kung paano gamitin ang Microsoft Phi at kung paano bumuo ng E2E solutions sa iba't ibang hardware devices. Para maranasan ang Phi, magsimula sa pamamagitan ng pagsubok sa mga modelo at pag-customize ng Phi para sa iyong mga senaryo gamit ang Azure AI Foundry Azure AI Model Catalog. Maaari kang matuto pa sa Getting Started with Azure AI Foundry.

Playground
Ang bawat modelo ay may dedikadong playground para subukan ang modelo Azure AI Playground.

Phi sa GitHub Models

Maaari kang matuto kung paano gamitin ang Microsoft Phi at kung paano bumuo ng E2E solutions sa iba't ibang hardware devices. Para maranasan ang Phi, magsimula sa pamamagitan ng pagsubok sa modelo at pag-customize ng Phi para sa iyong mga senaryo gamit ang GitHub Model Catalog. Maaari kang matuto pa sa Getting Started with GitHub Model Catalog.

Playground
Ang bawat modelo ay may nakalaang playground para subukan ang modelo.

Phi sa Hugging Face

Makikita mo rin ang modelo sa Hugging Face

Playground
Hugging Chat playground

Responsableng AI

Ang Microsoft ay nakatuon sa pagtulong sa aming mga customer na gamitin ang aming mga AI na produkto nang responsable, pagbabahagi ng aming mga natutunan, at pagbuo ng mga partnership na nakabatay sa tiwala gamit ang mga tool tulad ng Transparency Notes at Impact Assessments. Marami sa mga mapagkukunang ito ay makikita sa https://aka.ms/RAI.
Ang diskarte ng Microsoft sa responsableng AI ay nakabatay sa aming mga prinsipyo ng AI: pagiging patas, pagiging maaasahan at kaligtasan, privacy at seguridad, pagiging inklusibo, transparency, at pananagutan.

Ang mga malalaking modelo para sa natural language, imahe, at pagsasalita - tulad ng mga ginamit sa halimbawang ito - ay maaaring umasta sa mga paraang hindi patas, hindi maaasahan, o nakakasakit, na maaaring magdulot ng pinsala. Mangyaring sumangguni sa Azure OpenAI service Transparency note upang maging pamilyar sa mga panganib at limitasyon.

Ang inirerekomendang paraan upang mabawasan ang mga panganib na ito ay ang pagsama ng safety system sa iyong arkitektura na maaaring makakita at pumigil sa mapanirang gawi. Ang Azure AI Content Safety ay nagbibigay ng isang independiyenteng layer ng proteksyon, na kayang tukuyin ang mapanirang nilalaman na gawa ng user o AI sa mga aplikasyon at serbisyo. Kasama sa Azure AI Content Safety ang mga text at image API na nagbibigay-daan sa iyong matukoy ang nakakapinsalang materyal. Sa loob ng Azure AI Foundry, ang Content Safety service ay nagbibigay-daan sa iyo na tingnan, galugarin, at subukan ang sample code para sa pagtukoy ng mapanirang nilalaman sa iba't ibang modality. Ang sumusunod na quickstart documentation ay gagabay sa iyo sa paggawa ng mga kahilingan sa serbisyo.

Isa pang aspeto na kailangang isaalang-alang ay ang kabuuang performance ng aplikasyon. Sa mga multi-modal at multi-model na aplikasyon, ang performance ay nangangahulugang gumagana ang sistema ayon sa inaasahan mo at ng iyong mga user, kabilang ang hindi paglikha ng mapanirang output. Mahalaga na suriin ang performance ng kabuuang aplikasyon gamit ang Performance and Quality and Risk and Safety evaluators. May kakayahan ka ring lumikha at mag-evaluate gamit ang custom evaluators.

Maaari mong suriin ang iyong AI na aplikasyon sa iyong development environment gamit ang Azure AI Evaluation SDK. Gamit ang test dataset o target, ang iyong generative AI application outputs ay sinusukat nang quantitatively gamit ang built-in evaluators o custom evaluators na iyong pinili. Upang makapagsimula sa Azure AI Evaluation SDK para suriin ang iyong sistema, maaari mong sundan ang quickstart guide. Kapag naisagawa mo na ang isang evaluation run, maaari mong i-visualize ang mga resulta sa Azure AI Foundry.

Mga Trademark

Ang proyektong ito ay maaaring naglalaman ng mga trademark o logo para sa mga proyekto, produkto, o serbisyo. Ang awtorisadong paggamit ng mga trademark o logo ng Microsoft ay dapat sumunod at nakabatay sa Microsoft's Trademark & Brand Guidelines.
Ang paggamit ng mga trademark o logo ng Microsoft sa mga binagong bersyon ng proyektong ito ay hindi dapat magdulot ng kalituhan o magpahiwatig ng sponsorship mula sa Microsoft. Ang anumang paggamit ng mga third-party na trademark o logo ay nakabatay sa mga patakaran ng mga third-party na iyon.

Paunawa:
Ang dokumentong ito ay isinalin gamit ang mga serbisyo ng AI na nakabatay sa makina. Bagama't pinagsisikapan naming maging wasto, mangyaring tandaan na ang mga awtomatikong pagsasalin ay maaaring maglaman ng mga pagkakamali o hindi tumpak na impormasyon. Ang orihinal na dokumento sa sarili nitong wika ang dapat ituring na pangunahing sanggunian. Para sa mahahalagang impormasyon, inirerekomenda ang propesyonal na pagsasalin ng tao. Hindi kami mananagot para sa anumang hindi pagkakaunawaan o maling interpretasyon na dulot ng paggamit ng pagsasaling ito.