README.md

Phi Cookbook: 微軟 Phi 模型實戰範例

Phi 是微軟開發的一系列開源 AI 模型。

Phi 目前是最強大且具成本效益的小型語言模型 (SLM)，在多語言、推理、文本/聊天生成、程式碼、圖像、音頻及其他場景中都有非常優秀的基準表現。

你可以將 Phi 部署到雲端或邊緣設備，並且可以在有限的計算資源下輕鬆建立生成式 AI 應用。

按照以下步驟開始使用這些資源：

1. Fork 儲存庫：點擊
2. Clone 儲存庫： git clone https://github.com/microsoft/PhiCookBook.git
3. 加入微軟 AI Discord 社群，與專家及其他開發者交流

🌐 多語言支援

法文 | 西班牙文 | 德文 | 俄文 | 阿拉伯文 | 波斯文（法文） | 烏爾都文 | 中文（簡體） | 中文（繁體，澳門） | 中文（繁體，香港） | 中文（繁體，台灣） | 日文 | 韓文 | 印地文 | 孟加拉文 | 馬拉地文 | 尼泊爾文 | 旁遮普文（古木基文） | 葡萄牙文（葡萄牙） | 葡萄牙文（巴西） | 意大利文 | 波蘭文 | 土耳其文 | 希臘文 | 泰文 | 瑞典文 | 丹麥文 | 挪威文 | 芬蘭文 | 荷蘭文 | 希伯來文 | 越南文 | 印尼文 | 馬來文 | 塔加洛文（菲律賓文） | 斯瓦希里文 | 匈牙利文 | 捷克文 | 斯洛伐克文 | 羅馬尼亞文 | 保加利亞文 | 塞爾維亞文（西里爾文） | 克羅地亞文 | 斯洛文尼亞文

目錄

• 簡介

  • 歡迎加入 Phi 家族
  • 設置您的環境
  • 了解關鍵技術
  • Phi 模型的 AI 安全性
  • Phi 硬件支持
  • Phi 模型及其跨平台的可用性
  • 使用 Guidance-ai 和 Phi
  • GitHub Marketplace 模型
  • Azure AI 模型目錄

• 在不同環境中推理 Phi

  • Hugging face
  • GitHub 模型
  • Azure AI Foundry 模型目錄
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Phi 家族推理

  • 在 iOS 中推理 Phi
  • 在 Android 中推理 Phi
  • 在 Jetson 中推理 Phi
  • 在 AI PC 中推理 Phi
  • 使用 Apple MLX Framework 推理 Phi
  • 在本地服務器中推理 Phi
  • 使用 AI Toolkit 在遠程服務器中推理 Phi
  • 使用 Rust 推理 Phi
  • 在本地推理 Phi--Vision
  • 使用 Kaito AKS 和 Azure Containers（官方支持）推理 Phi

• Phi 家族量化

  • 使用 llama.cpp 量化 Phi-3.5 / 4
  • 使用 onnxruntime 的生成式 AI 擴展量化 Phi-3.5 / 4
  • 使用 Intel OpenVINO 量化 Phi-3.5 / 4
  • 使用 Apple MLX Framework 量化 Phi-3.5 / 4

• 評估 Phi

• Response AI

  • Azure AI Foundry 用於評估
  • 使用 Promptflow 進行評估

• RAG 與 Azure AI Search

  • 如何使用 Phi-4-mini 和 Phi-4-multimodal(RAG) 配合 Azure AI Search

• Phi 應用開發範例

  • 文本與聊天應用

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-mini ONNX 模型進行聊天
      • 使用 Phi-4 本地 ONNX 模型 .NET 進行聊天
      • 使用 Semantic Kernel 和 Phi-4 ONNX 的聊天 .NET 控制台應用
    • Phi-3 / 3.5 範例
      • 使用 Phi3、ONNX Runtime Web 和 WebGPU 在瀏覽器中創建本地聊天機器人
      • OpenVino 聊天
      • 多模型 - 交互式 Phi-3-mini 和 OpenAI Whisper
      • MLFlow - 構建封裝並使用 Phi-3 配合 MLFlow
      • 模型優化 - 如何使用 Olive 優化 Phi-3-mini 模型以配合 ONNX Runtime Web
      • WinUI3 應用使用 Phi-3 mini-4k-instruct-onnx
      • WinUI3 多模型 AI 驅動筆記應用範例
      • 微調並整合自定義 Phi-3 模型配合 Promptflow
      • 微調並整合自定義 Phi-3 模型配合 Azure AI Foundry 的 Promptflow
      • 在 Azure AI Foundry 中評估微調的 Phi-3 / Phi-3.5 模型，專注於 Microsoft 的負責任 AI 原則
      • [📓] Phi-3.5-mini-instruct 語言預測範例（中文/英文）
      • Phi-3.5-Instruct WebGPU RAG 聊天機器人
      • 使用 Windows GPU 創建 Phi-3.5-Instruct ONNX 的 Promptflow 解決方案
      • 使用 Microsoft Phi-3.5 tflite 創建 Android 應用
      • 使用本地 ONNX Phi-3 模型和 Microsoft.ML.OnnxRuntime 的 Q&A .NET 範例
      • 使用 Semantic Kernel 和 Phi-3 的聊天 .NET 控制台應用

  • Azure AI Inference SDK 基於代碼的範例

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-multimodal 生成項目代碼
    • Phi-3 / 3.5 範例
      • 使用 Microsoft Phi-3 系列創建自己的 Visual Studio Code GitHub Copilot 聊天
      • 使用 Phi-3.5 和 GitHub 模型創建自己的 Visual Studio Code 聊天 Copilot 代理

  • 高級推理範例

    • Phi-4 範例 🆕
      • [📓] Phi-4-mini 推理範例

  • 演示

    • Phi-4-mini 演示託管於 Hugging Face Spaces
    • Phi-4-multimodal 演示託管於 Hugging Face Spaces

  • 視覺範例

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-multimodal 讀取圖像並生成代碼
    • Phi-3 / 3.5 範例

• [📓]Phi-3-vision-Image text to text

  • Phi-3-vision-ONNX
  • [📓]Phi-3-vision CLIP Embedding
  • DEMO: Phi-3 Recycling
  • Phi-3-vision - 視覺語言助手 - 使用 Phi3-Vision 同 OpenVINO
  • Phi-3 Vision Nvidia NIM
  • Phi-3 Vision OpenVino
  • [📓]Phi-3.5 Vision 多幀或者多圖片示例
  • Phi-3 Vision 本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET
  • 基於選單嘅 Phi-3 Vision 本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET

• 音頻示例

  • Phi-4 示例 🆕
    • [📓] 使用 Phi-4-multimodal 提取音頻文本
    • [📓] Phi-4-multimodal 音頻示例
    • [📓] Phi-4-multimodal 語音翻譯示例
    • .NET 控制台應用，使用 Phi-4-multimodal 分析音頻文件並生成文本

• MOE 示例

  • Phi-3 / 3.5 示例
    • [📓] Phi-3.5 Mixture of Experts Models (MoEs) 社交媒體示例
    • [📓] 用 NVIDIA NIM Phi-3 MOE、Azure AI Search 同 LlamaIndex 構建檢索增強生成 (RAG) 流程

• 函數調用示例

  • Phi-4 示例 🆕
    • [📓] 使用 Phi-4-mini 進行函數調用
    • [📓] 使用函數調用創建多代理人，使用 Phi-4-mini
    • [📓] 使用函數調用同 Ollama

• 多模態混合示例

  • Phi-4 示例 🆕
    • [📓] 使用 Phi-4-multimodal 作為科技記者
    • .NET 控制台應用，使用 Phi-4-multimodal 分析圖片

• Phi 微調示例

  • 微調場景
  • 微調 vs RAG
  • 微調 Phi-3 成為行業專家
  • 使用 AI Toolkit for VS Code 微調 Phi-3
  • 使用 Azure Machine Learning Service 微調 Phi-3
  • 使用 Lora 微調 Phi-3
  • 使用 QLora 微調 Phi-3
  • 使用 Azure AI Foundry 微調 Phi-3
  • 使用 Azure ML CLI/SDK 微調 Phi-3

• 使用 Microsoft Olive 進行微調

  • Microsoft Olive 微調實操實驗室
  • 使用 Weights and Bias 微調 Phi-3-vision
  • 使用 Apple MLX 框架微調 Phi-3
  • 微調 Phi-3-vision（官方支持）
  • 使用 Kaito AKS 和 Azure Containers 微調 Phi-3（官方支持）
  • 微調 Phi-3 和 3.5 Vision

• 實操實驗室

  • 探索前沿模型：LLMs、SLMs、本地開發等
  • 解鎖 NLP 潛力：使用 Microsoft Olive 進行微調

• 學術研究論文及出版物

  • Textbooks Are All You Need II: phi-1.5 技術報告
  • Phi-3 技術報告：高效的語言模型可在手機本地運行
  • Phi-4 技術報告
  • Phi-4-Mini 技術報告：通過 LoRA 混合構建緊湊但強大的多模態語言模型
  • 優化小型語言模型以支持車內功能調用
  • (WhyPHI) 微調 PHI-3 以應對多選題回答：方法論、結果及挑戰

使用 Phi 模型

Phi 在 Azure AI Foundry

您可以學習如何使用 Microsoft Phi，並在不同硬件設備上構建端到端解決方案。若要親身體驗 Phi，請從測試模型並根據您的場景定制 Phi 開始，使用 Azure AI Foundry Azure AI Model Catalog。您可以在 Azure AI Foundry 快速入門 中了解更多。

Playground 每個模型都有專屬的 Playground 來測試模型 Azure AI Playground。

Phi 在 GitHub 模型

您可以學習如何使用 Microsoft Phi，並在不同硬件設備上構建端到端解決方案。若要親身體驗 Phi，請從測試模型並根據您的場景定制 Phi 開始，使用 GitHub Model Catalog。您可以在 GitHub Model Catalog 快速入門 中了解更多。

Playground 每個模型都有專屬的 Playground 測試模型。

Phi 在 Hugging Face

您也可以在 Hugging Face 上找到模型。

Playground Hugging Chat playground

負責任的 AI

Microsoft 致力於幫助客戶負責任地使用我們的 AI 產品，分享我們的經驗，並通過透明性說明和影響評估等工具建立基於信任的合作關係。許多資源可以在 https://aka.ms/RAI 找到。 Microsoft 的負責任 AI 方法基於我們的 AI 原則：公平性、可靠性和安全性、隱私和安全性、包容性、透明性以及問責制。

大型自然語言、圖像和語音模型（例如此示例中使用的模型）可能會以不公平、不可靠或冒犯的方式表現，進而導致傷害。請參考 Azure OpenAI 服務透明性說明 了解相關風險和限制。

建議的風險緩解方法是在您的架構中加入安全系統，該系統能檢測並防止有害行為。Azure AI Content Safety 提供了獨立的保護層，可以檢測應用和服務中的用戶生成內容及 AI 生成內容是否有害。Azure AI Content Safety 包括文本和圖像 API，能幫助您檢測有害材料。在 Azure AI Foundry 中，Content Safety 服務允許您查看、探索和試用示例代碼以檢測不同模式下的有害內容。以下 快速入門文檔 將指導您如何向服務發送請求。

另一個需要考慮的方面是整體應用性能。對於多模態和多模型應用，我們認為性能是指系統能如您和您的用戶所期望地運行，包括不生成有害輸出。評估整體應用性能時，請使用 Performance and Quality 和 Risk and Safety 評估工具。此外，您還可以創建和使用 自定義評估工具。 你可以在你的開發環境中使用 Azure AI Evaluation SDK 來評估你的 AI 應用程式。無論是測試數據集還是目標，你的生成式 AI 應用程式的生成結果都可以通過內建的評估器或你選擇的自訂評估器進行量化測量。要開始使用 Azure AI Evaluation SDK 來評估你的系統，可以參考 快速入門指南。執行評估後，你可以在 Azure AI Foundry 中視覺化結果。

商標

這個專案可能包含與專案、產品或服務相關的商標或標誌。授權使用 Microsoft 商標或標誌必須遵守並符合 Microsoft 的商標與品牌指南。在修改版本的專案中使用 Microsoft 商標或標誌不得造成混淆或暗示 Microsoft 的贊助。任何第三方商標或標誌的使用需遵守該第三方的政策。

免責聲明：
本文檔已使用AI翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始語言的文件應被視為權威來源。對於關鍵信息，建議使用專業人工翻譯。我們對因使用此翻譯而產生的任何誤解或錯誤解釋不承擔責任。