README.md

Phi Cookbook：使用 Microsoft Phi 模型的實作範例

Phi 是 Microsoft 開發的一系列開源 AI 模型。

Phi 是目前最強大且具成本效益的小型語言模型（SLM），在多語言、推理、文本/聊天生成、程式碼、圖像、音頻以及其他場景中均有卓越表現。

您可以將 Phi 部署到雲端或邊緣設備，並且可以利用有限的計算資源輕鬆構建生成式 AI 應用程式。

按照以下步驟開始使用這些資源：

1. Fork 此儲存庫：點擊
2. Clone 此儲存庫： git clone https://github.com/microsoft/PhiCookBook.git
3. 加入 Microsoft AI Discord 社群，與專家及其他開發者交流

🌐 多語言支持

法文 | 西班牙文 | 德文 | 俄文 | 阿拉伯文 | 波斯文 (法爾西文) | 烏爾都文 | 中文 (簡體) | 中文 (繁體，澳門) | 中文 (繁體，香港) | 中文 (繁體，台灣) | 日文 | 韓文 | 印地文 孟加拉文 | 馬拉地文 | 尼泊爾文 | 旁遮普文 (古爾穆奇文) | 葡萄牙文 (葡萄牙) | 葡萄牙文 (巴西) | 義大利文 | 波蘭文 | 土耳其文 | 希臘文 | 泰文 | 瑞典文 | 丹麥文 | 挪威文 | 芬蘭文 | 荷蘭文 | 希伯來文 | 越南文 | 印尼文 | 馬來文 | 他加祿文 (菲律賓文) | 斯瓦希里文 | 匈牙利文 | 捷克文 | 斯洛伐克文 | 羅馬尼亞文 | 保加利亞文 | 塞爾維亞文 (西里爾文) | 克羅埃西亞文 | 斯洛維尼亞文

目錄

• 簡介

  • 歡迎加入 Phi 家族
  • 設定您的環境
  • 了解核心技術
  • Phi 模型的 AI 安全性
  • Phi 硬體支援
  • Phi 模型及各平台的可用性
  • 使用 Guidance-ai 和 Phi
  • GitHub Marketplace 模型
  • Azure AI 模型目錄

• 在不同環境中推理 Phi

  • Hugging face
  • GitHub 模型
  • Azure AI Foundry 模型目錄
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Phi 家族的推理

  • 在 iOS 上推理 Phi
  • 在 Android 上推理 Phi
  • 在 Jetson 上推理 Phi
  • 在 AI PC 上推理 Phi
  • 使用 Apple MLX 框架推理 Phi
  • 在本地伺服器上推理 Phi
  • 使用 AI Toolkit 在遠端伺服器推理 Phi
  • 使用 Rust 推理 Phi
  • 在本地推理 Phi--Vision
  • 使用 Kaito AKS 和 Azure Containers（官方支援）推理 Phi

• Phi 家族的量化

  • 使用 llama.cpp 量化 Phi-3.5 / 4
  • 使用 Onnxruntime 的生成式 AI 擴展量化 Phi-3.5 / 4
  • 使用 Intel OpenVINO 量化 Phi-3.5 / 4
  • 使用 Apple MLX 框架量化 Phi-3.5 / 4

• 評估 Phi

• 負責任的 AI

  • Azure AI Foundry 評估工具
  • 使用 Promptflow 進行評估

• 使用 Azure AI Search 的 RAG

  • 如何結合 Phi-4-mini 和 Phi-4-multimodal (RAG) 與 Azure AI Search

• Phi 應用開發範例

  • 文本與聊天應用

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-mini ONNX 模型進行聊天
      • 使用 Phi-4 本地 ONNX 模型進行聊天 (.NET)
      • 結合 Phi-4 ONNX 和 Semantic Kernel 的 .NET 聊天控制台應用
    • Phi-3 / 3.5 範例
      • 使用 Phi3、ONNX Runtime Web 和 WebGPU 的本地瀏覽器聊天機器人
      • OpenVino 聊天
      • 多模型交互：Phi-3-mini 與 OpenAI Whisper
      • MLFlow - 構建封裝並使用 Phi-3 與 MLFlow
      • 模型優化 - 如何使用 Olive 優化 Phi-3-min 模型以適配 ONNX Runtime Web
      • 結合 Phi-3 mini-4k-instruct-onnx 的 WinUI3 應用
      • WinUI3 多模型 AI 驅動的筆記應用範例
      • 使用 Prompt flow 微調並整合自定義 Phi-3 模型
      • 在 Azure AI Foundry 中使用 Prompt flow 微調並整合自定義 Phi-3 模型
      • 基於 Microsoft 負責任 AI 原則，評估 Azure AI Foundry 中的微調 Phi-3 / Phi-3.5 模型
      • [📓] Phi-3.5-mini-instruct 語言預測範例（中/英文）
      • Phi-3.5-Instruct WebGPU RAG 聊天機器人
      • 使用 Windows GPU 與 Phi-3.5-Instruct ONNX 創建 Prompt flow 解決方案
      • 使用 Microsoft Phi-3.5 tflite 創建 Android 應用
      • 使用 Microsoft.ML.OnnxRuntime 的本地 ONNX Phi-3 模型進行 Q&A .NET 範例
      • 結合 Semantic Kernel 和 Phi-3 的控制台聊天 .NET 應用

  • 基於 Azure AI Inference SDK 的代碼範例

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-multimodal 生成項目代碼
    • Phi-3 / 3.5 範例
      • 構建您自己的 Visual Studio Code GitHub Copilot 聊天功能，結合 Microsoft Phi-3 系列
      • 使用 Phi-3.5 與 GitHub 模型創建您的 Visual Studio Code 聊天代理

  • 高級推理範例

    • Phi-4 範例 🆕
      • [📓] Phi-4-mini 推理範例

  • 演示

    • 在 Hugging Face Spaces 上托管的 Phi-4-mini 演示
    • 在 Hugging Face Spaces 上托管的 Phi-4-multimodal 演示

  • 視覺範例

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-multimodal 讀取圖像並生成代碼
    • Phi-3 / 3.5 範例

• [📓]Phi-3-vision-Image text to text

  • Phi-3-vision-ONNX
  • [📓]Phi-3-vision CLIP Embedding
  • DEMO: Phi-3 Recycling
  • Phi-3-vision - 視覺語言助手 - 使用 Phi3-Vision 和 OpenVINO
  • Phi-3 Vision Nvidia NIM
  • Phi-3 Vision OpenVino
  • [📓]Phi-3.5 Vision 多幀或多圖像範例
  • Phi-3 Vision 本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET
  • 基於選單的 Phi-3 Vision 本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET

• 音頻範例

  • Phi-4 範例 🆕
    • [📓] 使用 Phi-4-multimodal 提取音頻文字稿
    • [📓] Phi-4-multimodal 音頻範例
    • [📓] Phi-4-multimodal 語音翻譯範例
    • .NET 主控台應用，使用 Phi-4-multimodal 分析音頻文件並生成文字稿

• MOE 範例

  • Phi-3 / 3.5 範例
    • [📓] Phi-3.5 專家模型組合 (MoEs) 社交媒體範例
    • [📓] 使用 NVIDIA NIM Phi-3 MOE、Azure AI Search 和 LlamaIndex 構建檢索增強生成 (RAG) 流程

• 函數調用範例

  • Phi-4 範例 🆕
    • [📓] 使用 Phi-4-mini 進行函數調用
    • [📓] 使用函數調用創建多代理，搭配 Phi-4-mini
    • [📓] 搭配 Ollama 使用函數調用

• 多模態混合範例

  • Phi-4 範例 🆕
    • [📓] 使用 Phi-4-multimodal 作為科技記者
    • .NET 主控台應用，使用 Phi-4-multimodal 分析圖像

• Phi 微調範例

  • 微調場景
  • 微調與 RAG 的比較
  • 微調讓 Phi-3 成為行業專家
  • 使用 VS Code 的 AI 工具包微調 Phi-3
  • 使用 Azure 機器學習服務微調 Phi-3
  • 使用 Lora 微調 Phi-3
  • 使用 QLora 微調 Phi-3
  • 使用 Azure AI Foundry 微調 Phi-3
  • 使用 Azure ML CLI/SDK 微調 Phi-3

• 使用 Microsoft Olive 進行微調

  • Microsoft Olive 微調實作實驗室
  • 使用 Weights and Bias 微調 Phi-3-vision
  • 使用 Apple MLX 框架微調 Phi-3
  • 微調 Phi-3-vision (官方支援)
  • 使用 Kaito AKS 和 Azure Containers 微調 Phi-3 (官方支援)
  • 微調 Phi-3 和 3.5 Vision

• 實作實驗室

  • 探索前沿模型：LLMs、SLMs、本地開發等
  • 解鎖 NLP 潛力：使用 Microsoft Olive 進行微調

• 學術研究論文與出版物

  • 教科書是您唯一需要的 II：phi-1.5 技術報告
  • Phi-3 技術報告：在您的手機上本地運行的高性能語言模型
  • Phi-4 技術報告
  • Phi-4-Mini 技術報告：通過 LoRAs 混合方法實現緊湊但強大的多模態語言模型
  • 優化小型語言模型以進行車內功能調用
  • (WhyPHI) 微調 PHI-3 以回答多選題：方法論、結果及挑戰

使用 Phi 模型

Phi 在 Azure AI Foundry 上

您可以了解如何使用 Microsoft Phi，並在不同的硬件設備上構建端到端解決方案。若想親身體驗 Phi，請從操作模型並根據您的場景自訂 Phi 開始，使用 Azure AI Foundry Azure AI Model Catalog 開始探索，並了解更多資訊於 Azure AI Foundry 快速入門。

Playground
每個模型都有專屬的 Playground 可供測試模型 Azure AI Playground。

Phi 在 GitHub Models 上

您可以了解如何使用 Microsoft Phi，並在不同的硬件設備上構建端到端解決方案。若想親身體驗 Phi，請從操作模型並根據您的場景自訂 Phi 開始，使用 GitHub Model Catalog 開始探索，並了解更多資訊於 GitHub Model Catalog 快速入門。

Playground
每個模型都有專屬的 Playground 可供測試模型。

Phi 在 Hugging Face 上

您也可以在 Hugging Face 上找到模型。

Playground
Hugging Chat Playground。

負責任的 AI

Microsoft 致力於幫助客戶負責任地使用 AI 產品，分享我們的經驗，並通過透明度說明和影響評估等工具建立基於信任的合作關係。許多資源可在 https://aka.ms/RAI 找到。
Microsoft 的負責任 AI 方法基於我們的 AI 原則，包括公平性、可靠性與安全性、隱私與安全性、包容性、透明度和問責性。

大型自然語言、圖像和語音模型（例如本示例中使用的模型）可能會以不公平、不可靠或冒犯的方式行為，從而造成傷害。請參閱 Azure OpenAI 服務透明度說明，了解相關風險和限制。

建議的風險緩解方法是在您的架構中包含一個安全系統，該系統可以檢測並防止有害行為。Azure AI Content Safety 提供獨立的保護層，能夠檢測應用程序和服務中的有害用戶生成內容及 AI 生成內容。Azure AI Content Safety 包括文本和圖像 API，可檢測有害材料。在 Azure AI Foundry 中，Content Safety 服務可讓您查看、探索並嘗試檢測不同模態有害內容的示例代碼。以下 快速入門文檔 指導您如何向服務發送請求。

另一個需要考慮的方面是整體應用性能。對於多模態和多模型應用程序，我們認為性能意味著系統按您和您的用戶期望執行，包括不生成有害輸出。重要的是使用 性能與質量及風險與安全性評估工具 評估您的整體應用性能。您還可以使用 自訂評估工具 創建並進行評估。 您可以在開發環境中使用 Azure AI Evaluation SDK 來評估您的 AI 應用程式。透過測試資料集或目標，您的生成式 AI 應用程式的結果可使用內建評估器或您選擇的自訂評估器進行量化測量。若要開始使用 Azure AI Evaluation SDK 評估您的系統，您可以參考 快速入門指南。執行評估後，您可以在 Azure AI Foundry 中可視化結果。

商標

此專案可能包含與專案、產品或服務相關的商標或標誌。使用 Microsoft 商標或標誌需獲授權，並必須遵循 Microsoft 的商標及品牌指南。在修改版本的專案中使用 Microsoft 商標或標誌時，不得引起混淆或暗示 Microsoft 的贊助。使用第三方商標或標誌需遵循該第三方的政策。

免責聲明：
本文檔使用 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們努力確保準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原文檔的母語版本作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對因使用本翻譯而引起的任何誤解或誤釋不承擔責任。