README.md

Buku Panduan Phi: Contoh Praktis dengan Model Phi dari Microsoft

Phi adalah serangkaian model AI sumber terbuka yang dikembangkan oleh Microsoft.

Phi saat ini merupakan model bahasa kecil (SLM) yang paling kuat dan hemat biaya, dengan performa sangat baik dalam berbagai bahasa, penalaran, pembuatan teks/chat, pengkodean, gambar, audio, dan skenario lainnya.

Anda dapat menerapkan Phi di cloud atau perangkat edge, dan Anda dapat dengan mudah membangun aplikasi AI generatif dengan daya komputasi yang terbatas.

Ikuti langkah-langkah ini untuk memulai menggunakan sumber daya ini:

1. Fork Repositori: Klik
2. Clone Repositori: git clone https://github.com/microsoft/PhiCookBook.git
3. Bergabunglah dengan Komunitas Discord AI Microsoft dan temui para ahli serta pengembang lainnya

Daftar Isi

• Pengantar

  • Selamat Datang di Keluarga Phi
  • Menyiapkan Lingkungan Anda
  • Memahami Teknologi Utama
  • Keamanan AI untuk Model Phi
  • Dukungan Perangkat Keras untuk Phi
  • Model Phi & Ketersediaannya di Berbagai Platform
  • Menggunakan Guidance-ai dan Phi
  • Model di GitHub Marketplace
  • Katalog Model Azure AI

• Inferensi Phi di Berbagai Lingkungan

  • Hugging Face
  • Model GitHub
  • Katalog Model Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Inferensi Keluarga Phi

  • Inferensi Phi di iOS
  • Inferensi Phi di Android

• Inferens Phi dalam Jetson

  • Inferens Phi dalam AI PC
  • Inferens Phi dengan Apple MLX Framework
  • Inferens Phi dalam Server Lokal
  • Inferens Phi dalam Server Jauh menggunakan AI Toolkit
  • Inferens Phi dengan Rust
  • Inferens Phi--Vision secara Lokal
  • Inferens Phi dengan Kaito AKS, Azure Containers (dukungan resmi)

• Kuantifikasi Keluarga Phi

  • Kuantifikasi Phi-3.5 / 4 menggunakan llama.cpp
  • Kuantifikasi Phi-3.5 / 4 menggunakan ekstensi Generative AI untuk onnxruntime
  • Kuantifikasi Phi-3.5 / 4 menggunakan Intel OpenVINO
  • Kuantifikasi Phi-3.5 / 4 menggunakan Apple MLX Framework

• Evaluasi Phi

  • AI yang Bertanggung Jawab
  • Azure AI Foundry untuk Evaluasi
  • Menggunakan Promptflow untuk Evaluasi

• RAG dengan Azure AI Search

  • Cara menggunakan Phi-4-mini dan Phi-4-multimodal (RAG) dengan Azure AI Search

• Contoh pengembangan aplikasi Phi

  • Aplikasi Teks & Chat
    • Contoh Phi-4 🆕
      • [📓] Chat dengan Model Phi-4-mini ONNX
      • Chat dengan Model Phi-4 lokal ONNX .NET
      • Aplikasi Konsol .NET Chat dengan Phi-4 ONNX menggunakan Semantic Kernel
    • Contoh Phi-3 / 3.5
      • Chatbot Lokal di browser menggunakan Phi3, ONNX Runtime Web, dan WebGPU
      • Chat OpenVino
      • Multi Model - Interaktif Phi-3-mini dan OpenAI Whisper
      • MLFlow - Membangun pembungkus dan menggunakan Phi-3 dengan MLFlow
      • Optimasi Model - Cara mengoptimalkan model Phi-3-min untuk ONNX Runtime Web dengan Olive
      • Aplikasi WinUI3 dengan Phi-3 mini-4k-instruct-onnx
      • Contoh Aplikasi Catatan Bertenaga AI Multi Model WinUI3
      • Fine-tune dan Integrasi model Phi-3 kustom dengan Prompt flow
      • Fine-tune dan Integrasi model Phi-3 kustom dengan Prompt flow di Azure AI Foundry
      • Evaluasi Model Phi-3 / Phi-3.5 yang telah di-Fine-tune di Azure AI Foundry dengan Fokus pada Prinsip AI Bertanggung Jawab Microsoft

• [📓] Contoh ramalan bahasa Phi-3.5-mini-instruct (Cina/Inggeris) - Chatbot RAG WebGPU Phi-3.5-Instruct - Menggunakan GPU Windows untuk mencipta penyelesaian Prompt flow dengan Phi-3.5-Instruct ONNX - Menggunakan Microsoft Phi-3.5 tflite untuk mencipta aplikasi Android - Contoh Soal Jawab .NET menggunakan model Phi-3 ONNX tempatan dengan Microsoft.ML.OnnxRuntime - Aplikasi chat konsol .NET dengan Semantic Kernel dan Phi-3

  • Sampel Kod SDK Inferensi Azure AI

    • Sampel Phi-4 🆕
      • [📓] Hasilkan kod projek menggunakan Phi-4-multimodal
    • Sampel Phi-3 / 3.5
      • Bina Chat Copilot Visual Studio Code anda sendiri dengan Microsoft Phi-3 Family
      • Cipta Agen Chat Copilot Visual Studio Code anda sendiri dengan Phi-3.5 menggunakan Model GitHub

  • Sampel Penaakulan Lanjutan

    • Sampel Phi-4 🆕
      • [📓] Sampel Penaakulan Mini Phi-4

  • Demo

    • Demo Phi-4-mini dihoskan di Hugging Face Spaces
    • Demo Phi-4-multimodal dihoskan di Hugging Face Spaces

  • Sampel Vision

    • Sampel Phi-4 🆕
      • [📓] Gunakan Phi-4-multimodal untuk membaca imej dan menjana kod
    • Sampel Phi-3 / 3.5
      • [📓]Phi-3-vision-Image teks ke teks
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • DEMO: Phi-3 Kitar Semula
      • Phi-3-vision - Pembantu bahasa visual - dengan Phi3-Vision dan OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Contoh multi-bingkai atau multi-imej Phi-3.5 Vision
      • Model ONNX Tempatan Phi-3 Vision menggunakan Microsoft.ML.OnnxRuntime .NET
      • Model ONNX Tempatan Phi-3 Vision Berasaskan Menu menggunakan Microsoft.ML.OnnxRuntime .NET

  • Sampel Audio

    • Sampel Phi-4 🆕
      • [📓] Ekstrak transkrip audio menggunakan Phi-4-multimodal
      • [📓] Sampel Audio Phi-4-multimodal
      • [📓] Sampel Terjemahan Ucapan Phi-4-multimodal
      • Aplikasi konsol .NET menggunakan Phi-4-multimodal Audio untuk menganalisis fail audio dan menjana transkrip

  • Sampel MOE

    • Sampel Phi-3 / 3.5
      • [📓] Sampel Media Sosial Model MoE (Mixture of Experts) Phi-3.5
      • [📓] Membina Saluran Retrieval-Augmented Generation (RAG) dengan NVIDIA NIM Phi-3 MOE, Azure AI Search, dan LlamaIndex

  • Sampel Pemanggilan Fungsi

    • Sampel Phi-4 🆕
      • [📓] Menggunakan Pemanggilan Fungsi Dengan Phi-4-mini

  • Sampel Pencampuran Multimodal

    • Sampel Phi-4 🆕

• [📓] Menggunakan Phi-4-multimodal sebagai Wartawan Teknologi
  - Aplikasi konsol .NET menggunakan Phi-4-multimodal untuk menganalisis gambar

• Fine-tuning Sampel Phi

  • Senario Fine-tuning
  • Fine-tuning vs RAG
  • Fine-tuning Membolehkan Phi-3 menjadi pakar industri
  • Fine-tuning Phi-3 dengan AI Toolkit untuk VS Code
  • Fine-tuning Phi-3 dengan Azure Machine Learning Service
  • Fine-tuning Phi-3 dengan Lora
  • Fine-tuning Phi-3 dengan QLora
  • Fine-tuning Phi-3 dengan Azure AI Foundry
  • Fine-tuning Phi-3 dengan Azure ML CLI/SDK
  • Fine-tuning dengan Microsoft Olive
  • Fine-tuning dengan Microsoft Olive Hands-On Lab
  • Fine-tuning Phi-3-vision dengan Weights and Bias
  • Fine-tuning Phi-3 dengan Kerangka Kerja Apple MLX
  • Fine-tuning Phi-3-vision (sokongan rasmi)
  • Fine-Tuning Phi-3 dengan Kaito AKS, Azure Containers (Sokongan Rasmi)
  • Fine-Tuning Phi-3 dan 3.5 Vision

• Hands on Lab

  • Meneroka model terkini: LLMs, SLMs, pembangunan tempatan dan banyak lagi
  • Membuka Potensi NLP: Fine-Tuning dengan Microsoft Olive

• Kertas Penyelidikan Akademik dan Penerbitan

  • Textbooks Are All You Need II: laporan teknikal phi-1.5
  • Laporan Teknikal Phi-3: Model Bahasa Berkemampuan Tinggi Secara Tempatan di Telefon Anda
  • Laporan Teknikal Phi-4
  • Mengoptimumkan Model Bahasa Kecil untuk Pemanggilan Fungsi Dalam Kenderaan
  • (WhyPHI) Fine-Tuning PHI-3 untuk Menjawab Soalan Pilihan Berganda: Metodologi, Keputusan, dan Cabaran

Menggunakan Model Phi

Phi di Azure AI Foundry

Anda boleh belajar bagaimana menggunakan Microsoft Phi dan membina penyelesaian E2E pada pelbagai peranti perkakasan anda. Untuk mencuba Phi sendiri, mulakan dengan bermain dengan model dan menyesuaikan Phi untuk senario anda menggunakan Katalog Model Azure AI Foundry. Anda boleh belajar lebih lanjut di Memulakan Azure AI Foundry.

Playground
Setiap model mempunyai ruang ujian khas untuk mencuba model Azure AI Playground.

Phi di Model GitHub

Anda boleh belajar bagaimana menggunakan Microsoft Phi dan membina penyelesaian E2E pada pelbagai peranti perkakasan anda. Untuk mencuba Phi sendiri, mulakan dengan bermain dengan model dan menyesuaikan Phi untuk senario anda menggunakan Katalog Model GitHub. Anda boleh belajar lebih lanjut di Memulakan Katalog Model GitHub.

Playground
Setiap model mempunyai ruang uji khas untuk menguji model.

Phi di Hugging Face

Anda juga boleh menemui model ini di Hugging Face

Ruang Uji Hugging Chat playground

AI Bertanggungjawab

Microsoft komited untuk membantu pelanggan menggunakan produk AI kami secara bertanggungjawab, berkongsi pembelajaran kami, dan membina kerjasama berasaskan kepercayaan melalui alat seperti Transparency Notes dan Impact Assessments. Banyak sumber ini boleh didapati di https://aka.ms/RAI. Pendekatan Microsoft terhadap AI bertanggungjawab berlandaskan prinsip AI kami iaitu keadilan, kebolehpercayaan dan keselamatan, privasi dan keselamatan, keterangkuman, ketelusan, dan akauntabiliti.

Model bahasa semula jadi, imej, dan pertuturan berskala besar - seperti yang digunakan dalam sampel ini - berpotensi berkelakuan dengan cara yang tidak adil, tidak boleh dipercayai, atau menyinggung, yang seterusnya boleh menyebabkan kemudaratan. Sila rujuk nota ketelusan perkhidmatan Azure OpenAI untuk mengetahui tentang risiko dan batasan.

Pendekatan yang disyorkan untuk mengurangkan risiko ini ialah dengan memasukkan sistem keselamatan dalam seni bina anda yang boleh mengesan dan mencegah tingkah laku berbahaya. Azure AI Content Safety menyediakan lapisan perlindungan bebas, yang mampu mengesan kandungan berbahaya yang dihasilkan pengguna atau AI dalam aplikasi dan perkhidmatan. Azure AI Content Safety termasuk API teks dan imej yang membolehkan anda mengesan bahan yang berbahaya. Dalam Azure AI Foundry, perkhidmatan Content Safety membolehkan anda melihat, meneroka dan mencuba kod contoh untuk mengesan kandungan berbahaya merentasi pelbagai mod. Dokumentasi permulaan pantas berikut membimbing anda membuat permintaan kepada perkhidmatan tersebut.

Satu lagi aspek yang perlu diambil kira ialah prestasi keseluruhan aplikasi. Dengan aplikasi multi-modal dan multi-model, kami menganggap prestasi bermaksud bahawa sistem berfungsi seperti yang anda dan pengguna anda harapkan, termasuk tidak menghasilkan output yang berbahaya. Adalah penting untuk menilai prestasi keseluruhan aplikasi anda menggunakan penilai Prestasi dan Kualiti serta Risiko dan Keselamatan. Anda juga mempunyai keupayaan untuk mencipta dan menilai dengan penilai tersuai.

Anda boleh menilai aplikasi AI anda dalam persekitaran pembangunan anda menggunakan Azure AI Evaluation SDK. Sama ada dengan set data ujian atau sasaran, penjanaan aplikasi AI generatif anda diukur secara kuantitatif dengan penilai terbina dalam atau penilai tersuai pilihan anda. Untuk memulakan dengan azure ai evaluation sdk bagi menilai sistem anda, anda boleh mengikuti panduan permulaan pantas. Setelah anda melaksanakan larian penilaian, anda boleh memvisualisasikan hasilnya di Azure AI Foundry.

Tanda Dagangan

Projek ini mungkin mengandungi tanda dagangan atau logo untuk projek, produk, atau perkhidmatan. Penggunaan tanda dagangan atau logo Microsoft yang dibenarkan tertakluk kepada dan mesti mematuhi Garis Panduan Tanda Dagangan & Jenama Microsoft. Penggunaan tanda dagangan atau logo Microsoft dalam versi yang diubah suai daripada projek ini tidak boleh menyebabkan kekeliruan atau menyiratkan penajaan oleh Microsoft. Sebarang penggunaan tanda dagangan atau logo pihak ketiga adalah tertakluk kepada dasar pihak ketiga tersebut.

Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI berasaskan mesin. Walaupun kami berusaha untuk ketepatan, sila ambil maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat yang kritikal, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.