README.md

Phi Cookbook: דוגמאות מעשיות עם המודלים של Phi מבית מיקרוסופט

Phi היא סדרת מודלים מבוססי AI בקוד פתוח שפותחו על ידי מיקרוסופט.

נכון להיום, Phi הוא מודל שפה קטן (SLM) עוצמתי במיוחד וחסכוני, עם ביצועים מעולים במבחנים של שפות מרובות, הסקת מסקנות, יצירת טקסטים/שיחות, קוד, תמונות, שמע ועוד.

ניתן לפרוס את Phi לענן או למכשירי קצה, ולפתח בקלות יישומים מבוססי AI גנרטיבי גם עם משאבי מחשוב מוגבלים.

בצעו את השלבים הבאים כדי להתחיל להשתמש במשאבים אלו:

1. עשו פורק למאגר: לחצו
2. שכפלו את המאגר: git clone https://github.com/microsoft/PhiCookBook.git
3. הצטרפו לקהילת ה-AI של מיקרוסופט בדיסקורד ופגשו מומחים ומפתחים נוספים

תוכן עניינים

• מבוא

  • ברוכים הבאים למשפחת Phi
  • הגדרת הסביבה שלכם
  • הבנת טכנולוגיות מפתח
  • בטיחות AI עבור מודלים של Phi
  • תמיכת חומרה עבור Phi
  • מודלים של Phi וזמינותם בפלטפורמות שונות
  • שימוש ב-Guidance-ai וב-Phi
  • מודלים ב-GitHub Marketplace
  • קטלוג המודלים של Azure AI

• ביצוע Inference ל-Phi בסביבות שונות

  • Hugging face
  • מודלים ב-GitHub
  • קטלוג המודלים של Azure AI Foundry
  • Ollama
  • כלי AI ב-VSCode (AITK)
  • NVIDIA NIM

• ביצוע Inference למשפחת Phi

  • Inference ל-Phi ב-iOS
  • Inference ל-Phi באנדרואיד

• ביצוע Inference של Phi ב-Jetson

  • ביצוע Inference של Phi במחשב AI PC
  • ביצוע Inference של Phi עם Apple MLX Framework
  • ביצוע Inference של Phi בשרת מקומי
  • ביצוע Inference של Phi בשרת מרוחק באמצעות AI Toolkit
  • ביצוע Inference של Phi עם Rust
  • ביצוע Inference של Phi--Vision מקומית
  • ביצוע Inference של Phi עם Kaito AKS, Azure Containers (תמיכה רשמית)

• כימות משפחת Phi

  • כימות Phi-3.5 / 4 באמצעות llama.cpp
  • כימות Phi-3.5 / 4 באמצעות הרחבות Generative AI ל-onnxruntime
  • כימות Phi-3.5 / 4 באמצעות Intel OpenVINO
  • כימות Phi-3.5 / 4 באמצעות Apple MLX Framework

• הערכת Phi

  • AI אחראי
  • Azure AI Foundry להערכה
  • שימוש ב-Promptflow להערכה

• RAG עם Azure AI Search

  • כיצד להשתמש ב-Phi-4-mini וב-Phi-4-multimodal (RAG) עם Azure AI Search

• דוגמאות לפיתוח אפליקציות Phi

  • אפליקציות טקסט וצ'אט
    • דוגמאות Phi-4 🆕
      • [📓] צ'אט עם מודל Phi-4-mini ONNX
      • צ'אט עם מודל Phi-4 מקומי ONNX באמצעות .NET
      • אפליקציית קונסול .NET לצ'אט עם Phi-4 ONNX באמצעות Semantic Kernel
    • דוגמאות Phi-3 / 3.5
      • צ'אט מקומי בדפדפן באמצעות Phi3, ONNX Runtime Web ו-WebGPU
      • צ'אט OpenVino
      • מודל מרובה - אינטראקטיבי Phi-3-mini ו-OpenAI Whisper
      • MLFlow - בניית מעטפת ושימוש ב-Phi-3 עם MLFlow
      • אופטימיזציית מודל - כיצד לאופטם את המודל Phi-3-min עבור ONNX Runtime Web עם Olive
      • אפליקציית WinUI3 עם Phi-3 mini-4k-instruct-onnx
      • אפליקציית הערות AI מרובת מודלים ב-WinUI3
      • כיוונון והתאמה אישית של מודלי Phi-3 עם Prompt flow
      • כיוונון והתאמה אישית של מודלי Phi-3 עם Prompt flow ב-Azure AI Foundry
      • הערכת מודל Phi-3 / Phi-3.5 מותאם אישית ב-Azure AI Foundry תוך התמקדות בעקרונות AI אחראי של Microsoft

• [📓] דוגמה לחיזוי שפה עם Phi-3.5-mini-instruct (סינית/אנגלית) - צ'אטבוט RAG WebGPU עם Phi-3.5-Instruct - שימוש ב-GPU של Windows ליצירת פתרון Prompt flow עם Phi-3.5-Instruct ONNX - שימוש ב-Microsoft Phi-3.5 tflite ליצירת אפליקציית אנדרואיד - שאלות ותשובות .NET עם מודל מקומי ONNX Phi-3 באמצעות Microsoft.ML.OnnxRuntime - אפליקציית צ'אט מסוף .NET עם Semantic Kernel ו-Phi-3

  • דוגמאות מבוססות קוד של Azure AI Inference SDK

    • דוגמאות Phi-4 🆕
      • [📓] יצירת קוד פרויקט באמצעות Phi-4-multimodal
    • דוגמאות Phi-3 / 3.5
      • בניית צ'אט GitHub Copilot משלך ב-Visual Studio Code עם משפחת Phi-3 של Microsoft
      • יצירת סוכן צ'אט Copilot משלך ב-Visual Studio Code עם Phi-3.5 באמצעות מודלים של GitHub

  • דוגמאות לחשיבה מתקדמת

    • דוגמאות Phi-4 🆕
      • [📓] דוגמאות חשיבה מתקדמות עם Phi-4-mini

  • הדגמות

    • הדגמות Phi-4-mini המתארחות ב-Hugging Face Spaces
    • הדגמות Phi-4-multimodal המתארחות ב-Hugging Face Spaces

  • דוגמאות לראייה ממוחשבת

    • דוגמאות Phi-4 🆕
      • [📓] שימוש ב-Phi-4-multimodal לקריאת תמונות ויצירת קוד
    • דוגמאות Phi-3 / 3.5
      • [📓]Phi-3-vision - המרת טקסט מתמונה לטקסט
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • הדגמה: Phi-3 למיחזור
      • Phi-3-vision - עוזר חזותי לשפה - עם Phi3-Vision ו-OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]דוגמת Phi-3.5 Vision לתמונות מרובות או מסגרות מרובות
      • מודל ONNX מקומי של Phi-3 Vision באמצעות Microsoft.ML.OnnxRuntime .NET
      • מודל ONNX מקומי של Phi-3 Vision מבוסס תפריטים באמצעות Microsoft.ML.OnnxRuntime .NET

  • דוגמאות לאודיו

    • דוגמאות Phi-4 🆕
      • [📓] חילוץ תמלילי אודיו באמצעות Phi-4-multimodal
      • [📓] דוגמת אודיו Phi-4-multimodal
      • [📓] דוגמת תרגום דיבור Phi-4-multimodal
      • אפליקציית מסוף .NET המשתמשת ב-Phi-4-multimodal Audio לניתוח קובץ אודיו ויצירת תמליל

  • דוגמאות MOE

    • דוגמאות Phi-3 / 3.5
      • [📓] מודלים של תערובת מומחים Phi-3.5 (MoEs) לדוגמת מדיה חברתית
      • [📓] בניית צינור RAG (יצירת תוכן מבוססת אחזור) עם NVIDIA NIM Phi-3 MOE, Azure AI Search, ו-LlamaIndex

  • דוגמאות לקריאה לפונקציות

    • דוגמאות Phi-4 🆕
      • [📓] שימוש בקריאה לפונקציות עם Phi-4-mini

  • דוגמאות לערבוב מולטימודלי

    • דוגמאות Phi-4 🆕

• [📓] שימוש ב-Phi-4-multimodal כעיתונאי טכנולוגיה

  • אפליקציית קונסולה ב-.NET שמשתמשת ב-Phi-4-multimodal לניתוח תמונות

• כיוונון עדין לדוגמאות Phi

  • תסריטי כיוונון עדין
  • כיוונון עדין לעומת RAG
  • כיוונון עדין: להפוך את Phi-3 למומחה תעשייתי
  • כיוונון עדין של Phi-3 עם ערכת כלים AI ל-VS Code
  • כיוונון עדין של Phi-3 עם Azure Machine Learning Service
  • כיוונון עדין של Phi-3 עם Lora
  • כיוונון עדין של Phi-3 עם QLora
  • כיוונון עדין של Phi-3 עם Azure AI Foundry
  • כיוונון עדין של Phi-3 עם Azure ML CLI/SDK
  • כיוונון עדין עם Microsoft Olive
  • כיוונון עדין עם מעבדה מעשית Microsoft Olive
  • כיוונון עדין של Phi-3-vision עם Weights and Bias
  • כיוונון עדין של Phi-3 עם Apple MLX Framework
  • כיוונון עדין של Phi-3-vision (תמיכה רשמית)
  • כיוונון עדין של Phi-3 עם Kaito AKS , Azure Containers (תמיכה רשמית)
  • כיוונון עדין של Phi-3 ו-3.5 Vision

• מעבדה מעשית

  • חקר מודלים מתקדמים: LLMs, SLMs, פיתוח מקומי ועוד
  • שחרור הפוטנציאל של NLP: כיוונון עדין עם Microsoft Olive

• מאמרי מחקר אקדמיים ופרסומים

  • Textbooks Are All You Need II: דו"ח טכני של phi-1.5
  • Phi-3 דו"ח טכני: מודל שפה בעל יכולות גבוהות על הטלפון שלך
  • דו"ח טכני של Phi-4
  • אופטימיזציה של מודלי שפה קטנים לשימוש ברכב
  • (WhyPHI) כיוונון עדין של PHI-3 לשאלות רב-ברירה: מתודולוגיה, תוצאות ואתגרים

שימוש במודלים של Phi

Phi על Azure AI Foundry

ניתן ללמוד כיצד להשתמש ב-Microsoft Phi וכיצד לבנות פתרונות מקצה לקצה על גבי מכשירים שונים. כדי לחוות את Phi בעצמכם, התחילו לשחק עם המודלים והתאימו את Phi לתרחישים שלכם באמצעות Azure AI Foundry Azure AI Model Catalog. למידע נוסף, התחילו עם Azure AI Foundry.

Playground
לכל מודל יש סביבת Playground ייעודית לבדיקת המודל Azure AI Playground.

Phi על מודלים ב-GitHub

ניתן ללמוד כיצד להשתמש ב-Microsoft Phi וכיצד לבנות פתרונות מקצה לקצה על גבי מכשירים שונים. כדי לחוות את Phi בעצמכם, התחילו לשחק עם המודל והתאימו את Phi לתרחישים שלכם באמצעות GitHub Model Catalog. למידע נוסף, התחילו עם GitHub Model Catalog.

Playground
לכל מודל יש סביבת ניסוי ייעודית לבדיקת המודל.

Phi ב-Hugging Face

ניתן גם למצוא את המודל ב-Hugging Face

סביבת ניסוי
סביבת הניסוי של Hugging Chat

AI אחראי

מיקרוסופט מחויבת לסייע ללקוחותיה להשתמש במוצרי ה-AI שלה באחריות, לשתף את הלמידות שלנו ולבנות שותפויות מבוססות אמון באמצעות כלים כמו Transparency Notes ו-Impact Assessments. משאבים רבים בנושא זה זמינים ב-https://aka.ms/RAI.
הגישה של מיקרוסופט ל-AI אחראי מבוססת על עקרונות ה-AI שלנו: הוגנות, אמינות ובטיחות, פרטיות ואבטחה, הכללה, שקיפות ואחריות.

מודלים רחבי היקף של שפה טבעית, תמונה ודיבור - כמו אלו המוצגים בדוגמה זו - עלולים להתנהג בדרכים לא הוגנות, לא אמינות או פוגעניות, ובכך לגרום לנזקים. מומלץ לעיין ב-הערת השקיפות של שירות Azure OpenAI כדי להבין את הסיכונים והמגבלות.

הגישה המומלצת להפחתת סיכונים אלו היא לכלול מערכת בטיחות בארכיטקטורה שלכם שיכולה לזהות ולמנוע התנהגות מזיקה. Azure AI Content Safety מספקת שכבת הגנה עצמאית, שמסוגלת לזהות תוכן מזיק שנוצר על ידי משתמשים או על ידי AI באפליקציות ושירותים. Azure AI Content Safety כוללת APIs לטקסט ותמונה שמאפשרים לזהות חומרים מזיקים. בתוך Azure AI Foundry, שירות Content Safety מאפשר לכם לצפות, לחקור ולנסות קוד לדוגמה לזיהוי תוכן מזיק במודלים שונים. תיעוד ההתחלה המהירה מנחה אתכם כיצד לבצע בקשות לשירות.

היבט נוסף שיש לקחת בחשבון הוא ביצועי האפליקציה הכוללת. באפליקציות מולטי-מודליות ומולטי-מודלים, אנו מגדירים ביצועים כיכולת של המערכת לפעול בהתאם לציפיות שלכם ושל המשתמשים שלכם, כולל הימנעות מיצירת תוצרים מזיקים. חשוב להעריך את ביצועי האפליקציה הכוללת באמצעות מדדי ביצועים ואיכות ומעריכי סיכונים ובטיחות. יש לכם גם אפשרות ליצור ולהעריך בעזרת מעריכי מותאמים אישית.

ניתן להעריך את אפליקציית ה-AI שלכם בסביבת הפיתוח באמצעות Azure AI Evaluation SDK. בהתבסס על מאגר נתוני בדיקה או יעד, המדידות של אפליקציית ה-AI שלכם מתבצעות באופן כמותי עם מעריכי ברירת מחדל או מותאמים אישית לפי בחירתכם. כדי להתחיל עם Azure AI Evaluation SDK ולהעריך את המערכת שלכם, ניתן לעקוב אחר מדריך ההתחלה המהירה. לאחר ביצוע הרצת הערכה, תוכלו לצפות בתוצאות ב-Azure AI Foundry.

סימני מסחר

פרויקט זה עשוי לכלול סימני מסחר או לוגואים עבור פרויקטים, מוצרים או שירותים. שימוש מורשה בסימני המסחר או הלוגואים של מיקרוסופט כפוף ל-הנחיות השימוש בסימני המסחר והמותג של מיקרוסופט.
שימוש בסימני המסחר או הלוגואים של מיקרוסופט בגרסאות מותאמות של פרויקט זה אסור לגרום לבלבול או לרמוז על חסות של מיקרוסופט. כל שימוש בסימני מסחר או לוגואים של צד שלישי כפוף למדיניות של אותם צדדים שלישיים.

הצהרת אחריות:
מסמך זה תורגם באמצעות שירותי תרגום מבוססי בינה מלאכותית. למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עשויים להכיל שגיאות או אי-דיוקים. המסמך המקורי בשפתו המקורית צריך להיחשב כמקור הסמכותי. למידע קריטי, מומלץ להשתמש בתרגום מקצועי אנושי. איננו נושאים באחריות לכל אי-הבנה או פרשנות שגויה הנובעות משימוש בתרגום זה.