مشاركة عبر


أفضل الممارسات ودليل استكشاف الأخطاء وإصلاحها ل Foundry Local

مهم

  • يتوفر Foundry Local في المعاينة. توفر إصدارات المعاينة العامة access مبكرا إلى الميزات التي يتم نشرها بنشاط.
  • يمكن أن تتغير الميزات والنهج والعمليات أو لديها قدرات محدودة، قبل التوفر العام (GA).

تسرد هذه المقالة أفضل الممارسات وتلميحات استكشاف الأخطاء وإصلاحها ل Foundry Local.

المتطلبات المسبقه

  • قم بتثبيت Foundry Local.
  • امتلكوا access إنترنت لتحميل النماذج (موصى به).
  • إذا استخدمت الحلول البديل لتثبيت نطاق الآلة في هذا المقال، شغل PowerShell كمسؤول.

تحقق من مؤشر القيادة

شغل الأمر التالي للتأكد من أن واجهة سطر Foundry المحلية مثبتة ومتاحة في مسار PATH:

foundry --help

تسرد هذه الأوامر الأوامر والخيارات المتاحة.

المصدر: مرجع CLI المحلي في فاوندري

أفضل ممارسات الأمان

  • قم بتشغيل Foundry Local فقط في البيئات التي تتوافق مع نهج أمان مؤسستك.
  • تأكد من أن جهازك يلبي متطلبات الأمان الخاصة بمؤسستك عند التعامل مع البيانات الحساسة.
  • تشفير الأقراص على الأجهزة التي تقوم بتخزين النماذج التي تحتوي على بيانات ضبط دقيقة حساسة.

اعتبارات الترخيص

راجع الآثار المترتبة على الترخيص للنماذج التي تقوم بتشغيلها في Foundry Local. لعرض شروط ترخيص النموذج الكاملة لكل نموذج في الكتالوج، قم بتشغيل الأمر التالي. في الأمر التالي، استبدل العنصر <model> النائب باسم النموذج:

foundry model info <model> --license

المصدر: مرجع CLI المحلي في فاوندري

أفضل ممارسات الأداء

إذا واجهت استدلال بطيء، ففكر في الاستراتيجيات التالية:

  • أوقف أي جلسة استنتاج لمجموعة أدوات الذكاء الاصطناعي ل VS Code قبل تشغيل Foundry Local.
  • استخدم تسريع بطاقة الرسوميات عندما يكون متاحا.
  • تحديد الاختناقات من خلال مراقبة استخدام الذاكرة أثناء الاستدلال.
  • جرب نماذج أكثر كمومية (مثل INT8 بدلا من FP16).
  • ضبط أحجام الدفعات لأحمال العمل غير النشطة.

نطاق توزيع الإنتاج

Foundry Local هو للاستدلال على الجهاز، وليس توزيعه، أو حاوياته، أو عمليات نشر الإنتاج متعددة الأجهزة.

استكشاف الأخطاء وإصلاحها

المشكلات والحلول الشائعة

مشكلة السبب المحتمل حل
الاستدلال البطيء نموذج المعالج المركزي فقط مع عدد معاملات كبير. استخدم نماذج محسنة لوحدة معالجة الرسومات عندما تكون متاحة.
فشل تنزيل النموذج مشكلات الاتصال بالشبكة. تحقق من اتصالك بالإنترنت، ثم قم بتشغيل foundry cache list للتحقق من حالة ذاكرة التخزين المؤقت.
أخطاء اتصال الخدمة (Request to local service failed. Uri:http://127.0.0.1:0/foundry/list) لا يمكن الوصول إلى مشكلات ربط المنفذ أو الخدمة. قم بتشغيل foundry service restart لإعادة تشغيل الخدمة وحل مشاكل ربط المنفذ.
فشل بدء الخدمة. تعارضات المنفذ أو مشكلات الأذونات. شغل foundry service restart، أو الإبلاغ عن مشكلة مع السجلات باستخدام foundry zip-logs.
لم يتم الكشف عن Intel NPU أو لا يعمل برنامج تشغيل Intel NPU مفقود أو قديم. قم بتثبيت برنامج تشغيل Intel NPU لنظام التشغيل Windows لتمكين تسريع NPU.
خطأ Qualcomm NPU (Qnn error code 5005: "Failed to load from EpContext model. qnn_backend_manager.") تعارضات برنامج تشغيل Qualcomm NPU أو موارد NPU القديمة. تثبيت برنامج تشغيل Qualcomm NPU. إذا استمرت المشكلة، أعد التشغيل لمسح تعارضات موارد NPU، خاصة بعد استخدام ميزات Windows Copilot+.
winget install Microsoft.FoundryLocal --scope machine فشل مع "تكوين النظام الحالي لا يدعم تثبيت هذه الحزمة." Winget يمنع تركيب جهاز MSIX على نطاق الجهاز. استخدم الحل المؤقت في مشاكل التثبيت.

مشكلات التثبيت

إذا winget install Microsoft.FoundryLocal --scope machine فشل مع "تكوين النظام الحالي لا يدعم تثبيت هذه الحزمة."، استخدم Add-AppxProvisionedPackage بدلا من ذلك.

  1. قم بتحميل .msix حزمة الاعتماد الخاصة بها.
  2. شغل PowerShell كمسؤول.
  3. شغل الأمر التالي لتثبيت Foundry Local لجميع المستخدمين:
Add-AppxProvisionedPackage -Online -PackagePath .\FoundryLocal.msix `
  -DependencyPackagePath .\VcLibs.appx -SkipLicense