إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
مهم
- واجهة مصطلح Foundry Local CLI متاحة في مرحلة المعاينة. توفر إصدارات المعاينة العامة access مبكرا إلى الميزات التي يتم نشرها بنشاط.
- يمكن أن تتغير الميزات والنهج والعمليات أو لديها قدرات محدودة، قبل التوفر العام (GA).
توفر هذه المقالة مرجعا شاملا لواجهة سطر أوامر Foundry Local (CLI). ينظم CLI الأوامر في فئات منطقية لمساعدتك في إدارة النماذج والتحكم في الخادم المحلي والحفاظ على ذاكرة التخزين المؤقت المحلية.
المتطلبات المسبقه
- قم بتثبيت Foundry Local.
- محطة طرفية محلية
foundryحيث يتوفر CLI. - تأكد من وجود access إنترنت للتنزيلات لأول مرة (مزودي التنفيذ والنماذج).
- Azure RBAC: غير قابل للتطبيق (يتم تشغيله محليا).
- إذا كان لديك Intel NPU على Windows، فقم بتثبيت برنامج تشغيل Intel NPU للحصول على تسريع NPU الأمثل.
تثبيت فاوندري المحلي
تثبيت Foundry Local باستخدام مدير الحزمة أو المثبت لنظام التشغيل الخاص بك.
Windows: افتح محطة طرفية وقم بتشغيل:
winget install Microsoft.FoundryLocalmacOS Apple Silicon: افتح محطة طرفية وقم بتشغيل:
brew tap microsoft/foundrylocal brew install foundrylocalبدلا من ذلك، قم بتنزيل macOS
.pkgالحالي أو.zipمن أصول إصدار Foundry Local CLI. إذا قمت بتنزيل ، فافتحه.pkgباستخدام macOS Installer.
تحقق من التثبيت:
foundry --version
تأكد من أن لديك حقوق المسؤول لتثبيت البرنامج.
تلميح
إذا رأيت خطأ في اتصال الخادم بعد التثبيت (على سبيل المثال، Request to local service failed)، فقم بتشغيل foundry server restart.
تحقق سريع
قم بتشغيل هذه الأوامر للتأكد من تثبيت CLI ويمكن الوصول إلى الخادم المحلي.
اعرض المساعدة في CLI:
foundry --helpيقوم هذا الأمر بطباعة معلومات الاستخدام وقائمة مجموعات الأوامر المتاحة.
المصدر: نظرة عامة
تحقق من حالة الخادم:
foundry server statusيطبع هذا الأمر ما إذا كان البرنامج الخفي المحلي ل Foundry قيد التشغيل ويتضمن نقطة النهاية المحلية الخاصة به.
المرجع: أوامر الخادم
نظرة عامة
استخدم المساعدة المدمجة لاستكشاف الأوامر والخيارات.
ينظم CLI الأوامر في المجموعات التالية:
-
النموذج:
model،cache -
تشغيل:
run،chat، ،completetranscribe -
الخادم:
server -
الإعداد:
config -
تعليمات:
status،report
يلخص الجدول التالي أوامر المستوى الأعلى:
| Command | الوصف |
|---|---|
foundry model |
اكتشاف النماذج المحلية وفحصها وتنزيلها وتحميلها وتفريغها. |
foundry chat <model> |
بدء جلسة دردشة محلية تفاعلية. |
foundry complete <model> <prompt> |
إنشاء إكمال نص عديم الحالة واحد. |
foundry run <model> |
تشغيل نموذج مع التوجيه التلقائي للدردشة أو النسخ. |
foundry server |
بدء تشغيل برنامج Foundry الخفي المحلي وإيقافه وإعادة تشغيله وفحصه واستكشاف الأخطاء وإصلاحها. |
foundry cache |
فحص وإدارة إدخالات ذاكرة التخزين المؤقت للنموذج التي تم تنزيلها. |
foundry config |
طرق عرض إعدادات Foundry CLI الثابتة وتحريرها. |
foundry status |
يعرض تشخيصات النظام والخادم والنموذج والاتصال. |
foundry report |
فتح مشكلة GitHub مملوءة مسبقا بالتشخيص. |
foundry transcribe |
بدء جلسة كتابة الكلام المحلية التفاعلية أو نسخ ملف. |
أوامر النموذج
يلخص الجدول التالي الأوامر المتعلقة بإدارة النماذج وتشغيلها:
إشعار
يمكنك تحديد الوسيطة model بواسطة الاسم المستعار أو معرف النموذج الخاص بها. باستخدام اسم مستعار:
- يختار تلقائيا أفضل موديل للأجهزة المتاحة لديك. على سبيل المثال، إذا كان لديك بطاقة رسومات Nvidia متاحة، يختار Foundry Local أفضل طراز من بطاقة الرسوميات. إذا كان لديك وحدة معالجة NPU مدعومة متوفرة، يحدد Foundry Local نموذج NPU.
- يتيح لك استخدام اسم أقصر دون الحاجة إلى تذكر معرف الطراز.
إذا كنت تريد تشغيل نموذج معين، فاستخدم معرف النموذج. على سبيل المثال، لتشغيل على وحدة المعالجة qwen2.5-0.5b المركزية، بغض النظر عن الأجهزة المتوفرة، استخدم foundry run qwen2.5-0.5b-instruct-generic-cpu.
| Command | الوصف |
|---|---|
foundry model --help |
يعرض جميع الأوامر المتوفرة المتعلقة بالنموذج واستخدامها. |
foundry model list |
يسرد جميع النماذج المتوفرة للاستخدام المحلي. في التشغيل الأول ، يقوم بتنزيل موفري التنفيذ (EPs) لأجهزتك. |
foundry model info <model> |
عرض معلومات مفصلة حول نموذج معين. |
foundry model download <model> |
تنزيل نموذج إلى ذاكرة التخزين المؤقت المحلية دون تشغيله. |
foundry model load <model> |
تحميل نموذج في البرنامج الخفي المحلي. |
foundry model unload <model> |
إلغاء تحميل نموذج من البرنامج الخفي المحلي. |
ترتيب قائمة النماذج
عندما تتوفر عدة نسخ من معرف النموذج لاسم مستعار، تعرض قائمة النماذج النماذج بترتيب الأولوية. النموذج الأول في القائمة هو النموذج الذي يعمل عندما تحدد النموذج بواسطة alias.
تصفية قائمة النماذج
استخدم الخيارات الصريحة ل foundry model list لتضييق نطاق النتائج أو توسيعها.
إشعار
عند التشغيل foundry model list لأول مرة بعد التثبيت، يقوم Foundry Local تلقائيا بتنزيل موفري التنفيذ (EPs) المعنيين لتكوين أجهزة جهازك. ترى شريط تقدم يشير إلى اكتمال التنزيل قبل ظهور قائمة النماذج.
| الخيار | الوصف |
|---|---|
--device <kind> |
تصفية النماذج حسب نوع الجهاز: cpuأو gpuأو .npu |
--type <task> |
تصفية النماذج حسب المهمة: chatأو speechأو .embedding |
--search <query> |
تصفية النماذج بواسطة استعلام بحث. |
--cached |
تصفية القائمة إلى النماذج المخزنة مؤقتا. |
--loaded |
تصفية القائمة للنماذج المحملة. |
--variants |
يتضمن متغيرات النموذج في القائمة. |
--limit <n> |
يحد من عدد الصفوف في الإخراج. |
-v، --verbose |
يتضمن أعمدة الترخيص واسم العرض ومعرف النموذج. |
الأمثلة
foundry model list --device gpu
foundry model list --type chat
foundry model list --search qwen
foundry model list --cached
foundry model list --loaded
foundry model list --variants
foundry model list --limit 20
foundry model list --verbose
تقوم هذه الأمثلة بتصفية قائمة النماذج أو توسيعها باستخدام الخيارات المدعومة.
المرجع: تصفية قوائم النماذج
تشغيل نموذج تفاعلي
تشغيل نموذج والتفاعل معه مباشرة في المحطة الطرفية:
foundry chat qwen2.5-0.5b
يقوم Foundry Local بتنزيل النموذج عند التشغيل الأول، ثم يبدأ جلسة تفاعلية. أدخل مطالبة للحصول على استجابة:
Why is the sky blue?
تلميح
استبدل qwen2.5-0.5b بأي اسم مستعار للنموذج من الكتالوج. قم بتشغيل foundry model list لعرض النماذج المتوفرة. يقوم Foundry Local بتنزيل المتغير الذي يطابق أجهزتك على أفضل نحو — على سبيل المثال، متغير CUDA ل NVIDIA GPUs أو متغير NPU ل Qualcomm NPUs.
أوامر الخادم
يلخص الجدول التالي الأوامر المتعلقة بإدارة خادم Foundry المحلي وتشغيله:
| Command | الوصف |
|---|---|
foundry server --help |
يعرض جميع الأوامر المتوفرة المتعلقة بالخادم واستخدامها. |
foundry server start |
يبدأ تشغيل البرنامج الخفي المحلي المتوافق مع Foundry والخدمة المحلية المتوافقة مع OpenAI. |
foundry server start --port <port> |
بدء تشغيل الخدمة المحلية على منفذ TCP المحدد. يستخدم 0 للمنفذ المعين من قبل نظام التشغيل. |
foundry server start --idle-timeout <minutes> |
إيقاف البرنامج الخفي بعد العدد المحدد من الدقائق غير النشطة. استخدم 0 للحفاظ على تشغيل البرنامج الخفي. |
foundry server stop |
إيقاف البرنامج الخفي المحلي ل Foundry. |
foundry server restart |
إعادة تشغيل البرنامج الخفي المحلي ل Foundry والخدمة المحلية. |
foundry server restart --port <port> --idle-timeout 0 |
يعيد تشغيل الخدمة المحلية على منفذ TCP المحدد ويحافظ على تشغيل البرنامج الخفي. |
foundry server status |
يعرض حالة البرنامج الخفي وعناوين URL للخدمة المحلية ومعرف العملية ووقت التشغيل وموقع السجل. |
foundry server logs |
يعرض سجلي Foundry Local daemon وSDK. |
خيارات سجلات الخادم
استخدم هذه الخيارات مع foundry server logs:
| الخيار | الوصف |
|---|---|
-n، --lines <n> |
إظهار العدد المحدد من أسطر السجل الأخيرة. الافتراضي هو 50. |
-f، --follow |
دفق خطوط سجل جديدة أثناء إلحاقها. |
خادم محلي ثابت المنفذ
لبدء الخدمة المحلية على منفذ ثابت والحفاظ على تشغيل البرنامج الخفي، استخدم --port مع --idle-timeout 0:
foundry server start --port 39839 --idle-timeout 0
إذا كان البرنامج الخفي قيد التشغيل بالفعل وتحتاج إلى تطبيق منفذ جديد، أعد تشغيله بنفس الخيارات:
foundry server restart --port 39839 --idle-timeout 0
للتحقق من عنوان URL لنقطة النهاية المحلية، قم بتشغيل:
foundry server status
أوامر ذاكرة التخزين المؤقت
يلخص الجدول التالي أوامر إدارة ذاكرة التخزين المؤقت المحلية حيث يتم تخزين النماذج:
| Command | الوصف |
|---|---|
foundry cache --help |
يعرض جميع الأوامر المتوفرة المتعلقة بذاكرة التخزين المؤقت واستخدامها. |
foundry cache location |
يعرض دليل ذاكرة التخزين المؤقت الحالي. |
foundry cache list |
يسرد جميع النماذج المخزنة في ذاكرة التخزين المؤقت المحلية. |
foundry cache cd <path> |
تغيير دليل ذاكرة التخزين المؤقت إلى المسار المحدد. |
foundry cache remove [<model>] |
إزالة نموذج مخزن مؤقتا. إذا حذفت <model>، فإن الأمر يزيل جميع النماذج المخزنة مؤقتا بعد التأكيد. |
استخدم foundry cache remove <model> --force لإزالة نموذج مخزن مؤقتا دون تأكيد.
مزودو التنفيذ
مزودو التنفيذ هم مكتبات تسريع خاصة بالأجهزة تشغل النماذج بأكبر قدر ممكن من الكفاءة على جهازك.
مزودو التنفيذ المدمجين
يشمل Foundry Local مزود تنفيذ وحدة المعالجة المركزية، ومزود تنفيذ WebGPU، ومزود تنفيذ CUDA.
يستخدم موفر تنفيذ CPU Microsoft Linear Algebra Subroutines (MLAS) للتشغيل على أي وحدة معالجة مركزية وهو الاحتياطي لوحدة المعالجة المركزية ل Foundry Local.
يستخدم مزود تنفيذ WebGPU Dawn، وهو التطبيق الأصلي لواجهة برمجة التطبيقات المعتمدة على الويب، للتسريع على أي وحدة معالجة رسوميات، وهو الخيار الاحتياطي لوحدة معالجة الرسومات Foundry Local.
مزود تنفيذ CUDA يستخدم NVIDIA CUDA للتسريع على وحدات معالجة الرسوميات NVIDIA. يتطلب جهاز NVIDIA GeForce RTX 30 Series ولاحقا مع إصدار تعريف موصى به 32.0.15.5585 وإصدار CUDA 12.5. يخضع لشروط الترخيص التالية: اتفاقية ترخيص مجموعات تطوير البرمجيات من NVIDIA—اتفاقية ترخيص EULA.
مزودو تنفيذ الإضافات
يتوفر موفرو التنفيذ المدرجون في الجدول التالي للتنزيل والتسجيل الديناميكيين على Windows، اعتمادا على توافق الجهاز وبرنامج التشغيل. هم يخضعون لشروط الترخيص المحددة.
يقوم Foundry Local بتنزيل مزودي التنفيذ تلقائيا عند التشغيل الأول. يقوم مزودو تنفيذ الإضافات بالتحديث تلقائيا عند توفر نسخ جديدة.
| الاسم (بائع) | المتطلبات | شروط الترخيص |
|---|---|---|
NvTensorRTRTXExecutionProvider (نفيديا) |
إصدارات NVIDIA GeForce RTX 30XX والإصدارات الأحدث مع الحد الأدنى الموصى به من إصدار تعريف 32.0.15.5585 وإصدار CUDA 12.5 | اتفاقية الترخيص لمجموعات تطوير برمجيات NVIDIA — اتفاقية ترخيص المستخدم النهائي |
OpenVINOExecutionProvider (معلومات) |
المعالج: Intel TigerLake (الجيل الحادي عشر) والإصدارات الأحدث مع تعريف موصى به 32.0.100.9565 بطاقة الرسوميات: Intel AlderLake (الجيل الثاني عشر) والإصدارات الأحدث مع تعريف موصى به بالحد الأدنى 32.0.101.1029 NPU: إنتل أرو ليك (الجيل الخامس عشر) والإصدارات الأحدث مع تعريف موصى به على الحد الأدنى 32.0.100.4239 |
اتفاقية ترخيص الاستخدام التجاري لتوزيع إنتل OBL v2025.02.12 |
QNNExecutionProvider (كوالكوم) |
سناب دراجون(R) X إيليت - X1Exxxxx - وحدة معالجة البرق Qualcomm(R) Hexagon(TM) مع الحد الأدنى لإصدار تعريف 30.0.140.0 والإصدارات الأحدث سناب دراجون(R) X Plus - X1Pxxxxx - وحدة معالجة البرق Qualcomm(R) Hexagon(TM) مع الحد الأدنى لإصدار التعريف 30.0.140.0 والإصدارات الأحدث |
لعرض رخصة QNN، قم بتنزيل حزمة تطوير تطوير كوالكوم® للمعالجة العصبية، واستخراج ملف ZIP، وافتح ملف LICENSE.pdf. |
VitisAIExecutionProvider (AMD) |
الحد الأدنى: إصدار أدرينالين 25.6.3 مع برنامج تشغيل NPU 32.00.0203.280 ماكس: إصدار أدرينالين 25.9.1 مع تعريف NPU 32.00.0203.297 |
لا حاجة لترخيص إضافي |
استخدام Open WebUI مع الخادم المحلي
قم بتوصيل Open WebUI ب Foundry Local لواجهة دردشة مستندة إلى المستعرض تعمل بالكامل على جهازك.
ابدأ تشغيل نموذج واترك المحطة الطرفية مفتوحة:
foundry run qwen2.5-0.5bاحصل على عنوان URL لنقطة النهاية المحلية:
foundry server statusانسخ عنوان URL لنقطة النهاية. يقوم Foundry Local بتعيين منفذ ديناميكي في كل مرة يبدأ فيها الخادم.
قم بتثبيت Open WebUI وتشغيله، ثم افتحه
http://localhost:8080في المستعرض.توصيل Open WebUI ب Foundry Local:
- انتقل إلى الإعدادات>اتصالات إعدادات> المسؤولوتمكينالاتصالات المباشرة.
- انتقل إلى إعدادات>الاتصالات>إدارة الاتصالات المباشرة وحدد +.
- تعيين URL إلى
http://localhost:PORT/v1(استبدالPORTبالمنفذ من الخطوة 2) و Auth إلى None. - اختر حفظ.
حدد نموذجا من القائمة المنسدلة وابدأ الدردشة.
تلميح
إذا لم تظهر أي نماذج، فقم بتشغيل foundry run <model> في محطة طرفية وأعد تحميل Open WebUI. إذا فشل الاتصال، فتأكد من المنفذ باستخدام foundry server status.
ترقية مسبك محلي
قم بتشغيل الأمر لنظام التشغيل الخاص بك لترقية Foundry Local.
Windows:
winget upgrade --id Microsoft.FoundryLocalmacOS Apple Silicon: إذا كنت تقوم بالترقية من Foundry Local 0.8.x، فتوقف عن الخدمة القديمة قبل الترقية:
foundry service stop brew update brew upgrade microsoft/foundrylocal/foundrylocalإذا كنت تستخدم CLI للمعاينة الحالية، فقم بتشغيل:
brew update brew upgrade microsoft/foundrylocal/foundrylocal
إلغاء تثبيت مسبك محلي
لإلغاء تثبيت Foundry Local على Windows، قم بتشغيل:
winget uninstall Microsoft.FoundryLocal
استكشاف الأخطاء وإصلاحها
مشاكل اتصال الخادم
إذا رأيت هذا الخطأ عند تشغيل أمر مثل foundry model list:
Exception: Request to local service failed.
Uri: http://127.0.0.1:0/foundry/list
The requested address is not valid in its context. (127.0.0.1:0)
Please check server status with 'foundry server status'.
إعادة تشغيل الخادم:
foundry server restart
يعمل هذا الأمر على إصلاح الحالات التي يتم فيها تشغيل الخادم ولكن لا يمكن الوصول إليها بسبب مشكلة في ربط المنفذ.
لمزيد من إرشادات استكشاف الأخطاء وإصلاحها، راجع أفضل الممارسات واستكشاف الأخطاء وإصلاحها.