Windows üzerinde Microsoft Foundry'de kullanıma hazır yerel LLM'ler

Windows üzerinde Microsoft Foundry, Windows uygulamalarınızla tümleştirebileceğiniz birden çok kullanıma hazır yerel Büyük Dil Modeli (LLM) sağlar.

Kullanıma hazır LLM'ler

Uygulamanız bir saatten kısa bir süre içinde aşağıdaki yerel LLM'leri zahmetsizce kullanabilir. LLM dağıtımı Microsoft tarafından işlenir ve modeller uygulamalar arasında paylaşılır. Bu LLM'lerin kullanılması yalnızca birkaç kod satırı gerektirir ve ml uzmanlığı gerekmez.

	Nedir o	Desteklenen cihazlar	Docs
Phi Silika	Windows'un gelen kutusu deneyimlerinde kullanılan cihaz içi LLM	Copilot+ (NPU) bilgisayarlar	Daha fazla bilgi edinin
20'den fazla açık kaynak LLM	20'den fazla kullanılabilir OSS LLM modeli arasından seçim yapın	Windows 10+ (Performans değişir, tüm cihazlardaki tüm modeller kullanılamaz)	Daha fazla bilgi edinin

Yerel LLM'lerde ince ayar yapma

Yukarıdaki kullanıma hazır LLM'ler senaryonuz için işe yaramazsa, senaryonuz için LLM'lere ince ayar yapabilirsiniz. Bu seçenek, ince ayarlı bir eğitim veri kümesi oluşturmak için biraz çalışma gerektirir, ancak kendi modelinizi eğitmekten daha az iştir.

• Phi Silica: Başlamak için Phi Silica için LoRA Fine-Tuning başlıklı belgeyi inceleyin.

Yüz Tanıma veya diğer kaynaklardan LLM'leri kullanma

Yüz Tanıma'dan veya diğer kaynaklardan çok çeşitli LLM'ler kullanabilir ve bunları Windows ML kullanarak Windows 10+ bilgisayarlarda yerel olarak çalıştırabilirsiniz (model uyumluluğu ve performansı cihaz donanımına göre değişir).. Bu seçenek daha karmaşık olabilir ve kullanıma hazır yerel LLM'lere kıyasla daha fazla zaman alabilir.

Daha fazla bilgi edinmek için bkz. Windows ML ile kullanılacak modelleri bulma veya eğitma .