Microsoft Foundry on Windows ile yerel yapay zeka kullanma

Microsoft Foundry on Windows, yerel yapay zeka özelliklerini Windows uygulamalarıyla tümleştirmek isteyen geliştiriciler için en iyi çözümdür.

Microsoft Foundry on Windows, geliştiricilere...

Yapay zeka konusunda yeni veya deneyimli bir Machine Learning (ML) uzmanı olmanız fark etmeksizin Microsoft Foundry on Windows sizin için bir şeyler vardır.

Microsoft Foundry on Windows (Windows AI APIs, Foundry Local ve Windows ML) içeren çeşitli bileşenleri gösteren bir diyagram.

Kullanıma hazır yapay zeka modelleri ve API'leri

Uygulamanız bir saatten kısa bir süre içinde aşağıdaki yerel yapay zeka modellerini ve API'lerini zahmetsizce kullanabilir. Model dosyalarının dağıtımı ve çalışma zamanı Microsoft tarafından işlenir ve modeller uygulamalar arasında paylaşılır. Bu modelleri ve API'leri kullanmak yalnızca birkaç kod satırı gerektirir ve ml uzmanlığı gerekmez.

Model türü veya API Nedir o Seçenekler ve desteklenen cihazlar
Büyük Dil Modelleri (LLM'ler) Üretken metin modelleri Phi Silika aracılığıyla AI APIs (ince ayarlamayı destekler) veya 20+ OSS LLM modeline Foundry Local

Daha fazla bilgi edinmek için bkz. Yerel LLM'ler .
Görüntü Açıklaması Resmin doğal dil metin açıklamasını alma (Copilot+ bilgisayarlar) aracılığıyla Image Açıklaması
Görüntü Ön Plan Ayıklayıcısı Görüntünün ön plan kısmını segmentlere ayırma AI APIs (Copilot+ bilgisayarlar) aracılığıyla
Görüntü Üretimi Metinden görüntü oluşturma AI APIs (Copilot+ bilgisayarlar) aracılığıyla
Görüntü Nesnesi Silme Resimlerden nesneleri silme AI APIs Görüntü Nesne Silme (Copilot+ bilgisayarlar) aracılığıyla
Görüntü Nesnesi Ayıklayıcısı Görüntüdeki belirli nesneleri segmentlere ayırma AI APIs (Copilot+ bilgisayarlar) aracılığıyla
Görüntü Süper Çözünürlüğü Görüntülerin çözünürlüğünü artırma Görüntü Süper Çözünürlük AI APIs (Copilot+ bilgisayarlar)
Anlamsal Arama Metin ve resimleri anantolojik olarak arama Uygulama İçeriği AramaAI APIs (Copilot+ bilgisayarlar) aracılığıyla
Konuşma Tanıma Konuşmayı metne dönüştürme Foundry Local aracılığıyla Fısıltı veya Windows SDK aracılığıyla Konuşma Tanıma

Daha fazla bilgi edinmek için bkz . Konuşma Tanıma .
Metin Tanıma (OCR) Resimlerden metin tanıma AI APIs (Copilot+ bilgisayarlar) aracılığıyla
Video Süper Çözünürlük (VSR) Videoların çözünürlüğünü artırma AI APIs üzerinden Video Süper Çözünürlük (Copilot+ bilgisayarlar)

Windows ML ile diğer modelleri kullanma

Yüz Tanıma'dan veya diğer kaynaklardan çok çeşitli modeller kullanabilir, hatta kendi modellerinizi eğitebilir ve Windows ML(model uyumluluğu ve performansı cihaz donanımına göre değişir) kullanarak bu modelleri Windows 10 ve sonraki bilgisayarlarda çalıştırabilirsiniz.

Daha fazla bilgi için modelleri bulma veya eğitme için Windows ML bölümüne bakın.

Başlangıç olarak hangi seçenek

Uygulamanız ve senaryonuz için en iyi yaklaşımı seçmek için bu karar ağacını izleyin:

  1. Yerleşik Windows AI APIs'un senaryonuzu kapsayıp kapsamadığını ve Copilot+ bilgisayarları hedefleyip hedeflemediğinizi kontrol edin. Bu, minimum geliştirme çabasıyla pazara giden en hızlı yoldur.

  2. Windows AI APIs ihtiyacınız olan şeye sahip değilse veya Windows 10 ve üzerini desteklemeniz gerekiyorsa LLM veya sesli metin senaryoları için Foundry Local göz önünde bulundurun.

  3. Özel modellere ihtiyacınız varsa, Yüz Tanıma veya diğer kaynaklardan mevcut modellerden yararlanmak istiyorsanız veya yukarıdaki seçenekler kapsamında olmayan belirli model gereksinimleriniz varsa, Windows ML size kendi modellerinizi bulma veya eğitma esnekliği sağlar (ve Windows 10 ve üzerini destekler).

Uygulamanız bu teknolojilerin üçünün bir bileşimini de kullanabilir.

Yerel yapay zeka için kullanılabilen teknolojiler

aşağıdaki teknolojiler Microsoft Foundry on Windows'da kullanılabilir:

  Windows AI APIs Foundry Local Windows ML
Nedir o Copilot+ bilgisayar için iyileştirilmiş, çeşitli görev türlerinde kullanıma hazır yapay zeka modelleri ve API'leri Kullanıma hazır LLM'ler ve sesle metin modelleri ONNX Runtime bulduğunuz veya eğitdiğiniz modelleri çalıştırmak için çerçeve
Desteklenen cihazlar Copilot+ PC'ler Windows 10 ve üzeri bilgisayarlar ve çok platformlu

(Performans kullanılabilir donanıma göre değişir, tüm modeller kullanılamaz)
Windows 10 ve üzeri bilgisayarlar ve açık kaynak ONNX Runtime aracılığıyla platformlar arası

(Performans, kullanılabilir donanıma göre değişir)
Model türleri ve API'ler kullanılabilir LLM
Görüntü Açıklaması
Görüntü Ön Plan Ayıklayıcısı
Görüntü Üretimi
Görüntü Nesnesi Silme
Görüntü Nesnesi Ayıklayıcısı
Görüntü Süper Çözünürlüğü
Anlamsal Arama
Metin Tanıma (OCR)
Video Süper Çözünürlük
LLM'ler (birden çok)
sesi metne dönüştürme

20'den fazla kullanılabilir modele göz atın
Kendi modellerinizi bulma veya eğitma
Model dağıtımı Microsoft tarafından barındırılır, çalışma zamanında alınır ve uygulamalar arasında paylaşılır Microsoft tarafından barındırılır, çalışma zamanında alınır ve uygulamalar arasında paylaşılır Uygulamanız tarafından işlenen dağıtım (uygulama kitaplıkları modelleri uygulamalar arasında paylaşabilir)
Daha fazla bilgi edinin AI APIs Belgeleri okuyun Foundry Local Belgeleri okuyun Windows ML Belgeleri okuyun

ayrıca yapay zeka özelliklerini oluşturma konusunda başarılı olmanıza yardımcı olacak Visual Studio Code için gibi geliştirici araçları ve AI Geliştirme Galerisi içerir.

Foundry Toolkit for Visual Studio Code daha iyi performans için donanım hızlandırmaya erişim ve DirectML aracılığıyla ölçeklendirme de dahil olmak üzere yapay zeka modellerini yerel olarak indirip çalıştırmanızı sağlayan bir VS Code Uzantısıdır. , Foundry Toolkit aşağıdakiler konusunda da size yardımcı olabilir:

  • Modelleri sezgisel bir oyun alanında veya uygulamanızda REST API ile test etme.
  • Yeni beceriler oluşturmak, yanıtların güvenilirliğini artırmak, yanıtın tonunu ve biçimini ayarlamak için yapay zeka modelinizi hem yerel olarak hem de bulutta (sanal makinede) hassas ayarlamalar yapın.
  • Phi-3 ve Mistralgibi popüler küçük dil modellerinde (SLM) ince ayar yapın.
  • Yapay zeka özelliğinizi buluta veya cihazda çalışan bir uygulamayla dağıtın.
  • DirectML kullanarak yapay zeka özellikleriyle daha iyi performans için donanım hızlandırmadan yararlanın. DirectML, Windows cihaz donanımınızın cihaz GPU'sunu veya NPU'sunu kullanarak ML modellerinin performansını hızlandırmasını sağlayan düşük düzeyli bir API'dir. DirectML'yi ONNX Runtime ile eşleştirmek, geliştiricilerin kullanıcıları için donanım hızlandırmalı yapay zekayı uygun ölçekte getirmesinin en kolay yoludur. Daha fazla bilgi edinin: DirectML'ye Genel Bakış.
  • Model dönüştürme özelliklerini kullanarak NPU'da kullanılacak modeli ölçme ve doğrulama

Yerel yapay zekadan yararlanma fikirleri

Windows uygulamaların işlevlerini ve kullanıcı deneyimini geliştirmek için yerel yapay zekadan yararlanmanın birkaç yolu şunlardır:

  • Uygulamalar özetlemek, yeniden yazmak, raporlamak veya genişletmek için karmaşık konuları anlamak için Üretken AI LLM modellerini kullanabilir .
  • Uygulamalar, serbest biçimli içeriği uygulamanızın anlayabileceği yapılandırılmış bir biçime dönüştürmek için LLM modellerini kullanabilir .
  • Uygulamalar, kullanıcıların anlam gereği içerik aramasına ve ilgili içeriği hızla bulmasına olanak sağlayan AnlamSal Arama modellerini kullanabilir .
  • Uygulamalar, karmaşık doğal dil gereksinimlerini karşılamak için doğal dil işleme modellerini kullanabilir ve kullanıcının sorusunu yerine getirmek için eylemleri planlayıp yürütebilir.
  • Uygulamalar görüntüleri akıllı bir şekilde değiştirmek, konuları silmek veya eklemek, ölçeğini artırma veya yeni içerik oluşturmak için görüntü işleme modellerini kullanabilir.
  • Uygulamalar, sorunları tanımlamaya ve tahmin etmeye yardımcı olmak için tahmine dayalı tanılama modellerini kullanabilir ve kullanıcıya yol göstermesine yardımcı olabilir veya bunlar için bunu yapabilir.

Bulut yapay zeka modellerini kullanma

Yerel yapay zeka özelliklerini kullanmak sizin için doğru yol değilse Bulut yapay zeka modellerini ve kaynaklarını kullanmak bir çözüm olabilir.

Sorumlu yapay zeka uygulamalarını kullanma

Windows uygulamanıza yapay zeka özelliklerini eklediğinizde highlyDeveloping Responsible Generative AI Applications and Features on Windows kılavuzuna uymanızı öneririz.