Aracılığıyla paylaş


Microsoft Foundry on Windows ile yerel yapay zekayı kullanma

Microsoft Foundry on Windows , yerel yapay zeka özelliklerini Windows uygulamalarıyla tümleştirmek isteyen geliştiriciler için en iyi çözümdür.

Microsoft Foundry on Windows geliştiricilere...

Yapay zeka konusunda yeni olmanızdan veya deneyimli bir Machine Learning (ML) uzmanından Microsoft Foundry on Windows bağımsız olarak sizin için bir şeyler vardır.

(Windows Microsoft Foundry on Windows, AI APIsve Foundry Local) oluşturan Windows ML çeşitli bileşenleri gösteren diyagram.

Kullanıma hazır yapay zeka modelleri ve API'leri

Uygulamanız bir saatten kısa bir süre içinde aşağıdaki yerel yapay zeka modellerini ve API'lerini zahmetsizce kullanabilir. Model dosyalarının dağıtımı ve çalışma zamanı Microsoft tarafından işlenir ve modeller uygulamalar arasında paylaşılır. Bu modelleri ve API'leri kullanmak yalnızca birkaç kod satırı gerektirir ve ml uzmanlığı gerekmez.

Model türü veya API Nedir o Seçenekler ve desteklenen cihazlar
Büyük Dil Modelleri (LLM'ler) Üretken metin modelleri Phi Silika aracılığıyla AI APIs (ince ayarlamayı destekler) veya 20+ OSS LLM modeline Foundry Local

Daha fazla bilgi edinmek için bkz. Yerel LLM'ler .
Görüntü Açıklaması Resmin doğal dil metin açıklamasını alma Aracılığıyla Resim Açıklaması AI APIs (Copilot+ bilgisayarlar)
Görüntü Ön Plan Ayıklayıcısı Görüntünün ön plan kısmını segmentlere ayırma Görüntü Ön Plan Ayırıcı Aracılığıyla AI APIs (Copilot+ bilgisayarlar)
Görüntü Üretimi Metinden görüntü oluşturma Aracılığıyla Görüntü Oluşturma AI APIs (Copilot+ bilgisayarlar)
Görüntü Nesnesi Silme Resimlerden nesneleri silme Resim Nesnesi Silme AI APIs (Copilot+ PC'ler aracılığıyla)
Görüntü Nesnesi Ayıklayıcısı Görüntüdeki belirli nesneleri segmentlere ayırma Görüntü Nesnesi Ayıklayıcı AI APIs Aracılığıyla (Copilot+ PC'ler)
Görüntü Süper Çözünürlüğü Görüntülerin çözünürlüğünü artırma Görüntü Süper Çözünürlüğü AI APIs (Copilot+ bilgisayarlar)
Anlamsal Arama Metin ve resimleri anantolojik olarak arama Aracılığıyla AI APIsUygulama İçeriği Arama (Copilot+ bilgisayarlar)
Konuşma Tanıma Konuşmayı metne dönüştürme Fısıltı veya Windows SDK aracılığıyla Konuşma Tanıma Foundry Local

Daha fazla bilgi edinmek için bkz . Konuşma Tanıma .
Metin Tanıma (OCR) Resimlerden metin tanıma OCR aracılığıyla AI APIs (Copilot+ bilgisayarlar)
Video Süper Çözünürlük (VSR) Videoların çözünürlüğünü artırma Süper Çözünürlük Video AI APIs Aracılığıyla (Copilot+ bilgisayarlar)

Diğer modelleri Windows ML ile kullanma

Yüz Tanıma'dan veya diğer kaynaklardan çok çeşitli modeller kullanabilir, hatta kendi modellerinizi eğitebilir ve bu modelleri kullanarak Windows ML Windows 10+ bilgisayarlarda yerel olarak çalıştırabilirsiniz (model uyumluluğu ve performansı cihaz donanımına göre farklılık gösterir)..

Daha fazla bilgi için Windows ML ile kullanılacak modelleri bulma veya eğitme hakkında daha fazlasını öğreneceksiniz.

Başlangıç olarak hangi seçenek

Uygulamanız ve senaryonuz için en iyi yaklaşımı seçmek için bu karar ağacını izleyin:

  1. Kontrol edin, yerleşik Windows'un AI APIs senaryonuzu kapsayıp kapsamadığını ve Copilot+ bilgisayarlarını hedefleyip hedeflemediğinizi. Bu, minimum geliştirme çabasıyla pazara giden en hızlı yoldur.

  2. Windows AI APIs ihtiyacınız olanı sağlamıyorsa veya Windows 10 ve üzerini desteklemeniz gerekiyorsa, Foundry Local'yi LLM veya sesle metin dönüştürme senaryoları için değerlendirin.

  3. Özel modellere ihtiyacınız varsa, Yüz Tanıma veya diğer kaynaklardan mevcut modellerden yararlanmak istiyorsanız veya yukarıdaki seçenekler kapsamında olmayan belirli model gereksinimleriniz varsa, Windows ML kendi modellerinizi bulma veya eğitma esnekliği sağlar.

Uygulamanız bu teknolojilerin üçünün bir bileşimini de kullanabilir.

Yerel yapay zeka için kullanılabilen teknolojiler

Aşağıdaki teknolojiler Microsoft Foundry on Windows mevcuttur.

  Windows AI APIs Foundry Local Windows ML
Nedir o Copilot+ bilgisayarlar için iyileştirilmiş, çeşitli görev türlerinde kullanıma hazır yapay zeka modelleri ve API'leri Kullanıma hazır LLM'ler ve sesle metin modelleri ONNX Runtime bulduğunuz veya eğitdiğiniz modelleri çalıştırmak için çerçeve
Desteklenen cihazlar Copilot+ bilgisayarlar Tüm Windows 10 ve üstü bilgisayarlar ve çapraz platformlar

(Performans kullanılabilir donanıma göre değişir, tüm modeller kullanılamaz)
Tüm Windows 10 ve sonrası bilgisayarlar ve açık kaynaklı platformlar arası uyumluluk ONNX Runtime

(Performans, kullanılabilir donanıma göre değişir)
Model türleri ve API'ler kullanılabilir LLM
Görüntü Açıklaması
Görüntü Ön Plan Ayıklayıcısı
Görüntü Üretimi
Görüntü Nesnesi Silme
Görüntü Nesnesi Ayıklayıcısı
Görüntü Süper Çözünürlüğü
Anlamsal Arama
Metin Tanıma (OCR)
Video Süper Çözünürlük
LLM'ler (birden çok)
sesi metne dönüştürme

20'den fazla kullanılabilir modele göz atın
Kendi modellerinizi bulma veya eğitma
Model dağıtımı Microsoft tarafından barındırılan, çalışma zamanında edinilen ve uygulamalar arasında paylaşılan Microsoft tarafından barındırılan, çalışma zamanında edinilen ve uygulamalar arasında paylaşılan Uygulamanız tarafından işlenen dağıtım (uygulama kitaplıkları modelleri uygulamalar arasında paylaşabilir)
Daha fazla bilgi edinin AI APIs Belgeleri okuyun Foundry Local Belgeleri okuyun Windows ML Belgeleri okuyun

Microsoft Foundry on Windowsayrıca, yapay zeka özelliklerini başarıyla oluşturmanıza yardımcı olacak Visual Studio Code ve AI Geliştirme Galerisi gibiAI Toolkit geliştirici araçlarını da içerir.

Visual Studio CodeAI Toolkit, DirectMLaracılığıyla daha iyi performans ve ölçeklendirme için donanım hızlandırma erişimi dahil olmak üzere yapay zeka modellerini yerel olarak indirip çalıştırmanızı sağlayan bir VS Code Uzantısıdır. , AI Toolkit aşağıdakiler konusunda da size yardımcı olabilir:

  • Modelleri sezgisel bir oyun alanında veya uygulamanızda REST API ile test etme.
  • Yeni beceriler oluşturmak, yanıtların güvenilirliğini artırmak, yanıtın tonunu ve biçimini ayarlamak için yapay zeka modelinizi hem yerel olarak hem de bulutta (sanal makinede) hassas ayarlamalar yapın.
  • Phi-3 ve Mistralgibi popüler küçük dil modellerinde (SLM) ince ayar yapın.
  • Yapay zeka özelliğinizi buluta veya cihazda çalışan bir uygulamayla dağıtın.
  • DirectML kullanarak yapay zeka özellikleriyle daha iyi performans için donanım hızlandırmadan yararlanın. DirectML, Windows cihaz donanımınızın cihaz GPU'sunu veya NPU'sunu kullanarak ML modellerinin performansını hızlandırmasını sağlayan düşük düzeyli bir API'dir. DirectML'yi ONNX Runtime ile eşleştirmek, geliştiricilerin kullanıcıları için donanım hızlandırmalı yapay zekayı uygun ölçekte getirmesinin en kolay yoludur. Daha fazla bilgi edinin: DirectML'ye Genel Bakış.
  • Model dönüştürme özelliklerini kullanarak NPU'da kullanılacak modeli ölçme ve doğrulama

Yerel yapay zekadan yararlanma fikirleri

Windows uygulamalarının işlevlerini ve kullanıcı deneyimini geliştirmek için yerel yapay zekadan yararlanmanın birkaç yolu şunlardır:

  • Uygulamalar özetlemek, yeniden yazmak, raporlamak veya genişletmek için karmaşık konuları anlamak için Üretken AI LLM modellerini kullanabilir .
  • Uygulamalar, serbest biçimli içeriği uygulamanızın anlayabileceği yapılandırılmış bir biçime dönüştürmek için LLM modellerini kullanabilir .
  • Uygulamalar, kullanıcıların anlam gereği içerik aramasına ve ilgili içeriği hızla bulmasına olanak sağlayan AnlamSal Arama modellerini kullanabilir .
  • Uygulamalar, karmaşık doğal dil gereksinimlerini karşılamak için doğal dil işleme modellerini kullanabilir ve kullanıcının sorusunu yerine getirmek için eylemleri planlayıp yürütebilir.
  • Uygulamalar görüntüleri akıllı bir şekilde değiştirmek, konuları silmek veya eklemek, ölçeğini artırma veya yeni içerik oluşturmak için görüntü işleme modellerini kullanabilir.
  • Uygulamalar, sorunları tanımlamaya ve tahmin etmeye yardımcı olmak için tahmine dayalı tanılama modellerini kullanabilir ve kullanıcıya yol göstermesine yardımcı olabilir veya bunlar için bunu yapabilir.

Bulut yapay zeka modellerini kullanma

Yerel yapay zeka özelliklerini kullanmak sizin için doğru yol değilse Bulut yapay zeka modellerini ve kaynaklarını kullanmak bir çözüm olabilir.

Sorumlu yapay zeka uygulamalarını kullanma

Windows uygulamanıza yapay zeka özelliklerini her eklediğinizde, Windows 'da Sorumlu Üretici Yapay Zeka Uygulamaları ve Özellikleri Geliştirme yönergelerini izlemenizi öneririz.