Nuta
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować się zalogować lub zmienić katalog.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Microsoft Foundry on Windows to premierowe rozwiązanie dla deweloperów, którzy chcą zintegrować lokalne funkcje sztucznej inteligencji z aplikacjami systemu Windows.
Microsoft Foundry on Windows udostępnia deweloperom...
- Gotowe do użycia modele i interfejsy API sztucznej inteligencji za pośrednictwem systemu Windows AI APIs i Foundry Local
- Platforma wnioskowania sztucznej inteligencji do uruchamiania dowolnego modelu lokalnie za pośrednictwem Windows ML
Niezależnie od tego, czy jesteś nowym użytkownikiem sztucznej inteligencji, czy doświadczonym ekspertem w zakresie uczenia maszynowego, Microsoft Foundry on Windows masz coś dla Ciebie.
Gotowe do użycia modele i interfejsy API sztucznej inteligencji
Aplikacja może bez wysiłku korzystać z następujących lokalnych modeli sztucznej inteligencji i interfejsów API w mniej niż godzinę. Dystrybucja i środowisko uruchomieniowe plików modelu są obsługiwane przez firmę Microsoft, a modele są współużytkowane przez aplikacje. Korzystanie z tych modeli i interfejsów API wymaga tylko kilku wierszy kodu, co nie wymaga specjalistycznej wiedzy ml.
| Typ modelu lub interfejs API | Co to jest | Opcje i obsługiwane urządzenia |
|---|---|---|
| Duże modele językowe (LLMs) | Modele generatywne tekstu | Phi Silica via AI APIs (obsługuje dostrajanie) lub za pośrednictwem Foundry Local ponad 20 modeli OSS LLM Zobacz Local LLMs, aby dowiedzieć się więcej. |
| Opis obrazu | Uzyskiwanie opisu tekstu w języku naturalnym obrazu | Opis obrazu za pośrednictwem AI APIs (Copilot+ PC) |
| Ekstraktor pierwszego planu obrazu | Segmentowanie pierwszego planu obrazu | Wyodrębnianie pierwszego planu obrazu za pośrednictwem polecenia AI APIs (Copilot+ Komputery) |
| Generowanie obrazów | Generowanie obrazów na podstawie tekstu | Generowanie obrazów za pomocą AI APIs (Komputery Copilot+) |
| Wymazywanie obiektu obrazu | Wymazywanie obiektów z obrazów | Wymazywanie obiektu obrazu za pośrednictwem AI APIs (Copilot+ PC) |
| Wyodrębnianie obiektu obrazu | Segmentowanie określonych obiektów na obrazie | Wyodrębnianie obiektów z obrazów przy użyciu AI APIs (Copilot+ PC) |
| Super-rozdzielczość obrazu | Zwiększanie rozdzielczości obrazów | Super-rozdzielczość obrazu za pośrednictwem AI APIs (Copilot+ komputery) |
| Wyszukiwanie semantyczne | Semantycznie wyszukaj tekst i obrazy | Wyszukiwanie zawartości aplikacji za pośrednictwem AI APIs (Copilot+ PC) |
| Rozpoznawanie mowy | Konwersja mowy na tekst | Whisper za pomocą Foundry Local lub rozpoznawanie mowy za pośrednictwem Windows SDK Zobacz Rozpoznawanie mowy , aby dowiedzieć się więcej. |
| Rozpoznawanie tekstu (OCR) | Rozpoznawanie tekstu z obrazów | OCR przez AI APIs (Copilot+ PC) |
| Super rozdzielczość wideo (VSR) | Zwiększanie rozdzielczości filmów wideo | Super rozdzielczość wideo przy użyciu AI APIs (Komputery Copilot+) |
Używanie innych modeli z Windows ML
Można użyć wielu różnych modeli z hugging Face lub innych źródeł, a nawet trenować własne modele, a nawet uruchamiać je lokalnie na komputerach z systemem Windows 10+ przy użyciu Windows ML(zgodność modelu i wydajność będą się różnić w zależności od sprzętu urządzenia).
Aby dowiedzieć się więcej, zobacz znajdź lub wytrenuj modele do użycia z Windows ML.
Którą opcję wybrać na początek
Postępuj zgodnie z tym drzewem decyzyjnym, aby wybrać najlepsze podejście dla aplikacji i scenariusza:
Sprawdź, czy wbudowany system Windows AI APIs obejmuje twój scenariusz i czy jest przeznaczony dla komputerów Copilot+ . Jest to najszybsza ścieżka do rynku przy minimalnym wysiłku rozwojowym.
Jeśli system Windows AI APIs nie ma potrzebnych elementów lub jeśli potrzebujesz wsparcia dla systemu Windows 10 lub nowszego, rozważ użycie Foundry Local do scenariuszy LLM lub zamiany mowy na tekst.
Jeśli potrzebujesz modeli niestandardowych, chcesz korzystać z istniejących modeli z Hugging Face lub innych źródeł albo masz określone wymagania dotyczące modelu, które nie są objęte powyższymi opcjami, Windows ML zapewnia elastyczność trenowania lub znajdowania własnych modeli.
Aplikacja może również używać kombinacji wszystkich trzech z tych technologii.
Technologie dostępne dla lokalnej sztucznej inteligencji
Następujące technologie są dostępne w programie Microsoft Foundry on Windows:
| Windows AI APIs | Foundry Local | Windows ML | |
|---|---|---|---|
| Co to jest | Gotowe do użycia modele I interfejsy API sztucznej inteligencji w różnych typach zadań zoptymalizowane pod kątem komputerów Copilot+ | Gotowe do użycia modele LLM i modele do zamiany mowy na tekst | ONNX Runtime system do uruchamiania modeli, które można znaleźć lub wytrenować |
| Obsługiwane urządzenia | Copilot + komputery | Wszystkie komputery z systemem Windows 10 lub nowszym oraz międzyplatformowe (Wydajność różni się w zależności od dostępnego sprzętu, a nie wszystkich dostępnych modeli) |
Wszystkie komputery z systemem Windows 10 lub nowszym, a także rozwiązania międzyplatformowe za pomocą otwartoźródłowego oprogramowania ONNX Runtime (Wydajność różni się w zależności od dostępnego sprzętu) |
| Dostępne typy modeli i interfejsy API |
LLM Opis obrazu Ekstraktor pierwszego planu obrazu Generowanie obrazów Wymazywanie obiektu obrazu Wyodrębnianie obiektu obrazu Super-rozdzielczość obrazu Wyszukiwanie semantyczne Rozpoznawanie tekstu (OCR) Wideo w super rozdzielczości |
LLM (wiele modeli językowych) zamiana głosu na tekst Przeglądaj 20+ dostępne modele |
Znajdowanie lub trenowanie własnych modeli |
| Dystrybucja modelu | Hostowane przez firmę Microsoft, pobierane dynamicznie w czasie wykonywania i udostępniane w aplikacjach | Hostowane przez firmę Microsoft, pobierane w czasie działania i udostępniane w różnych aplikacjach | Dystrybucja obsługiwana przez aplikację (biblioteki aplikacji mogą udostępniać modele między aplikacjami) |
| Dowiedz się więcej | Przeczytaj dokumenty AI APIs | Przeczytaj dokumenty Foundry Local | Przeczytaj dokumenty Windows ML |
Microsoft Foundry on Windows Obejmuje również narzędzia dla deweloperów, takie jak AI Toolkit program Visual Studio Code i AI Dev Gallery, które pomogą Ci w pomyślnym budowaniu możliwości AI.
AI Toolkit Dla programu Visual Studio Code to rozszerzenie programu VS Code, które umożliwia pobieranie i uruchamianie modeli sztucznej inteligencji lokalnie, w tym dostęp do przyspieszania sprzętowego w celu uzyskania lepszej wydajności i skalowania za pomocą języka DirectML. Narzędzie AI Toolkit może również pomóc w następujących czynnościach:
- Testowanie modeli w intuicyjnym środowisku zabaw lub w aplikacji przy użyciu interfejsu API REST.
- Dostrajanie modelu sztucznej inteligencji zarówno lokalnie, jak i w chmurze (na maszynie wirtualnej) w celu utworzenia nowych umiejętności, zwiększenia niezawodności odpowiedzi, ustawienia tonu i formatu odpowiedzi.
- Dostrajanie popularnych modeli małych języków (SLMs), takich jak Phi-3 i Mistral.
- Wdróż funkcję sztucznej inteligencji w chmurze lub za pomocą aplikacji działającej na urządzeniu.
- Wykorzystanie przyspieszania sprzętowego w celu uzyskania lepszej wydajności dzięki funkcjom sztucznej inteligencji przy użyciu języka DirectML. DirectML to interfejs API niskiego poziomu, który umożliwia sprzętowi urządzenia z systemem Windows przyspieszenie wydajności modeli uczenia maszynowego przy użyciu procesora GPU lub procesora NPU urządzenia. Parowanie języka DirectML z funkcją ONNX Runtime jest zwykle najprostszym sposobem, w jaki deweloperzy mogą zapewnić użytkownikom sztuczną inteligencję przyspieszaną sprzętowo. Dowiedz się więcej: Omówienie języka DirectML.
- Kwantyzowanie i weryfikacja modelu do użycia na NPU przy wykorzystaniu możliwości konwersji modelu
Pomysły na wykorzystanie lokalnej sztucznej inteligencji
Oto kilka sposobów wykorzystania lokalnej sztucznej inteligencji przez aplikacje systemu Windows w celu zwiększenia funkcjonalności i środowiska użytkownika:
- Aplikacje mogą korzystać z generacyjnych modeli AI LLM, aby zrozumieć złożone tematy, które mogą być podsumowywane, przekształcane, raportowane lub rozwijane.
- Aplikacje mogą używać modeli LLM do przekształcania swobodnej treści w ustrukturyzowany format, który Twoja aplikacja może zrozumieć.
- Aplikacje mogą używać modeli wyszukiwania semantycznego , które umożliwiają użytkownikom wyszukiwanie zawartości według znaczenia i szybkie znajdowanie powiązanej zawartości.
- Aplikacje mogą używać modeli przetwarzania języka naturalnego do analizowania złożonych wymagań języka naturalnego oraz planowania i wykonywania działań w celu spełnienia prośby użytkownika.
- Aplikacje mogą używać modeli manipulowania obrazami do inteligentnego modyfikowania obrazów, wymazywania lub dodawania tematów, skalowania w górę lub generowania nowej zawartości.
- Aplikacje mogą używać predykcyjnych modeli diagnostycznych, aby pomóc w identyfikowaniu i przewidywaniu problemów oraz prowadzić użytkownika lub robić to za niego.
Korzystanie z modeli sztucznej inteligencji w chmurze
Jeśli korzystanie z lokalnych funkcji sztucznej inteligencji nie jest właściwą ścieżką, użycie modeli i zasobów sztucznej inteligencji w chmurze może być rozwiązaniem.
Korzystanie z praktyk dotyczących odpowiedzialnej sztucznej inteligencji
Za każdym razem, gdy dołączasz funkcje sztucznej inteligencji do swojej aplikacji na Windows, zdecydowanie zalecamy przestrzeganie wytycznych dotyczących tworzenia i wdrażania odpowiedzialnych aplikacji oraz funkcji generatywnej sztucznej inteligencji na Windows.